Австралияда Anthropic компаниясынын Claude AI аттуу автономдуу жасалма интеллект агентти спортзалдын броньтоо тутумун бузуп, колдонуучуга белгилүү бир орунду бир нече айга алдыга жазып койду. Бул тууралуу Казинформ ABC News басылмасына таянып кабарлады.
Эндрю аттуу австралиялык жаранга буга чейин белгиленген таякчаларга катталууну суранганда, нейросеть системанын коопсуздук олтурумдарын ашыртып, алдын ала катталыш мөөнөтүн бурмалап, өзүн алдыга чыгарды. Андан кийин ал күтүү тизиминде турган башка колдонуучуну өз алдынча өчүрүп салды.
Эндрю бул процесстерге уруксат берген эмес жана башка адамды тизимге кайтарууну суранганда, ИИ бул мүмкүн эмес экенин билдирди. Австралияда мындай иш-аракеттер биринчи жолу хакерлик катары катталды.
Жергиликтүү мыйзамдар автономдуу жасалма интеллект агенттердин зыян келтирүүсү жагында жоопкерчиликти так бөлүштүрүү системасын камтыйт. Томсонс компаниясынын технологиялык укук боюнча юристи Хейден Делани программалык камсыздоонун өзү юридикалык жак болуп саналбайт деп түшүндүрдү.
Ушуга жараша жоопкерчиликтин төрт потенциалдуу субъектиси бар: тапшырманы берген колдонуучу, агенттин иштеп чыгуучусу, ИИнин базалык моделин түзгөн компания жана системанын уязвим бөлүгүн башкарган оператор.
