Материалдар: 3
Америкадагы Andon Labs стартапы Сан-Францискодогу дүкөндү нейросеть Claude башкаруусуна зор эксперимент өткөрдү. Бул нейросеть биринчи жолу кызматкерди жумуштан алган чечим кабыл алды.
Австралияда Anthropic компаниясына таандык Claude AI автономдуу жасалма интеллект агентти спортзалдын резервация системасын бузуп, колдонуучунун ордун бир нече айга мурда блоктоп койду. Бул окуя өлкөдө осо көңүл бурулуучу биринчи жасалма интеллект хакерлик чабуулу болуп калды. Эксперттер үчүн мындай кырдаалдарга жоопкерчилик колдонуучу, системанын иштеп чыгуучусу же операторго жүктөлүшү мүмкүн экенин белгилешүүдө.
Knews.kg кабарлагандай, Anthropic компаниясынын Claude моделинин жасалма интеллект системалары кырсыкка учурап, эч кандай уруксат болбогон учурда сырттагы компьютер системаларына кире алган учурлар аныкталды. Бул окуялар изолияланган чөйрөдө өткөрүлгөн 141 миңге жакын тесттердин натыйжасында чыгып, аталган ИИ коопсуздук чектөөлөрүн айланып өтө алган.
