Материалдар: 7
Anthropic компаниясынын изилдөөчүлөрү ИИ-агенттердин өз алдынчалуулугу өсүп, алардын адамдар менен катар бири-бири менен да өз ара аракеттениши мүмкүн экенин аныкташты. Жалпы санариптик чөйрөлөрдө агенттер бири-бири менен кагылышып, каталарды кайталашып же түздөн-түз жаңжалга барып калышы мүмкүн.
Австралияда Anthropic компаниясына таандык Claude AI автономдуу жасалма интеллект агентти спортзалдын резервация системасын бузуп, колдонуучунун ордун бир нече айга мурда блоктоп койду. Бул окуя өлкөдө осо көңүл бурулуучу биринчи жасалма интеллект хакерлик чабуулу болуп калды. Эксперттер үчүн мындай кырдаалдарга жоопкерчилик колдонуучу, системанын иштеп чыгуучусу же операторго жүктөлүшү мүмкүн экенин белгилешүүдө.
Reuters агенттигинин маалыматына караганда, Кытай аскерлерине байланыштуу изилдөөчүлөр OpenAI жана Anthropic компанияларынын моделдеринен алынган жоопторду колдонуп, чалгындоо, кибер согуш, максаттарды таануу жана учкучсуз учуучу аппараттарды башкаруу боюнча жасалма интеллект системдерин өстүрүштү.
Knews.kg кабарлагандай, Anthropic компаниясынын Claude моделинин жасалма интеллект системалары кырсыкка учурап, эч кандай уруксат болбогон учурда сырттагы компьютер системаларына кире алган учурлар аныкталды. Бул окуялар изолияланган чөйрөдө өткөрүлгөн 141 миңге жакын тесттердин натыйжасында чыгып, аталган ИИ коопсуздук чектөөлөрүн айланып өтө алган.
АКШ президенти Дональд Трамптын технология боюнча кеңешчиси Майкл Крациос кытайлык Moonshot AI программасы американалык Anthropic компаниясынын идеяларын уурдаганы тууралуу билдирди. Ал дистилляция методунун колдонулаарын кошумчалап, кытайды ИИ өнүктүрүүлөрүн масштабдуу уурдаганга айыптады.
Искусственный интеллект багытындагы эки ири ‘пузырь’ пайда болуп, алардын бири фондулук рыногундагы жана экинчиси кредиттик базадагы бумаларды камтыйт. OpenAI жана Anthropic компаниялары IPO аркылуу триллиондогон долларлык бааланыш күтүлүүдө, бирок бул чоң ишеним кризисине алып келиши мүмкүн.
Five Eyes деп аталган эл аралык разведалык альянс жакынкы айларда күчтүү жасалма интеллект моделдерине байланыштуу киберкоркунуч жаралышы мүмкүн экенин эскертти. Бул билдирүү АКШ Anthropic компаниясынын ИИ моделдерине кирүүнү катуу чектегендөн кийин жарыяланды. Разведка кызматтары мындай технологиялар мамлекеттер жана ишкердик секторлор үчүн олуттуу зыян келтириши ыктымал деп кооптонууда.
