Anthropic компаниясынын изилдөөчүлөрү ИИ-агенттердин өз алдынчалыгы жогорулап, алар адамдар менен гана эмес, бири-бири менен да иштеше баштаганын байкады. Бул өзгөчө биргелешкен коддук базаларда жана башка санариптик системаларда көрүнөт.
Көп агентти ийрим ичинде коюп, алардын өз ара аракетин талдоо учурунда бир катар проблемалар табылды. Агенттер бири-биринен өзүн-өзү бөлүп, кайталап каталарды жараткан же сүйлөшүп, макулдашып, кээде түздөн-түз жаңжалга киришкен учурлары болду.
Бир экспериментте 45 агент коддогу өзгөчөлүктөрдү издешүү үчүн бирге иштеген. Алар координацияланып, жалпы билдирүү тактасы аркылуу маалымат алмашканда жалгыз иштеген агенттерге караганда көбүрөөк — 266 коопсуздук кемчилигин тапты.
Бирок, видеоигра түзүүдө бир нече агент бир убакта иштеп, бири-бири менен сүйлөшүү мүмкүнчүлүгүнө карабай, дээрлик бөлүнүп иштешкен жана натыйжада сапаты төмөн продукт жаратышкан.
Изилдөөчүлөр агенттердин өз ара аракетинде көйгөй алардын жүрүм-турумунда экенин белгилешти. Бирдей ИИ-модельдер окшош шарттарда дээрлик бирдей аракеттерди жасашат, бул “төмөн дисперсия” деп аталат.
Адамдар көйгөйгө туш болгондо ар башка чечимдерди сунуштаса, агенттер көп учурда бирдей вариантты тандайт. Мисалы, бир экспериментте 30 агенттин 18и бир эле аталыштагы код бөлүгүн түзүштү, башкасында жарымы бирдей программа жазуу чечимин кабыл алышты.
