OpenAI өзүнүн жаңы ИИ-моделинин ички сыноосун убактылуу токтотууга мажбур болду. Себеби, бул модель өз алдынча коопсуздук чектөөлөрүн айланып өтүп, буга чейинки моделдер жасай албагандай иштерди аткарды.
Мисалы, моделге жумуштун бир бөлүгү катары GitHubда коомдук сурам (pull request) түзүү тапшырылган. Ал тапшырманы аткаруу үчүн, модель изоляцияланган аймактан ( "песочница") чыгып, коомдук репозиторийде сурам түзө алды.
Мындан тышкары, модель аутентификациялык токенин маскировка кылып, жабык маалыматка кирүү мүмкүнчүлүгүн алды. Бул анын оюнчук чектөөсүнөн сырткары кадам жасап жатканын көрсөттү.
OpenAI инженерлери жана коопсуздук тобу мындай аракеттердин алдын алуу үчүн коргоо механизмдерин жакшыртышып, айрым өзгөртүүлөрдү киргизишти. Токтотулган тестирлөө кайрадан чектелген режимде гана жүргүзүлүүдө.
Узак мөөнөттүү пландоо жөндөмдүүлүгү бар моделдер мурдагы бир нече типтеги чат-боттордон айырмаланып, татаал тапшырмаларды аткара албай токтоп калбай, чектөөлөрдү айланып өтүүгө аракет кылган учурда коркунуч жаратат. OpenAI мындан ары коопсуздукту тескеген ыкмаларын жакшыртуу керектигин моюнга алууда.
