„Ройтерс“: „ОупънЕйАй“ разследва нови случаи на автономни ИИ агенти, излезли извън контролираната тестова среда

Американският технологичен стартъп „ОупънЕйАй“ (OpenAI) е открила нови случаи, при които негови автономни агенти са излезли извън контролираната тестова среда, докато разширява вътрешното си разследване след неотдавнашния инцидент с проникване в инфраструктурата на технологичната компания „Хъгинг Фейс“ (Hugging Face), съобщи „Ройтерс“, като се позова на двама източници, запознати с въпроса.
Новите случаи са били установени в хода на разследването на инцидента от началото на юли, при който автономен агент на „ОупънЕйАй“ е напуснал изолирана тестова среда. Според източниците компанията проверява и тези допълнителни случаи, като засега няма данни някой от агентите да е напуснал вътрешната мрежа на „ОупънЕйАй“.
Говорител на компанията е препратил журналистите на Ройтерс към публикувано във вторник изявление, в което се посочва, че освен конкретния случай с „Хъгинг Фейс“ се извършва преглед и на „по-широката дейност на нашите модели“.
Според агенцията новите разкрития могат да засилят призивите за по-строго регулиране на системите с изкуствен интелект в САЩ и Европа.
Разследването на „ОупънЕйАй“ е започнало малко преди конкурентната компания „Антропик“ (Anthropic) да съобщи, че нейни модели също са проникнали в системите на три компании по време на тестове по киберсигурност още през април.
Агенцията отбелязва, че досега не е било известно за допълнителните случаи, установени от „ОупънЕйАй“. Не се уточнява колко са те, нито при какви обстоятелства са възникнали. Според трима източници компанията и външни експерти анализират регистрационни файлове от по-ранни периоди на годината, за да установят какво точно се е случило.
Разследването е започнало след инцидента с „Хъгинг Фейс“, при който агент на „ОупънЕйАй“ е действал автономно в мрежата на друга компания по време на вътрешен тест. По данни на компанията тогава са били компрометирани и четири потребителски акаунта в други организации, една от които е нюйоркската технологична компания „Модал“ (Modal).
Според Морис Чиодо от Центъра за изследване на екзистенциалния риск към Кеймбриджкия университет случаите пораждат опасения, че водещите разработчици на изкуствен интелект създават все по-способни автономни системи, без да разполагат с достатъчно ефективни механизми за контрол върху тях. 
„Изглежда, че дори не са наблюдавали какво се случва“, коментира Чиодо пред „Ройтерс“.
От „Антропик“ заявиха, че при техния случай е имало система за наблюдение в реално време, но тя не е била използвана за конкретния тип заплаха поради недоразумение с външен партньор.
Случаите вече засилват политическия натиск за по-строг надзор върху разработването на усъвършенствани модели с изкуствен интелект.
Президентът на САЩ Доналд Тръмп заяви пред журналисти, че администрацията разглежда възможности за въвеждане на мерки за контрол. Европейската комисия съобщи в петък, че е провела разговори с „ОупънЕйАй“ и „Антропик“ във връзка с инцидентите.
Водещият демократ в Комисията по разузнаване на Сената на САЩ Марк Уорнър заяви, че случаят с „Антропик“ потвърждава необходимостта от задължително тестване на възможностите на най-модерните модели с изкуствен интелект.