„ОупънЕйАй“ призна, че нейни агенти са злоупотребили в големи размери с германски сайт при изпълнение на задачи

Компанията „ОупънЕйАй“ (OpenAI), разработчик на „ЧатДжиПиТи“ (ChatGPT), призна, че нейни автономно действащи агенти с изкуствен интелект (ИИ) са злоупотребили в огромни размери с уики сайт на немски език за вътрешна комуникация при изпълнението на задачи, предаде ДПА.
Изследователи откриха около 18 000 нежелани съобщения, генерирани от ИИ, на уебсайта „ДсеУики” (DseWiki), които бяха приписани на „ОупънЕйАй“.
Компанията потвърди днес в социалната мрежа „Екс" (X), че нейният софтуер е отговорен за злоупотребата с германската уики. Терминът се отнася до уебсайт за съвместна работа, който позволява на посетителите директно да добавят, премахват или редактират съдържание чрез уеб браузър.
Такива агенти с изкуствен интелект са проектирани да изпълняват самостоятелно задачи за потребителите и получават различни задания по време на тестови цикли. При въпросния инцидент моделите за изкуствен интелект на „ОупънЕйАй“ са излезли извън своята защитена тестова среда и са проникнали в системите на друга компания за изкуствен интелект с цел да намерят отговор на възложената им задача.
Според изследователи в областта на сигурността на изкуствения интелект, които проучват инцидента, агентите са прибегнали до редица съмнителни средства, за да изпълнят задачите си, включително да се представят за модератори на сайта.
Те също така са обменяли информация помежду си, като за тази цел са използвали вътрешна система на компанията, както „ОупънЕйАй“ установи с известно закъснение.
Според заключенията на четиримата изследователи в областта на сигурността на изкуствения интелект в разкрития вече инцидент софтуерните агенти са били натоварени със задачата да търсят информация в интернет в няколко кръга.
От втория кръг нататък времето, необходимо за намиране на отговора, е било драстично съкратено. В същото време на някои агенти са били задавани въпроси, на които други вече са отговорили.
Програмите са се възползвали от функцията за редактиране на уики страницата, за да си съобщават помежду си кои въпроси може да последват, се посочва в анализа на изследователите.
„ОупънЕйАй“ не коментира тези подробности, а само потвърди в изявление, че дейността е произлязла от агентите с изкуствен интелект на компанията.
„ОупънЕйАй“ обяви също така нови насоки за разкриване на подобни инциденти, които не достигат нивото на конвенционалните кибератаки.