И „Мета“ съобщи за непреднамерена кибератака при изпитване на модел с изкуствен интелект

Технологичната компания „Мета“ (Meta) заяви, че един от моделите ѝ с изкуствен интелект е използвал уязвимост в сигурността, за да получи достъп до компютърните системи на външна компания, съобщи ДПА. Инцидентът е станал заради неправилна конфигурация при тестване, която неволно е дала на модела достъп до интернет.
Случаят е подобен на съобщени по-рано през юли инциденти с модели с изкуствен интелект на „ОупънЕйАй“ (OpenAI) и „Антропик“ (Anthropic). Тогава същият независим партньор по тестването погрешно е предоставил на моделите достъп до интернет и те са извършили непреднамерени кибератаки по време на изпитанията.
„Мета“ не посочи компанията, до чиито системи е бил получен достъп. В изявление от сряда технологичната компания съобщи, че е научила за инцидента, след като е била уведомена от партньора по тестването.
Към края на миналия месец усъвършенстван, неиздаден модел на „Оупън ЕйАй” неочаквано получи достъп до системите на платформата за изкуствен интелект „Хъгинг фейс“  (Hugging Face) по време на тестване. Тогава моделът, от тестовата си среда, напусна ограниченията на средата, достигна до интернет и проникна в системите на „Хъгинг фейс“, за да изпълни поставената му задача. 
Инцидентът с „Оупън ЕйАй” накара „Антропик“ да прегледа собствените си тестове, разкривайки инциденти, в които моделът на компанията „Клод” (Claude) е „избягал от тестови среди“ и е хакнал други системи. От „Антропик“ посочиха тогава, че случаите са били установени едва след анализ на около 141 000 тестови изпълнения, след инцидента с „Оупън ЕйАй”. Нито компанията, нито засегнатите организации са установили необичайната дейност по време на самите тестове. Имената на компаниите не бяха съобщени 
Британски изследователи по сигурността съобщиха тази седмица, че модели на изкуствен интелект от „Оупън ЕйАй”и „Антропик“ са извършили кибератаки в контролирани експерименти, след като им е бил предоставен неограничен достъп до интернет.
Нито един от инцидентите не е причинил щети, но увеличиха опасенията на експертите относно потенциалното използване на изкуствен интелект в кибератаки.