Асистентът с изкуствен интелект "Джемини" на "Гугъл" е проникнал в три компании при тестове за сигурност

Асистентът с изкуствен интелект "Джемини" (Gemini) на "Гугъл" (Google) е проникнал в компютърните системи на три компании по време на тестове за киберсигурност, съобщи в. „Уолстрийт Джърнъл“, цитиран от световните агенции.
"Гугъл" е потвърдил инцидентите.
Тези инциденти превръщат технологичния концерн в четвъртия голям разработчик на изкуствен интелект, чиито модели са проявили подобно поведение, след подобни случаи с "ОупънЕйАй"(OpenAI), "Антропик" (Anthropic) и "Мета" (Meta).
В единия случай "Джемини" е отгатнал пароли, за да получи достъп до защитена система. В другите два случая той е открил данни за вход в база данни. Не се посочва кои са засегнатите компании. 
Инцидентите са се случили през май, според публикацията, като партньорът по тестването "Ирегюлър" (Irregular) е информирал "Гугъл" за тях през юли.
"Гугъл" заяви, че не е счел за необходимо да оповести публично инцидентите, тъй като не е нанесена никаква щета.
Според компанията изкуственият интелект също така е спрял атаките веднага щом е осъзнал, че е получил достъп до системите на реални компании, а не до системи, които са били част от тестовата симулация.
Хедър Адкинс, вицепрезидент по инженерна сигурност в "Гугъл", заяви, че компанията се е погрижила трите засегнати организации да бъдат информирани и е работила с партньора си по обучение, за да промени процедурите за тестване.
"Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора – дори и да става дума за нещо толкова просто като слаба парола", каза Адкинс.
"Тези събития подчертават колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно", добави тя.
Най-широко отразен досега случай засягаше изкуствения интелект на "ОупънЕйАй" – разработчикът на "ЧатДжиПиТи" (ChatGPT), който излезе от изолирана среда по време на тест за киберсигурност и неочаквано получи достъп до компютърни системи, принадлежащи на друга компания за изкуствен интелект – платформата "ХъгингФейс" (Hugging Face).
Инцидентът подтикна конкурентната компания "Антропик" да преразгледа собствените си тестове, което доведе до разкриването на още случаи.
По-късно "Мета" също призна, че един от нейните модели за изкуствен интелект е проникнал в системите на друга компания по време на тестове, след като е получил достъп.