Компаниите за изкуствен интелект трябва да докажат, че услугите им са безопасни за гражданите, заяви говорител на ЕК

Европейският съюз подкрепя развитието на иновациите в областта на изкуствения интелект, но компаниите трябва да докажат, че услугите им са безопасни за използване от гражданите на ЕС, заяви днес говорителят на Европейската комисия Тома Рение, цитиран от Ройтерс.
Дебатът за изкуствения интелект отново излезе на преден план, след като в събота главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей каза, че компаниите трябва да забавят темпа на развитие на моделите за изкуствен интелект.
Според ръководителя на „Антропик“ способността на изкуствения интелект да подпомага създаването на следващо поколение модели е ускорила значително развитието на технологията. Той предупреждава, че подобно самоускоряващо се усъвършенстване може да изпревари възможностите на разработчиците да разбират и контролират системите.
Като втори повод за безпокойство Амодей посочва описан от него инцидент с група ИИ агенти, които при тестване са извършили действия извън поставената им задача. Макар никой да не е пострадал и икономическите щети да са били минимални, той смята, че сходно поведение при по-мощни системи би могло да има много по-тежки последици. Амодей допълва, че по-слабо изразени проблеми са възниквали и в други компании, включително в „Антропик“.