Бил Гейтс и Брад Смит призоваха за по-строги правила за безопасност на изкуствения интелект

Съоснователят на „Майкрософт“ (Microsoft) Бил Гейтс предупреди за опасността от увеличаване на кибератаките, подпомагани от изкуствен интелект, през следващата година и призова за по-строго регулиране на технологията, предаде Франс прес. Президентът на компанията Брад Смит също настоя за спешни глобални правила за безопасност и независима оценка на новите модели, съобщи Ройтерс.
В интервю за американската телевизия Ей Би Си Нюз снощи Гейтс заяви, че вероятността изкуственият интелект да излезе извън контрол през следващите няколко години е малка. Според него по-непосредственият риск е злонамерени лица да използват модели без защитни механизми за кибератаки или биотероризъм.
„Но в момента е позволено да се деактивират всички тези защитни мерки“, посочи той.
„Така че, при наличие на лоши хора, липса на защитни мерки и най-нови модели, през следващата година може да преживеем много неприятни изненади, особено в киберпространството“, предупреди Гейтс.
Той отхвърли подхода на президента на САЩ Доналд Тръмп да разчита на доброволен самоконтрол от страна на индустрията вместо на законови изисквания. Според Гейтс оставянето на контрола върху „най-опасната технология, която хората някога са изобретили“ изцяло в ръцете на компаниите е „недостатъчно“.
Още в края на август Гейтс предупреди в есе от близо 6000 думи, публикувано в блога му, че не съществува план за ограничаване на опасностите от изкуствения интелект.
В интервю за Би Би Си, публикувано днес, Брад Смит призова за независими оценители, които да проверяват новите разработки. Той настоя и за правила, изискващи уведомяване на засегнатите лица и организации, ако техни системи бъдат пробити от неконтролируем агент с изкуствен интелект.
Според Смит трябва да има достъпна „аварийна спирачка“, както и законово задължение компаниите да изготвят доклади за инциденти.
„Знаем как да правим това за други продукти“, заяви той. „Трябва да се възползваме от това знание и да помислим как да го приложим към изкуствения интелект.“
„В момента вашата перална машина е обект на повече правила за безопасност, отколкото изкуственият интелект. Всяка кутия мляко, която виждате в магазина, е обект на правила за безопасност и проверка“, добави Смит.
Компании като „Антропик“ (Anthropic) и „Оупън ЕйАй“ (OpenAI) започнаха да разкриват случаи на неконтролирано или нежелано поведение на агенти с изкуствен интелект. Това засилва международния дебат за рисковете от технологията, включително предупрежденията на някои изследователи за възможна заплаха за човечеството.
Призивите на технологични компании за забавяне на разработването на по-мощни модели обаче породиха и въпроси за мотивите им. Сред обсъжданите възможни цели са запазване на пазарното лидерство чрез нови правила, избягване на по-широка държавна намеса или ограничаване на бързо нарастващите разходи, посочва Ройтерс.
Според Смит Великобритания е най-добре позиционирана да оглави усилията за регулиране на технологията благодарение на своя Институт за сигурност на изкуствения интелект, създаден при управлението на Риши Сунак.
Той посочи, че представителите на американските власти възприемат подхода на Лондон различно от този на Брюксел, който регулира технологията според нивото на риск чрез европейския Закон за изкуствения интелект.
Британският институт получава достъп до водещи модели още преди внедряването им по силата на доброволни споразумения с разработчиците, за да оцени възможностите и рисковете им.
Британският министър по въпросите на изкуствения интелект Канишка Нараян заяви пред Ройтерс, че страната ще обмисли регулиране на усъвършенстваните модели, ако сегашните доброволни защитни механизми се окажат недостатъчни.