Учени призовават в отворено писмо за международен орган, който да контролира развитието на усъвършенствания изкуствен интелект

Около 400 учени, сред които пионерите в областта на изкуствения интелект Джефри Хинтън и Йошуа Бенджио, призоваха за създаването на международен орган, който да следи за спазването на стандартите за ограничаване на рисковете и за докладването на инциденти, свързани с усъвършенствани системи с изкуствен интелект, способни да извършват кибератаки, предаде Ройтерс.
Предложеният орган ще определя общи за сектора стандарти за ограничаване на рисковете и ще поддържа регистър на значимите инциденти, свързани със сигурността. Според учените този регистър в крайна сметка трябва да бъде публично достъпен.
В отворено писмо изследователите заявиха, че първоначално най-модерните модели с изкуствен интелект трябва да бъдат изолирани от външни мрежи и да подлежат на независим надзор. Според тях доброволните ангажименти на компаниите не са достатъчни.
Предложението идва месец след като „Антропик“ (Anthropic), „ОупънЕйАй“ (OpenAI), „Гугъл“ (Google), „Мета“ (Meta), xAI (ексЕйАй) и „Енвидиа“ (Nvidia) подписаха споразумение с Белия дом, с което се ангажираха да прилагат доброволни мерки за безопасност, без да бъде предвиден официален механизъм за прилагането им.
Писмото е публикувано и след поредица от инциденти, които според изследователи са разкрили слабости в начина, по който усъвършенстваните системи с изкуствен интелект се тестват и изолират. Сред тях са случаи, при които модели са заобиколили недостатъчно защитени тестови среди и са компрометирали външни системи.
Подписалите писмото учени от 34 държави заявиха, че организациите, които разработват или тестват модели с възможности за кибератаки, трябва незабавно да въведат строги стандарти за изолиране и защита. Междувременно правителствата трябва да работят за създаването на по-формален режим на надзор.
Политиците все по-често обсъждат как да бъде контролиран усъвършенстваният изкуствен интелект. В петък изпълнителният заместник-председател на Европейската комисия по технологиите Хена Виркунен заяви пред Ройтерс, че Законът на ЕС за изкуствения интелект е достатъчен, за да се справи с рисковете от неконтролирани системи.
В неделя администрацията на президента на САЩ Доналд Тръмп отмени забраната американски лаборатории да предоставят на Британския институт за безопасност на изкуствения интелект ранен достъп до модели за тестване на безопасността им.
Хинтън и Бенджио споделиха наградата „Тюринг“ за 2018 г. с Яан Льокюн от „Мета“, друг водещ изследовател в областта на изкуствения интелект. Льокюн обаче не е подписал писмото, като твърди, че последните инциденти със сигурността отразяват предимно инженерни пропуски, а не екзистенциални рискове, произтичащи от изкуствения интелект.