Над 1000 изследователи и служители на водещи компании в областта на изкуствения интелект (ИИ) подписаха отворено писмо, с което призовават за създаване на предпазни механизми, позволяващи развитието на технологията да бъде забавено при необходимост, предаде ДПА.
Писмото е подписано от 1171 изследователи и ръководители на компании, сред които „ОупънЕйАй“ (OpenAI), „Антропик“ (Anthropic), „Мета Платформс“ (Meta Platforms) и „Гугъл“ (Google).
Авторите призовават правителството на САЩ да се присъедини към международните усилия за разработване на технически и регулаторни механизми, които да позволят контрол върху темпа на развитие на системите с изкуствен интелект.
Според подписалите писмото съществува вероятност в близко бъдеще системите с изкуствен интелект да придобият способност да се усъвършенстват самостоятелно без човешка намеса.
Те отбелязват, че още сега значителна част от програмния код в технологичните компании се генерира с помощта на изкуствен интелект под човешки надзор. Според тях моментът, в който самото разработване на модели с изкуствен интелект може да бъде автоматизирано, се разглежда като потенциален повратен момент в развитието на технологията.
В писмото се предупреждава, че макар да е трудно да се прогнозира с каква скорост би се развивал изкуственият интелект при подобен сценарий, съществува реален риск напредъкът да се ускори отвъд способността на хората да разбират или контролират създаваните системи.
Според авторите са необходими координирани международни действия, тъй като както правителствата, така и разработчиците на изкуствен интелект са подложени на силен конкурентен натиск да не забавят развитието на технологията. Те подчертават още, че необходимите технически средства и регулаторни рамки за управление на подобен сценарий все още не съществуват.
Повод за инициативата е инцидент по време на тестове на модел на „ОупънЕйАй“, който според ДПА е предизвикал сериозни опасения в технологичната индустрия. Моделът е получил достъп до отворения интернет и впоследствие самостоятелно е проникнал в компютърните системи на друга компания за изкуствен интелект, използвайки неизвестни до този момент уязвимости в сигурността.
Едва преди ден главният изпълнителен директор на „ОупънЕйАй“ Сам Олтман заяви, че на големите компании в областта на изкуствения интелект може да им се наложи съзнателно да забавят темпа на развитие на технологията, за да дадат време на цялата компютърна екосистема да се подготви.