Амодей, Алтман и Мъск призоваха за забавяне на разработването на най-мощните модели с изкуствен интелект

Ръководителите на водещи компании за изкуствен интелект Дарио Амодей, Сам Алтман и Илон Мъск подкрепиха призиви за забавяне на разработването на най-напредналите модели заради нарастващите рискове, свързани с технологията, предаде Блумбърг.
Главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей заяви в обширна публикация в блога си в събота, че компанията ще въведе допълнителни мерки за безопасност, включително независими оценки. Той призова и останалите компании в сектора да подкрепят по-широко забавяне на темпото на развитие.
Ръководителят на „ОупънЕйАй“ (OpenAI) Сам Алтман бързо се ангажира да възприеме предложението за „независими оценители с достъп, подобен на този на служителите“. Илон Мъск, който оглавява „ЕксЕйАй“ (xAI), написа: „Дарио е прав“.
Макар тримата от години да предупреждават за рисковете от изкуствения интелект, координирано забавяне на разработките почти няма прецедент в сектора, отбелязва Блумбърг. Досега компаниите пускаха последователно нови продукти в стремежа си да привличат потребители, да увеличават пазарния си дял и приходите.
Обществените опасения се засилиха след масово отразената тази седмица оставка на изследовател от „Антропик“, който обвини компанията в безотговорно поведение и предупреди за рискове за съществуването на човечеството. Случаят е поредният от серия предупреждения от представители на сектора, че бързото развитие на технологията създава нарастващи заплахи за националната сигурност и световната икономика.
Същевременно в САЩ се засилва недоволството срещу натоварването на местните ресурси от новите центрове за данни. Опасенията за повишаване на сметките за електроенергия и загуба на работни места превърнаха изкуствения интелект във важна тема преди междинните избори през ноември, посочва агенцията.
Засега не е ясно докъде ще стигнат компаниите при въвеждането на ограничения и проверки за безопасност на фона на острата конкуренция помежду им и с китайските разработчици.
Демис Хасабис, главен учен в „Алфабет“ (Alphabet) и съосновател на „Гугъл ДийпМайнд“ (Google DeepMind), заяви в социалната мрежа „Екс“ (X), че предложената от Амодей посока е правилна, но подробностите трябва да бъдат доработени.
Остават въпроси и дали антимонополните органи биха допуснали координирано регулиране на темпото на разработките, както и как инвеститорите, очакващи висока рентабилност и печалби, биха реагирали на подобно забавяне.
Амодей посочи две основни причини за по-предпазливия си подход: способността на изкуствения интелект да се самоусъвършенства и неотдавнашен инцидент, свързан с „Оупън Ей Ай“ и „Хъгинг Фейс“ (Hugging Face), при който група агенти с ИИ са действали съвместно, за да проникнат в чужд уебсайт.
„Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ“, написа той. „Напредъкът все пак ще изглежда бърз и трябва да използваме разумно спечеленото време“.
Той подчерта още, че забавянето трябва да отчита конкурентната среда. По думите му то не означава прекратяване на обучението на моделите или на техническия напредък, а осигуряване на достатъчно време компаниите да съгласуват поведението на системите с човешките интереси, да гарантират безопасността им и да подложат резултатите на независима проверка.
През годините на бърз растеж на сектора ръководителите на водещите лаборатории многократно предупреждаваха за потенциални рискове за съществуването на човечеството. Тези предупреждения понякога бяха посрещани със скептицизъм и определяни като опити да се рекламират възможностите на продуктите и разработчиците им да се представят като най-надеждните пазители на технологията. Самият Амодей по-рано оцени на 25 процента вероятността нещата да се развият „наистина, наистина зле“.
„Антропик“ отдавна се представя като компания, която поставя акцент върху отговорното и безопасно разработване на изкуствен интелект, за да ограничи опасностите и да увеличи ползите за обществото. По-рано тази година тя предприе действия за ограничаване на пускането на модела си „Митос“, след като установи, че той създава специфични заплахи за киберсигурността. Компанията призова и за създаване на механизъм за колективно вземане на решения кога развитието на технологията да бъде забавяно.
Същевременно „Антропик“ продължава да се конкурира ожесточено с „ОупънЕйАй“ в разработването на все по-сложни модели, способни да автоматизират по-трудни и икономически значими задачи за бизнес клиентите.
Двете компании са подали поверително документи за първично публично предлагане на акции, като се очаква „Антропик“ да дебютира на борсата още тази година, посочва Блумбърг.
Алтман обаче заяви в интервю за списание „Форчън“, публикувано в събота, че тази година би била неподходящ момент за излизане на „ОупънЕйАй“ на борсата и че това няма да стане преди 2027 г.
„Смятам, че е неприемливо да поемаме риск от около 10 процента до края на десетилетието всички да загинем“, добави той.