"Антропик" призова за глобална пауза в развитие на ИИ, за да не излязат най-новите модели от контрола на човека

Компанията за изкуствен интелект "Антропик" (Anthropic) предложи да се направи глобална пауза в разработването на най-мощните системи за изкуствен интелект (ИИ), тъй като най-новите модели започват да дават признаци, че могат да излязат извън човешкия контрол, съобщи Франс прес.
Базираната в Сан Франциско компания, която създава семейството облачни модели с ИИ, заяви в доклад, че световно забавяне в развитието на най-модерния ИИ "вероятно би било нещо добро" – но предупреди, че ако само една компания спре, конкурентите просто ще изпреварят останалите.
"Смятаме, че за света би било добре да има възможност да забави или временно да спре развитието на авангардния ИИ, за да позволи на обществените структури и изследванията за съгласуване да се приспособят към напредъка на технологията", се казва в доклада.
За да се постигне реална пауза, ще е необходимо множество големи компании за ИИ в различни страни – най-вече в САЩ и Китай – да се съгласят да спрат едновременно, съгласно правила, които всеки би могъл да провери, заявиха от "Антропик".
Тази идея може да се окаже донякъде непопулярна сред хора като Илон Мъск, тъй като дългоочакваното дебютиране на борсата на неговата компания "СпейсЕкс" – която притежава неговото предприятие за изкуствен интелект "ексЕйАй" (xAI) – се очаква да го превърне в първия трилионер в света.
"Без глобален механизъм за координация компаниите и правителствата ще трябва да вземат трудни решения относно безопасността, докато са подложени на конкурентен и геополитически натиск", заявиха от "Антропик".
Компанията срещна съпротива от други в бранша – и от служители в Белия дом – които твърдят, че фокусът ѝ върху най-лошите сценарии преувеличава рисковете и се равнява на стратегия за забавяне на конкурентите под прикритието на опасения за безопасността.
Въпреки това Белият дом признава мощността на модела "Митос" (Mythos) на компанията – който не е достъпен за широката общественост поради своите възможности в областта на  киберсигурността и понастоящем се използва само от малък брой проверени организации.
Предложението ще се сблъска с тежък отпор от Вашингтон и Силициевата долина, доколкото представители на правителството на САЩ и ръководители в технологичния сектор многократно са твърдели, че всяко забавяне в развитието на изкуствения интелект рискува да даде на Китай решаващо стратегическо предимство в това, което мнозина считат за определящата технологична надпревара на века.
Президентът на САЩ Доналд Тръмп обаче заяви, че е обсъдил възможността за сътрудничество с Китай по въпроси, свързани с безопасността в сферата на изкуствения интелект, по време на неотдавнашното си посещение в Пекин.
Тръмп също така подписа тази седмица указ, която дава на правителството 30 дни да проведе предварителна проверка на най-мощните американски модели за изкуствен интелект преди тяхното пускане на пазара.
"Антропик" сравни проблема с договорите за контрол над ядрените оръжия, но заяви, че ще бъде още по-трудно да се овладее, тъй като обучението на ИИ е много по-лесно да се скрие от ракетен силоз, а изкушението да се продължи тихо ще бъде огромно.
Призивът за координация идва на фона на вътрешни данни, показващи, че изкуственият интелект вече драстично ускорява развитието на самия изкуствен интелект, заявиха от "Антропик".
Това ускорение създава обратна връзка, която, според предупреждението на "Антропик", в крайна сметка може да доведе до това, което изследователите наричат "рекурсивно самоусъвършенстване".
Това е идеята за система за изкуствен интелект, която става способна по същество да се научи сама да става по-умна, без много човешка помощ.
"Все още не сме стигнали дотам, а рекурсивното самоусъвършенстване не е неизбежно", се казва в доклада на "Антропик", но се добавя, че то може да настъпи по-рано, отколкото повечето правителства и институции са готови за това.
"Данните сочат, че ролята на човека се стеснява на всеки етап от процеса на развитие на изкуствения интелект", заяви компанията.