Хората могат да загубят контрол над бъдещето в полза на ИИ, предупреди Сам Олтман

Шефът на "ОупънЕйАй" (OpenAI) Сам Олтман изложи най-подробните си досега коментари относно това, как биха могли да функционират рамковите условия за безопасност на изкуствения интелект, след като се присъедини към Дарио Амодей от "Антропик" (Anthropic) и Илон Мъск в предупреждението, че индустрията трябва да забави темпото, предаде Си Ен Би Си.
"Приветстваме федерална рамка, която определя последователни изисквания за безопасност за изкуствения интелект", заяви Олтман в публикация в "Екс", направена малко след полунощ, като добавя, че "конкурентният натиск в Америка не бива да оправдава безразсъдството".
Олтман предупреждава за два сценария, при които напредъкът в изкуствения интелект може да се развие "много зле", включително поради загуба на "контрол над бъдещето в полза на изкуствения интелект" и прекомерна концентрация на власт в ръцете на един човек или една компания.
Публикацията му в "Екс" бе направена след публикуването на есето на Амодей в събота, в което той призова компаниите за изкуствен интелект да забавят темпото, с което усъвършенстват най-напредналите си модели. 
Акциите на компаниите за изкуствен интелект поевтиняха на световните борси днес, докато инвеститорите осмисляха коментарите. Президентът на САЩ Доналд Тръмп заяви вчера, че забавяне не е необходимо и би застрашило лидерството на Америка пред Китай в областта на изкуствения интелект.
Притесненията за безопасността нарастват, откакто изследовател от "Антропик" напусна миналата седмица, предупреждавайки, че индустрията не взема въпроса достатъчно на сериозно, което подтикна други служители в лабораторията и конкурентната "ОупънЕйАй" да отправят публични предупреждения за катастрофални рискове.
Междувременно американският Конгрес се опитва бързо да отговорят на призивите за въвеждане на предпазни мерки.
Дебатът се разгоря докато "Антропик" и "ОупънЕйАй" се подготвят за листване на борсата, макар че Олтман изключи възможността за първичното публично предлагане на неговата компания да се състои през 2026 година.