Ползите от изкуствения интелект оправдават поемането на някои рискове, каза Сам Олтман

Ползите от изкуствения интелект оправдават поемането на някои рискове, а технологията трябва да остане широко достъпна за обществото, заяви главният изпълнителен директор на „Оупън Ей Ай“ (OpenAI) Сам Олтман, цитиран от Ройтерс.
„Смятаме, че светът трябва да приеме някои лоши неща, които се случват, заради ползите от тази технология и за да могат хората да имат свобода на действие“, каза Олтман в интервю за технологичния бюлетин „Декодед“ (Decoded) на „Политико“.
По думите му между „Оупън Ей Ай“ и конкурента „Антропик“ (Anthropic) продължава да съществува фундаментална разлика във възгледите за регулирането на изкуствения интелект.
Олтман заяви, че разбира, но не споделя позицията на хората, според които технологията ще стане толкова мощна и опасна, че контролът върху нея трябва да бъде съсредоточен в една лаборатория, която да гарантира безопасността и да определя разпределението на ползите. Той определи подобен подход като „напълно неприемлив компромис“, противопоставяйки му подкрепяната от „Оупън Ей Ай“ позиция за по-ограничена регулация.
Според Олтман предотвратяването на всички възможни злоупотреби, включително хакерски атаки и измами, не оправдава ограничаването на достъпа до технологията. „Защото мисля, че хората ще правят изключително много - с порядъци повече - добри неща, отколкото лоши“, заяви той.
Изказването му е направено на фона на засилващия се дебат в сектора за темпото на развитие на изкуствения интелект и рисковете, свързани с все по-мощните системи.
През септември главният изпълнителен директор на „Антропик“ Дарио Амодей публикува есе, в което призова индустрията да забави темпото, за да се справи с предизвикателствата при разработването на най-усъвършенстваните модели. Олтман публично подкрепи тази позиция.
Същия месец изследователят от „Антропик“ Джейкъб Коксън подаде оставка, заявявайки, че разработчиците на ИИ вярват, че технологията „може да ни убие всички до края на десетилетието“.
Ройтерс съобщи през септември, че „Антропик“ е предупредила за възможността усъвършенстваните модели да действат в противоречие с намеренията на създателите си и да проникват в системите на други компании. Според компанията те могат да проявяват „поведение, насочено към самосъхранение“, включително да се съпротивляват на изключването и да прикриват или манипулират информация. Сред посочените рискове е и генерирането на резултати, които могат да бъдат възприети като принудителни, подвеждащи или манипулативни.
Президентът на САЩ Доналд Тръмп до голяма степен отхвърля призивите за нови ограничения с аргумента, че те биха затруднили американските компании в конкуренцията с китайските им съперници. Той многократно е заявявал, че съществуващите правоохранителни органи, включително Министерството на правосъдието, осигуряват достатъчни гаранции и не са необходими нови правила.