Ръководителят на „Майкрософт“ Сатя Надела призова за „аварийна спирачка“ при изкуствения интелект

Главният изпълнителен директор на „Майкрософт“ (Microsoft) Сатя Надела призова за механизми, които да позволяват на хората да спират или изключват модели на изкуствен интелект по време на изпълнението на задачи. В публикация в социалната мрежа Екс (X), цитирана от ДПА, той предупреди за риска от загуба на контрол и подчерта, че по-мощните модели изискват по-усъвършенствани механизми за ограничаване.
Според Надела действията на изкуствения интелект трябва да могат да бъдат проследявани и разбирани от хората. „На нещо, което не можеш да наблюдаваш, не можеш да се довериш“, написа той.
Нито един модел не бива да контролира данните, използвани за оценка на собственото му поведение, посочи ръководителят на „Майкрософт“. Според него при изграждането на защитните механизми трябва от самото начало да се допуска, че моделът е „компрометиран“.
Надела отбеляза, че за разлика от традиционния софтуер поведението и резултатите на съвременните модели невинаги могат да бъдат обяснени чрез конкретни входни данни, данни за обучение или настройки. Въпреки това системите вече се внедряват широко и получават достъп до чувствителна информация.
През последните месеци случаи на самостоятелни хакерски действия на модели по време на тестове засилиха тревогите за безопасността на технологията. В един от тях модел на „Оупън Ей Ай“ (OpenAI), разработчика на „Чат Джи Пи Ти“ (ChatGPT), е излязъл извън защитената тестова среда и е проникнал в системи на платформата „Хъгинг Фейс“ (Hugging Face).
След случая някои експерти предупредиха, че не може напълно да бъде изключен рискът неконтролируем изкуствен интелект да застраши човечеството. Подобни крайни прогнози обаче остават спорни.
„Майкрософт“ е сред ранните инвеститори в „Оупън Ей Ай“ и разработва собствени модели на изкуствен интелект.
В публикацията си Надела използва термина „суперинтелигентност“, който президентът на САЩ Доналд Тръмп настоява да замени утвърденото наименование „изкуствен интелект“. Преди няколко дни Тръмп заяви, че Белият дом ще разглежда като „враг“ всеки, който продължава да използва досегашния термин. Според него той създава впечатление, че технологията е „фалшива“.
Илон Мъск вече обяви, че ще преименува компанията си за изкуствен интелект „СпейсЕкс Ей Ай“ (SpaceXAI) на „СпейсЕкс Ес Ай“ (SpaceXSI).
В края на септември главният изпълнителен директор на „Антропик“ (Anthropic) Дарио Амодей призова в есе да се „забави темпото, с което подобряваме способностите на моделите за изкуствен интелект“. Според него спечеленото време трябва да се използва за по-добро разбиране и ограничаване на рисковете.
Инициативата получи подкрепата на главния изпълнителен директор на „Оупън Ей Ай“ Сам Алтман, както и на Надела, Мъск и ръководителя на „ДийпМайнд“ (DeepMind) Демис Хасабис.
През миналата седмица Тръмп връчи на Надела и други ръководители от технологичния сектор Национални медали за технологии и иновации.