„ОупънЕйАй“ защити решението да уволни трима изследователи по безопасността на изкуствения интелект

„ОупънЕйАй“ (OpenAI) е уволнила трима свои изследователи миналата седмица след вътрешно разследване, според което служителите са нарушили правилата за работа с чувствителна информация, съобщи компанията в публикация в социалната мрежа „Екс“ (X), предаде Ройтерс.
Тримата уволнени изследователи Джасмин Уанг, Томек Корбак и Микита Балесни публикуваха писмо, в което описват обстоятелствата около освобождаването си и изразяват загриженост относно начина, по който е било извършено.
Тримата изследователи, освободени от компанията, са повдигнали въпроси за безопасността в писмо до членовете на Управителния съвет на „ОупънЕйАй“ и комисиите ѝ по безопасност, уточнява Си Ен Би Си. Те призоваха компанията да спре разработването на модели, които биха затруднили наблюдението и контрола върху системите с изкуствен интелект.
В писмото си Уанг, Корбак и Балесни посочват, че не те са източникът на статия, публикувана миналия месец в изданието „Информейшън” (The Information), в която се разглеждат опасения за сигурността на най-новия модел с изкуствен интелект на „ОупънЕйАй“.
Според тримата вече бивши служители внезапното им уволнение може да породи несигурност сред останалите служители и да подкопае корпоративната култура, която досега е позволявала на изследователите да повдигат въпроси, свързани с безопасността.
В изявлението си „ОупънЕйАй“ подчерта, че служителите не са били уволнени заради изразяване на опасения относно безопасността или заради публични изказвания.
„Вътрешното ни разследване установи съществено нарушение на доверието, което надхвърля описаното в публикуваното от тях писмо, и продължаваме да смятаме, че решението да не продължим трудовите им отношения е правилно“, заяви „ОупънЕйАй“.
„В „ОупънЕйАй“ всеки ден се водят дискусии по въпросите на безопасността и научните изследвания, често оживени и силно критични и ние активно насърчаваме тези обсъждания и ги смятаме за съществени за вземането на правилни решения. (...) Не сме уволнявали и не уволняваме служители заради това, че изразяват опасения“, заяви компанията.
През последните месеци опасенията за безопасността на изкуствения интелект достигнаха връхната си точка, след като стана известно, че през юли неконтролиран агент на „ОупънЕйАй“ е извършил кибератака срещу стартъпа „Хъгинг фейс" (Hugging Face).
Впоследствие и други разработчици на модели съобщиха за инциденти с киберсигурността, причинени от неконтролирани агенти с изкуствен интелект.
Нарастващите възможности на все по-мощните модели предизвикаха през септември предупреждения от представители на индустрията за екзистенциални рискове за човечеството.
Това засили призивите на американски законодатели и политици за регулиране на най-модерните системи с изкуствен интелект. Сред привържениците на подобни мерки са и главният изпълнителен директор на „ОупънЕйАй“ Сам Олтман и ръководителят на „Антропик“ (Anthropic) Дарио Амодей.
Президентът на САЩ Доналд Тръмп категорично се противопостави на идеята за по-строго регулиране, като отхвърли опасенията за безопасността на изкуствения интелект като „измама“.
Междувременно „ОупънЕйАй“ се подготвя за очаквано първично публично предлагане на акции през 2027 година.
Компанията е съобщила на инвеститорите, че в края на септември годишният темп на растеж на приходите ѝ е достигнал около 50 млрд. долара, потвърди Си Ен Би Си. Това е под широко разпространената в края на миналия месец оценка от 68 млрд. долара.
Акциите на „Енвидиа“ (Nvidia), „Оракъл“ (Oracle), „КорУийв“ (CoreWeave) и други компании, свързани с изкуствения интелект, поевтиняха в четвъртък, след като станаха известни допълнителни подробности за приходите на „ОупънЕйАй“.