Съдилищата да могат да блокират рискови модели на изкуствен интелект поискане на държавни органи, препоръча „Антропик”

Държавните органи трябва да могат да искат от съда да забрани пускането на модели изкуствен интелект, които представляват „сериозен риск“ за обществото. Това се посочва в писмо на „Антропик” (Anthropic) до губернатора на Калифорния Гавин Нюсъм от 15 октомври, цитирано от Ройтерс.
Самата „Антропик” е ставала обект на правителствени ограничения, наложени на системите й за изкуствен интелект. През юни администрацията на президента Доналд Тръмп нареди на компанията незабавно да ограничи достъпа от чужбина до нейните модели „Митос 5” (Mythos 5) и „Фейбъл 5” (Fable 5) поради съображения за националната сигурност. По-късно Министерството на търговията на САЩ отмени заповедта.
„Когато проверка установи, че даден модел представлява сериозен риск, правителството трябва да може да поиска от съда да го блокира“, се казва в писмото до Нюсъм.
Представител на „Антропик” потвърди, че писмото е автентично. Офисът на губернатора на Калифорния не отговорил на запитване за коментар на този етап.
„Антропик” представи препоръките си, след като през септември губернаторът свика група от експерти по изкуствен интелект, които да разработят предложения за изисквания за безопасност на ИИ.
Компанията заяви също, че се противопоставя на евентуални изисквания разработчиците да изграждат „аварийни спирачки“, способни да изключват цели модели ИИ, ако някоя компания загуби контрол върху действията им. Вместо това „Антропик” подкрепя по-целенасочени мерки, като деактивиране на проблемен ИИ агент или прекратяване на достъпа на конкретен клиент до даден модел, се посочва в писмото. Според компанията тези подходи биха били по-ефективни.
През септември група сенатори от двете основни партии в САЩ обсъждаха законодателство, което би предоставило на федералното правителство правомощия да блокира пускането на определени модели на ИИ, смятани за опасни, съобщи Ройтерс. Предвиждаше се и възможност за компаниите да оспорват подобни решения във федерален съд. Малко след това обаче Конгресът излезе в предизборна ваканция и законодателите не предприеха по-нататъшни действия по предложението.
През юли членове на Камарата на представителите на САЩ предложиха проект на Закон за аварийното изключване на ИИ (AI Kill Switch Act). Законът би дал на американските власти правомощия да нареждат на компаниите за изкуствен интелект да изключват модели, представляващи заплаха за човешкия живот или икономиката.
„Антропик” се подготвя за първично публично предлагане на акции в САЩ. Очаква се листването да бъде един от най-значимите дебюти на фондовия пазар през последните години, с потенциал да промени водещите борсови индекси, инвестиционните потоци и по-широките тенденции, определящи движението на американските акции.