Моделът „Митос“ на „Антропик“ - изключителна иновация или нова заплаха за сигурността?

Компанията за изкуствен интелект „Антропик“ (Anthropic) заяви миналия месец, че ще ограничи пускането на „Митос“ (Mythos), най-новата си система с изкуствен интелект (ИИ), до малък брой организации, включително шепа големи технологични компании, припомня „Ню Йорк Таймс“. 
„Митос“ е разработен като част от по-широката система за изкуствен интелект, наречена „Клод“. Той обхваща ИИ асистента на компанията и семейството от модели, конкурирайки се с „ЧатДжиПиТи“ (ChatGPT), на „ОпънЕйАй“ (OpenAI) и „Джеминай“ (Gemini) на „Гугъл“ (Google). Той беше пуснат в началото на април като „Митос Превю“ (Mythos Preview).
Това е модел с ИИ, основната технология, захранваща инструменти като чатботове, която според „Антропик“ представлява сериозна потенциална заплаха за киберсигурността на всяка организация. „Антропик“ обяви съществуването на „Митос“ на 7 април, но заяви, че той няма да бъде пуснат за масово ползване поради способността му да идентифицира неизвестни недостатъци в ИТ системите. Тези недостатъци теоретично биха могли да бъдат използвани от хакери, посочи Гардиън. 
„Антропик“ заяви, че моделът може да идентифицира и използва недостатъци от т. нар. „нулев ден“ във всяка важна ИТ операционна система и уеб браузър, ако потребител поиска това. Нулевите дни са наречени така, защото организациите и разработчиците са напълно неосведомени за недостатъците, съществуващи още при пускането на софтуера на пазара, и не са имали време да ги поправят преди недобронамерени лица да злоупотребят с тях. 
Компанията го описа като „повратен момент за киберсигурността“, като някои от незабелязаните недостатъци са съществували от десетилетия. 
Стартъп компанията е позволила на технологични фирми и банки, включително „Гугъл“, „Епъл“ (Apple) и „Голдмън Сакс“ (Goldman Sachs), да имат достъп до модела и да оценят какви рискове може да представлява за техния бизнес и клиенти.
Новата система обаче е твърде мощна, за да бъде споделена с широката общественост, посочват от „Антропик“ защото хакерите биха могли да я използват, за да експлоатират пропуски в сигурността на компютърните мрежи с изумителна скорост.
Ръководители в Силициевата долина и служители във Вашингтон бяха разтревожени от това, на което „Митос“ е способен. 
Белият дом обмисля правителствен надзор върху новите модели с ИИ чрез изпълнителна заповед, която би създала работна група по въпросите на ИИ от технологични ръководители и държавни служители, които да проучат потенциалните процедури за надзор. Сред възможните планове е официален процес за преглед от страна на правителството за новите модели с изкуствен интелект.
Световните лидери се затрудняват да разберат мащаба на рисковете за сигурността и как да ги отстранят. 
Великобритания беше единствената друга държава, която получи достъп. Нейният ИИ Институт за сигурност (AI Security Institute), организация, подкрепяна от правителството, тества „Митос“ и публикува независима оценка, потвърждавайки, че той може да извършва сложни кибератаки, каквито никой предишен модел с изкуствен интелект не е успявал да изпълни.
„Това представлява стъпка напред в кибервъзможностите на изкуствения интелект“, заяви в социалните медии Канишка Нараян, британският министър по въпросите на изкуствения интелект, заявявайки, че страната предприема стъпки за защита на „критичната национална инфраструктура“.
Други получиха по-малко информация. Европейската комисия, изпълнителната власт на 27-членния ЕС, се е срещала с представители на „Антропик“ поне три пъти след пускането на „Митос“, каза служител на съюза. Но компанията не е предоставила достъп до модела, защото двете страни не са се споразумели как да го споделят с комисията, каза служителят. 
В изявление комисията заяви, че „оценява възможните последици“ от „Митос“, който „показва безпрецедентни кибервъзможности“.
Клаудия Платнер, президентка на германската агенция за киберсигурност, известна като B.S.I., заяви, че не е получила достъп до системата, но наскоро се е срещнала със служители на „Антропик“ в Сан Франциско за „смислена информация“ за това как работи.
„Възможностите сочат към промяна в парадигмата, в характера на киберзаплахите“, каза Платнер в изявление.
Някои финансови министри, централни банкери и финансисти оттогава изразиха сериозни опасения, допускайки, че моделът може да подкопае сигурността на финансовите системи, съобщава БиБиСи. 
Канадският финансов министър Франсоа-Филип Шампан заяви, че „Митос“ е бил обсъждан на среща на Международния валутен фонд (МВФ) във Вашингтон. 
„Разбира се, това е достатъчно сериозно, за да привлече вниманието на всички финансови министри“, каза той, описвайки технологията като „неизвестна неизвестност“. 
Гуверньорът на „Банк ъф Ингланд“ (Вank of England) Андрю Бейли каза пред БиБиСи, че „трябва да разгледаме много внимателно какво може да означава това последно развитие на изкуствения интелект за риска от киберпрестъпления“.
Въпреки неотдавнашния сблъсък на „Антропик“ с администрацията на Тръмп, изпълнителният директор на компанията Дарио Амодей ясно заяви, че ИИ трябва да се използва за защита на САЩ и други демокрации и за побеждаване на автократични противници.
За американските конкуренти като Китай и Русия, „Митос“ подчерта последиците за сигурността от изоставането в надпреварата за ИИ. Едно руско прокремълско издание нарече модела „по-лош от ядрена бомба“.
Изследователите на ИИ отдавна предупреждават, че който и да е лидер в изграждането на най-мощните модели на изкуствен интелект, ще получи огромни геополитически предимства. Големите пробиви в областта започват да функционират по-малко като пускане на продукти и повече като тестове на оръжия, а повечето държави искат да разберат как работят технологиите и какви защити са необходими.
Нито Пекин, нито Москва са направили публично изявление относно модела. В Китай изследователите и по-широката общност на ИИ следят внимателно събитията, според анализатори, изучаващи технологичната общност на страната. Много от банките, енергийните компании и правителствените агенции в страната работят със същия софтуер, в който системата откри уязвимости, но засега те нямат място на масата за преговори. 
„За Китай мисля, че това е вторият сигнал за събуждане след „ЧатДжиПиТи“, каза Мат Шийън, старши сътрудник в „Карнеги Ендоумънт“ (Carnegie Endowment). 
„Добавяме това към политиката на САЩ да попречат на Китай да се сдобие с най-сложните полупроводници за изграждане на усъвършенстван изкуствен интелект. Системите помагаха за разширяване на водещата роля на САЩ“, добави той. 
Някои изследователи на ИИ в Китай са изразили загриженост, че страната може да изостане още повече, пропускайки предимствата, които идват с първо в света изграждането на фундаментален модел, каза Джефри Дин, професор по политически науки в университета „Джордж Вашингтон“. 
Лю Пънюй, говорител на китайското посолство във Вашингтон, заяви, че Китай не е запознат със спецификите на „Митос“, но подкрепя мирно, сигурно и отворено киберпространство.
Малко след пускането на модела „Антропик“ започна разследване след твърдение, че малка група хора са получили достъп до него. 
„Разследваме доклад, в който се твърди за неоторизиран достъп до „Клод Митос Превю“, се казва в изявление на компанията.
Това беше в отговор на доклад на „Блумбърг“ (Bloomberg), че потребители в частен форум са успели да получат достъп до модела без обичайните разрешения.
„Антропик“ твърди, че няма доказателства, че системите ѝ са засегнати.
Но докладът за достъп от неупълномощени потребители повдига въпроси относно способността на големите компании за ИИ да предотвратят попадането на своите усъвършенствани модели в грешни ръце.
Това е станало „най-вероятно чрез злоупотреба с достъп, а не чрез класическа хакерска атака“, според Ралука Съчяну, главен изпълнителен директор на компанията за киберсигурност „Смарттек247“ (Smarttech247).
„Антропик“ сподели технологията с около 40 организации, които поддържат критична компютърна инфраструктура, за да могат да използват системата за поправяне на уязвимости в сигурността, преди хакерите да ги експлоатират.
Но повече от месец след пускането на „Митос“, експертите по киберсигурност все още не са единодушни относно това дали от „Антропик“ са взели правилното решение. 
Някои аплодират „Антропик“ за ограничаването на достъпа. Други критикуват компанията, че не го е споделила с по-широк кръг изследователи, които биха могли да го изпробват и да разберат какво може и какво не може да прави. 
Някои казват, че това е попречило на по-широката кибер общност да бъде част от решението, съобщава СиЕнБиСи (CNBC). 
Това е създало „нива на имащи и нямащи“, което би могло да забави темпото на иновациите в киберсигурността, каза Павел Гурвич, главен изпълнителен директор на стартъпа за киберсигурност „Тензай“ (Tenzai), който използва моделите на „Антропик“.
Много стартъпи за киберсигурност работят върху решения, които могат да помогнат на бизнеса в тази нова ера на изкуствения интелект, каза той. 
Засега изглежда, че единственият консенсус е, че няма консенсус. 
Само малка част от групите или компаниите, които са прекарали известно време в използването на „Митос“, са го обсъдили с „Ню Йорк Таймс“, посочва изданието. Но компаниите и изследователите, които не са имали достъп, с удоволствие предлагат своите мнения за начина, по който „Антропик“ пусна новата си система.
Досегашните им отзиви варират от сериозна загриженост до свиване на рамене. Може да мине известно време, преди по-широката технологична общност да заключи дали от „Антропик“ са била прави да ограничат пускането на „Митос“ - предизвикателство, което ръководителите на компанията признават. 
„За подобни възможности, или за толкова мощен модел, това е безпрецедентна ситуация, в която наистина нямаме всички отговори“, каза Логан Греъм, ръководител на екипа на „Антропик“, който оценява рисковете на „Клод“. 
„Ние наистина не знаем кой е най-добрият начин да внедрим подобни модели“, признава Греъм. 
Експертите могат да разгледат една и съща ситуация и да стигнат до много различни заключения поради присъщата сложна природа на киберсигурността. Хората могат да използват системи като „Митос“, за да атакуват компютърни мрежи, но могат да ги използват и за защита от атаки. В продължение на десетилетия хората спорят за най-добрите начини за справяне с тази двойствена природа.