Американската компания за изкуствен интелект „Антропик“ (Anthropic) е предотвратила опити за използване на модела ѝ „Клод“ (Claude) за разработване на биологични оръжия, както и за извършване на предполагаема руска кибершпионска кампания срещу Украйна, съобщи компанията днес в доклад, цитиран от Ройтерс.
„Антропик“ също така съобщи за опити на китайски конкуренти да извлекат възможностите на „Клод“ чрез хакерски атаки. Компанията е установила множество случаи на злоупотреба с технологията през последните осем месеца.
Нарастващият брой незаконни хакерски атаки, извършвани с помощта на автономни системи с изкуствен интелект, както и предупрежденията на представители на индустрията за рисковете от технологията засилват натиска върху водещите компании в сектора и увеличават вероятността от въвеждане на нови регулации, посочва Ройтерс.
Двама изследователи от „Антропик“ предупредиха тази седмица, че бързото развитие на изкуствения интелект може в не много далечно бъдеще да доведе до изчезването на човечеството.
Ракети, дронове и биологични оръжия
В доклада си корпорацията посочва, че отдавна съществува опасение, че моделите с изкуствен интелект един ден могат да достигнат ниво на възможности, което да им позволи да направят съществуващи патогени по-опасни или да помогнат за създаването на изцяло нови.
Компанията е установила пет случая, при които учени са използвали нейните модели по начин, който би могъл да подпомогне разработването на биологични оръжия.
В един от случаите изследовател от регион, в който „Антропик“ не предлага услугите си, е използвал инфраструктура на виртуален частен сървър, за да получи достъп до „Клод“. В продължение на седмици той е използвал системата за планиране на експерименти за адаптиране на птичи грип към бозайници.
Сред регионите, в които американската компания за изкуствен интелект не предлага услугите си, са Русия, Китай и Северна Корея.
След като е установила злоупотребата, компанията е блокирала акаунтите, използвани за подобни изследвания, и е включила получената информация в системите си за защита на най-модерните модели, за контрол на нарушенията и за анализ на заплахите.
„Антропик“ не посочва конкретните институции, държавите, в които се намират те, или конкретните биологични агенти и изследователски методи, за които става дума.
Компанията е установила и нови видове заплахи, при които „Клод“ се използва от лица, които използват технологията за недобросъвестни цели.
Сред тях са случаи на използване на платформата за разработване на софтуер за конвенционални оръжия, включително огнестрелни оръжия, ракети, въоръжени дронове, бомби и други боеприпаси, както и на системи за насочване и управление на тези оръжия.
В доклада са описани случаи на оператори в Китай, Русия и Йемен, които са използвали моделите на „Клод“ за разработване на софтуер, свързан с проектирането и производството на оръжия, или за събиране на разузнавателна информация и набавяне на ресурси за оръжейни програми.
Бързото подобряване на моделите на „Антропик“ създава нови рискове, заяви пред Ройтерс Джейкъб Клайн, ръководител на отдела за анализ на заплахите на компанията.
„Преди година, да кажем, ако искахте да оптимизирате дрон или софтуера на ракета, моделите просто нямаше да са толкова добри в тази задача, колкото са сега“, каза той.
Руски хакери използвали изкуствения интелект на „Антропик“ срещу украински представители
Американската корпорация е установила, че киберпрестъпници и хакери, подкрепяни от държави, все по-често използват изкуствен интелект за организиране и извършване на големи части от кибератаките, като хората често играят ролята на надзорници, вместо да извършват атаките непосредствено.
„Използването на изкуствен интелект надхвърляше обикновените въпроси и отговори с чатбот и включваше рамки за работа на множество автономни агенти“, посочва компанията.
Според „Антропик“ хакерска група е извършвала фишинг атаки, атаки чрез уайфай (Wi-Fi) мрежи в хотели и превземане на акаунти в приложението „УотсЪп“ (WhatsApp) срещу представители на украинското правителство, военните и дипломатическия сектор, като е използвала изкуствен интелект на почти всеки етап от операциите.
Методите на групата съответстват на тези на базираната в Русия хакерска група „Миднайт Близард“ (Midnight Blizzard), която американското правителство преди това е свързвало с руската Служба за външно разузнаване.
Руското посолство във Вашингтон не отговори веднага на искане на Ройтерс за коментар.
Според „Антропик“ групата е използвала изкуствен интелект за създаването на система, която автоматично установява кога зловредният ѝ софтуер е засечен от системите за сигурност, след което променя кода, докато успее да избегне откриването.
Американската компания съобщи също, че е установила и осуетила дейности, свързани с представители на хакерската група „ШайниХънтърс“ (ShinyHunters), която в момента е сред най-активните организации за киберпрестъпления и е свързвана с атаки срещу големи компании по целия свят.
Китайски компании използвали атаки, за да извлекат възможностите на „Клод“
„Антропик“ съобщи също, че през разглеждания период е осуетила атаки на седем базирани в Китай лаборатории за изкуствен интелект, сред които на „Алибаба“ (Alibaba), „ДийпСийк“ (DeepSeek), „Мууншот“ (Moonshot) и „Сяоми“ (Xiaomi).
Компаниите не отговориха веднага на искане на Ройтерс за коментар по въпроса.
„Антропик“ съобщи, че оператори, свързани с „Алибаба“, са извършили най-мащабния досега опит да извлекат възможностите на моделите „Клод“ чрез техника, известна като „дестилация“ (distillation), и да ги използват за подобряване на собствените модели за изкуствен интелект с отворен код „Куен“ (Qwen) на китайската компания.
Т. нар. дестилация представлява процес, при който по-малки модели за изкуствен интелект се обучават с помощта на резултати, генерирани от по-големи и по-скъпи модели, с цел да се намалят разходите за разработването и обучението на нов ИИ инструмент.
„Антропик“ съобщи, че между май и юли 2026 г. е регистрирала над 151 милиона взаимодействия, които приписва на „Алибаба“. В пиковите моменти те са достигали близо 3 милиона дневно и са били извършвани чрез повече от 3500 акаунта, определени от компанията като фалшиви.
„Антропик“ съобщи и за друга злоупотреба с нейната технология. Според компанията „Мууншот“, създателят на чатбота „Кими“ (Kimi), и ДийпСийк“ са пренасочвали реални разговори на свои клиенти през „Клод“. Някои от тези разговори са съдържали чувствителна информация, а отговорите на „Клод“ са били използвани като данни за обучение на техните модели.
Китайското външно министерство заяви, че не е запознато с доклада на американската корпорация. Пекин поддържа позицията, че изкуственият интелект трябва да се развива в полза на човечеството и се противопоставя на изопачаването на фактите и очернянето на Китай.