"Антропик" забранява "безпричинното обидно или жестоко поведение" към ИИ модела "Клод"

Технологичната компания "Антропик" (Anthropic) обяви, че забранява на своите потребители всякакво "продължително и безпричинно обидно или жестоко поведение" към асистента й с изкуствен интелект "Клод" (Claude), предаде Франс прес. 
Правилото, което влиза в сила от 12 ноември, ще се прилага само в крайни случаи, "когато потребители действат многократно с жестокост спрямо нашите модели, без видима цел", пише компанията по повод актуализацията на политиката си за ползване. 
Компанията посочва, че забраната няма да се отнася за обичайните случаи на неудовлетвореност на потребителите, тестването на модели или "мрачните творчески теми".
Новата забрана се свързва с функция, пусната през август 2025 г., която позволява на "Клод" самостоятелно да прекрати разговор с събеседник, който постоянно се държи обидно. Тогава компанията представи това като резултат от "изследователска работа върху потенциалното благополучие на ИИ".
"Антропик" предизвиква дебат, тъй като е сред големите имена в областта на ИИ, които най-ясно допускат вероятност нейните модели да имат някаква форма на съзнание.
"Не знаем дали моделите са съзнателни“, заяви през февруари ръководителят й Дарио Амодей.
Според "Антропик" възможността на "Клод" да прекратява разговор ще остане основният начин да се налага спазването на новото правило.
Политиката за ползване освен това предвижда при всяко нарушение мерки, вариращи от предупреждение до закриване на акаунта на потребителя.
Позицията на "Антропик" относно съзнанието на ИИ е предмет на оживени дебати в Силициевата долина. Тя се оспорва най-вече от Мустафа Сулейман, ръководител на лабораторията за ИИ на "Майкрософт" (Microsoft).
„ИИ нямат нито права, нито чувства, нито съзнание“, написа той в широко коментиран пост в средата на септември, като изрази мнение, че система, обучена да вярва в обратното, може да стане невъзможна за контрол от страна на хората.
Новата актуализация на правилата на "Антропик" уточнява също така забраните за потребителите по отношение на проектирането на оръжия, наблюдението и кампаниите за дезинформация.
Автоматизираното публикуване на журналистически материали вече не фигурира сред дейностите с висок риск, подлежащи на човешка проверка.
Папа Лъв Четиринадесети, който отхвърли идеята за съзнание у машините в енцикликата си за ИИ, публикувана през май, вчера отново направи разграничение между човека и алгоритъма. Интелигентността не трябва да се изразява само в съпоставянето на данни, "както алгоритъмът вече прави по-бързо от нас", а трябва да помни преживения опит, „с резонансите, които само човешката душа може да усети“, заяви той по време на литургия в Рим.