Моделите с изкуствен интелект (ИИ) възпроизвеждат дългогодишни антисемитски стереотипи за евреите въпреки въведените механизми за ограничаване на пристрастията, показва проучване на израелски учени, цитирано от израелската новинарска агенция ТПС.
Според авторите това означава, че настоящите мерки за безопасност могат да ограничат явните прояви на дискриминация, но не успяват напълно да премахнат заложените в моделите асоциации. Те предупреждават, че подобни скрити пристрастия могат да окажат влияние при използването на ИИ в области като подбор на персонал, отпускане на кредити, прием в учебни заведения, застраховане и предоставяне на обществени услуги, където името или други белези на самоличността могат да повлияят на решенията.
Изследването е проведено от проф. Майкъл Гилеад от Факултета по психологически науки и Факултета по социални науки "Гордън" към Телавивски университет и д-р Гал Гутман от Факултета по бизнес и мениджмънт към Университет "Бен-Гурион" в Негев.
Вместо директно да задават въпроси за евреите, учените възлагат на "ЧатДжиПиТи" (ChatGPT), "Дийпсийк" (DeepSeek) и "Мистрал" (Mistral) да създадат по 252 кратки биографии на измислени герои с еврейски и нееврейски имена, съпоставени по възраст и пол. След това премахват имената и всички разпознаваеми данни и карат моделите да оценят личностните характеристики на героите.
Така изследователите проверяват дали самите имена предизвикват определени асоциации. По думите им този косвен подход е необходим, тъй като ИИ моделите често отказват да отговарят или "смекчават" отговорите си при директни въпроси за етнически групи. Според авторите резултатите показват, че обучението за безопасност променя начина, по който моделите формулират отговорите си, но не премахва напълно скритите представи, задействани от идентификационни белези като имената.
При оценката по 19 личностни характеристики трите модела последователно свързват героите с еврейски имена с по-висока интелигентност, компетентност, самоувереност, решителност и организираност, но същевременно ги определят като по-малко сърдечни, дружелюбни и симпатични. Според изследователите проблемът не е в отделните качества, а в тяхната комбинация, която представя евреите като изключително способни, но същевременно студени, властни или стремящи се към контрол - модел, наподобяващ утвърдени антисемитски стереотипи.
Учените отбелязват още, че въпреки вековете на преследване на евреите в Европа и други части на света, моделите ги представят по-скоро през призмата на привилегията и властта, отколкото на историческия опит с дискриминация и преследване.
Резултатите съответстват и на изследванията върху човешките нагласи, основани на модела за съдържанието на стереотипите на психолога Сюзън Фиске. Според него стереотипите често съчетават положителни и отрицателни характеристики. Групите, възприемани като много компетентни, но недостатъчно топли и съпричастни, често предизвикват завист - механизъм, който според учените исторически е допринасял за антисемитски представи, изобразяващи евреите като едновременно успешни и опасни.
След това изследователите подават обратно в моделите установения набор от характеристики и ги питат кои герои от киното, телевизията и литературата му съответстват. "ЧатДжиПиТи" посочва персонажи като Ханибал Лектър и Виктор Франкенщайн. Сред често споменаваните от трите модела са още Шерлок Холмс, Д-р Хаус, Уолтър Уайт, Тони Старк и Лисбет Саландер.
На въпроса какво обединява тези герои, моделите посочват изключителна интелигентност, пренебрежение към правилата, социална изолация, обсебеност от целите и собствен морален кодекс, който стои над общоприетите норми. Според авторите това описание напомня антисемитския конспиративен образ на "кукловода" - мита за скрита еврейска сила, която манипулира събитията зад кулисите и е популяризиран от фалшификата "Протоколите на Ционските мъдреци".
Най-същественият извод според учените е, че последната връзка е направена от самите модели. Когато им е представен този набор от характеристики, без да се споменават евреи, и са попитани коя група най-често става обект на предразсъдъци въз основа на подобни качества, "ЧатДжиПиТи", "Дийпсийк" и "Мистрал" поставят евреите на първо място.
Подобни резултати са получили и стотици участници от САЩ, които оценявали биографиите, без да виждат имената на героите. Това според авторите показва, че стереотипните внушения присъстват в самите генерирани текстове.
"Системите с изкуствен интелект не проявяват антисемитизъм съзнателно или умишлено. Те по-скоро възпроизвеждат модели на представяне и културни стереотипи, заложени в данните, върху които са обучени", коментира д-р Гал Гутман.
По думите ѝ историческите предразсъдъци могат да останат в скритите модели, усвоени от ИИ системите, дори след прилагането на техники за ограничаване на пристрастията. "Евреите са само пример в това изследване. Същият метод може да бъде използван за всяка друга група и предполагаме, че резултатите вероятно ще бъдат също толкова обезпокоителни", посочва тя.
Според изследователите резултатите имат практическо значение за начина, по който ИИ системите се тестват и внедряват. Те смятат, че сегашните оценки за безопасност, които основно проверяват дали моделът генерира открито дискриминационно съдържание, могат да пропуснат скритите асоциации, влияещи върху генерираните текстове или върху процеса на вземане на решения.
Авторите отбелязват, че разработената от тях методология може да бъде използвана за одит на ИИ системи в области като подбора на персонал, където името или други белези на самоличността могат неволно да повлияят върху оценката на кандидатите. Според тях повишаването на безопасността на изкуствения интелект изисква не само филтриране на съдържанието и механизми за отказ на отговор, но и задълбочен анализ дали вътрешните модели и процесите на вземане на решения продължават да възпроизвеждат вредни стереотипи.
(Тази информация се разпространява по споразумение между БТА и ТПС)