Дийпфейк, обединяващ политически противници в Италия, разпали дебата за някои рискове, които крие изкуственият интелект

Видеоклип от парти, по време на което лидерката на италианската опозиционна левоцентристка Демократическа партия Ели Шлайн говори на четири очи и се смее с лидера на новата крайнодясна партия „Национално бъдеще“ - бившия генерал Роберто Ваначи, предизвика потрес в Италия, отбелязват „Република“, „Оупън онлайн“, „Кориере дела сера“, „Тудей“, „АДН Кронос“ и „Вриджилио нотицие“.
Шлайн и Ваначи са на противоположните страни на италианския политически спектър и допирни точни нямат. Партията на Шлайн е прогресивна, докато партията на Ваначи е консервативна. Самата Шлайн се определя като бисексуална, докато Ваначи е автор на книга, в която изразява хомофобски и расистки позиции. Шлайн говори за интегриране и приобщаване на мигрантите, докато Ваначи развива тезата за ремиграция.
Подобни коренно различни политици трудно биха намерили общ език, а камо ли да установят фамилиарно отношение помежду си, както изглежда от завъртялото се в социалните мрежи видео. Ето защо клипът породи потрес.
Шлайн веднага алармира, че това видео е фалшиво, че става дума за дийпфейк, създаден с помощта на изкуствен интелект и че тя никога не е била на тържество в компанията на Ваначи, нито се е усамотявала по някакъв повод с него, за да заговорничи и разменя шеги. Шлайн съобщи, че тя самата е научила за видеото от други хора, които са я предупредили, че то се върти в интернет.
„Сигнализираха ми, че се разпространява фалшиво видео, в което се забавлявам в компанията на Роберто Ваначи на вечеря. Това никога не се е случвало. Ние дори никога не сме се срещали. И такава вечеря никога не е имало“, заяви Шлайн в пост в акаунтите си в социалните мрежи.
„Сега ме интересува не толкова самото опровержение на един факт“, допълва тя и подчертава, че сега е важно случилото се да породи размисли „накъде този вид злоупотреба с изкуствения интелект води демокрациите и какво може да причини на правата на всяка една гражданка и на всеки един гражданин подобна злоупотреба“.
„Искам отново да отправя призива, който отправих към всички политически сили и който вече беше приет от премиера Мелони, за отговорно и етично използване на изкуствения интелект. Този случай дава представа за огромните рискове от замърсяване на предизборната кампания чрез все по-усъвършенствани дийпфейкове. Всички политически сили трябва да се ангажират да не използват изкуствен интелект, за да приписват на политическите си опоненти събития или думи, които не са реални. Това няма да реши проблема с всичко, което циркулира в мрежата и което би могло да засегне всеки един от нас, но междувременно нека да свършим нашата част от работата и да дадем пример“, заяви Шлайн.
„Освен това социалните платформи трябва да поемат своята отговорност и своевременно да премахват дийпфейкове като това, в което има измислен разговор между мен и Ваначи. Тези нови технологии са толкова мощни, че могат да покажат политически опонент, който произнася фраза, която никога не е казвал, или който извършва престъпление, което никога не е извършвал, или който прегръща диктатор, когото никога не е познавал. Ако не се намесим, поемайки отговорностите си по споделен и надпартиен начин, тази технология може да деформира предизборните кампании, да повлияе на общественото мнение и да позволи външни намеси, довеждайки дезинформацията до мащаби, които нямат прецедент“, подчерта лидерката на Демократическата партия.
„Работим по текст, който да предложим за обсъждане с останалите политически сили, с надеждата, че всички ще можем да подпишем ясен ангажимент в защита на демокрацията“, заяви тя.
Фалшивото видео се появи една година преди парламентарните избори в Италия, за които неофициална предизборна кампания се води още отсега. Партията на Ваначи се изкачва в допитванията и дори изпреварва крайнодясната партия „Лига“, която е част от управляващата коалиция и от която „Национално бъдеще“ се отцепи по-рано през годината.  Паралелно с това нараства и рейтингът на демократите.
Според някои социологически сценарии ако демократите се обединят с други опозиционни леви и центристки партии, то заедно те биха могли да съберат по-висок процент от този на партиите от управляващата коалиция. Тук важен фактор е именно партията на Ваначи. Ако тя намери общ език в крайна сметка с партиите от управляващата коалиция, оглавявана от „Италиански братя“ на Джорджа Мелони, то процентът на обединените десноцентристки сили би могъл да превиши този на обединените левоцентристи. Ако партията на Ваначи се яви на изборите сама, то тя би могла да лиши партиите от десноцентристката коалиция от ценни проценти и левоценстристите да надделеят.
Неотдавна премиерката Мелони обвини партията на Ваначи, че по време на парламентарни гласувания застава на страната на левицата. Ваначи отрече това. А демократите дадоха да се разбере, че не биха искали да бъдат асоциирани с „Национално бъдеще“, която защитава ценности, различни от техните. В интервю за списание „Ки“, публикувано на 12 август, Мелони дефинира партията на Ваначи като проект, целящ да фаворизира левицата.
В този напрегнат контекст видеото, показващо Шлайн и Ваначи да фамилиарничат, нямаше как да не налее масло в огъня на предизборните страсти.
Малко след изявлението на Шлайн видеото беше премахнато от социалните мрежи.
Неговият създател пък реши да проговори, вместо да се укрива. Той се представи като Леонардо Пипа, създател на дигитално съдържание. В акаунтите си в социалните мрежи Леонардо поясни, че е създал с помощта на изкуствен интелект видео с продължителност от две минути. В него сцената между Ваначи и Шлайн продължава само няколко секунди. В останалата част от видеото Леонардо обяснява колко е опасно използването на изкуствен интелект особено в предизборен контекст. Но тук, както казва Леонардо, нещата са се объркали. Някой е взел видеото, изрязал е от него само сцената със Шлайн и Ваначи и я е препубликувал в съкратен вид. Така основното послание на видеото на Леонардо се е изгубило и се е породила полемика, отбелязва „Оупън онлайн“.
„Не съм твой противник, Ели Шлайн. На твоята страна съм. Дейпфейковете са огромен риск“, казва Леонардо Пипа. Той подчертава, че сцената между Шлайн и Ваначи никога не се е случвала. Леонардо признава, че се е опитал да даде урок на хората, но в крайна сметка урокът не по негова вина е свършил зле.
Не за първи път името на Ваначи е забъркано в история с дийпфейк. През юли в негов акаунт беше публикувано видео, генерирано с изкуствен интелект, в което Роберто Ваначи беше представен като римски император. Във видеото в ролята на императрица беше Джорджа Мелони, а до тях в ролята на висопоставен представител на императорския режим беше обрисуван председателят на Сената на италианския парламент Иняцио Ла Руса, който е представител на партията на Мелони. Тримата бяха насред Колизея и присъстваха на предстоящата екзекуция на няколко души, обрисувани с чертите на няколко опозиционни лидери, а именно Ели Шлайн, лидера на „Движение 5 звезди“ и бивш премиер Джузепе Конте, Романо Проди, бившия двукратен премиер на Италия и бивш председател на Европейската комисия и левоцентристката Лаура Болдрини, бивша председателка на Камарата на депутатите на парламента. Всички тези политици, осъдени на смърт във видеото, са критици на управляващата коалиция на Мелони.
Видеото породи скандал и представители на опозицията казаха, че то подстрекава към насилие спрямо опозицията. Те призоваха Мелони, обрисувана като императрица във видеото, да се дистанцира от него. Ели Шлайн по-специално отправи тогава призив към Мелони да се сключи предизборен пакт между партиите, съгласно който в предизборната кампания да не се използват видеа, генерирани с изкуствен интелект. Мелони откликна на призива и се разграничи от видеото, публикувано от Ваначи, припомнят АНСА и „РАИ Нюз“.
„Научих, че някои представители на опозицията искат от мен да се разгранича от видеоклип, направен с изкуствен интелект и разпространен от друга опозиционна партия, в който съм включена без мое знание. Правя го без никакво колебание. Това видео не отговаря на моята същност, нито на моя начин на разбиране на политическия дебат. Винаги съм смятала, че политиката трябва да се оценява по идеите, по одобрението за нея и по вота на гражданите, а никога чрез сплашване, омраза или чрез представяне на опонента в сцена на насилие“, заяви Мелони в пост в акаунтите в социалните си мрежи.
Тогава тя призова и левицата да се разграничи по същия силен начин от всеки свой представител, който отправя заплахи към представители на десницата, към силите на реда или към правосъдните органи. Според Мелони осъждането на езика на омразата, на всяко подтикване към насилие и на всяка форма на политическо сплашване не може да важи само за определен момент и определена ситуация, а трябва да важи винаги, без изключения и без двойни стандарти. „Винаги съм смятала насилието, в каквато и форма да се проявява, за демонстрация на слабост и несигурност. Този, който е наистина силен, няма нужда да парадира с това“, заяви тогава Мелони и подчерта, че това нейно убеждение никога няма да се промени.
Малко след това обаче Ваначи образно казано рецидивира и публикува ново видео, генерирано с изкуствен интелект. В него в ролята на император беше обрисуван италианският президент Серджо Матарела, който помилва възрастен бижутер от северната италианска област Пиемонте, осъден заради това, че е убил двама мъже, обрали магазина му. Случаят с бижутера породи дебати в Италия и призиви за помилването му, защото според представители на десницата той е действал при самозащита.
В последните години в разнородни акаунти в социалните мрежи се появяват разнородни видеа, генерирани с изкуствен интелект, в които Мелони хвали прелестите на италианската кухня или на италианските градове, прави си селфи с дъщеря си и с неизвестен красив мъж с неговото дете, или просто се разхожда със сексапилни рокли.
На няколко пъти в последните години в Италия бяха разбивани и онлайн групи и сайтове, в които се качват лични снимки на известни италианки. Снимките се модифицират с изкуствен интелект и после стават обект на обидни дискусии в тези сайтове.
Самата Мелони заведе преди няколко години дело срещу двама италианци – баща и син – които са създали дейпфейк порнографско съдържание, свързано с нея.
През май Мелони постна в акаунтите си в социалните мрежи снимка, взета от акаунт на потребител в интернет, на която с помощта на изкуствен интелект тя е по интимно бельо в спалнята. Потребителят, който първи беше постнал в акаунта си това изображение, пишеше, че е позор премиер на Италия да се появява в този вид. Препоствайки поста му и снимката, генерирана с изкуствен интелект, Мелони подчерта, че го прави не, за да допринася за разпространяването на една лъжа, а за да подчертае колко опасни са подобни приложения на изкуствения интелект и дийпфейковете.  Тя прикани потребителите на интернет винаги да проверяват съдържанието, което разпространяват в социалните мрежи, припомня „Пост“.
„Дийпфейковете са опасен инструмент, защото могат да заблудят, манипулират и засегнат всекиго. Аз мога да се защитя. Много други обаче не могат“, заяви тогава Мелони. И след това добави: „Едно правило трябва да важи винаги: проверявай преди да повярваш и вярвай преди да споделиш. Защото днес се случва на мен, утре може да се случи на всеки“.
В края на 2024 г. Мелони изпита лично на гърба си вредното въздействие на едно дийпфейк видео, генерирано с изкуствен интелект. По това време тя присъства на церемонията по откриването на реставрираната парижка катедрала „Нотр дам“. Там беше и милиардерът Илон Мъск, придружаващ Доналд Тръмп, който тъкмо беше спечелил за втори път американските президентски избори и беше поканен на церемонията от френския президент Еманюел Макрон. По онова време Мелони поддържаше сърдечни отношения с Мъск и двамата не криеха възхищението си един от друг. След участието й на проявата в Париж в интернет се завъртяха кадри, показващи я да се целува страстно с Мъск по време на това събитие, припомнят „Кориере дела сера“, „Стампа“ и „Република“. Анализатори на фалшиво съдържание веднага показаха по какво се познава, че кадрите не са истински. А водещи италиански медии ги препостнаха, но придружавани с инструкции към читателите как да разпознават, че дадена снимка или видео са фалшиви. Това обаче не спря вълната от негативни коментари по адрес на Мелони.
Настоящата година между впрочем започна с една полемика, предизвикана този път не от фалшиво, а от едно реално изображение, появило се в римска църква. След реставрационни дейности в римската базилика "Сан Лоренцо ин Лучина" бдителни журналисти забелязаха появата на фреска на ангел с лика на италианската премиерка. . Базиликата се намира до централната римска улица „Корсо“, до долната парламентарна камара и до канцеларията на италианските премиери „Палацо Киджи“ и новината за ангела с лика на Мелони бързо предизвика струпване на зяпачи в храма.
Даниеле Микелети, предстоятел на базиликата, заяви, че трябва да се зададе въпрос на реставратора дали е променил нарочно лика на един от ангелите на фреска в храма, така че той да прилича на Мелони. „Аз бях поискал храмът да бъде реставриран точно както е бил преди“, заяви той и подчерта, ангелът и в миналото е бил на това място и в тази поза, но допълни, че не може да прецени дали чертите му са били променени.
Ангелът в базиликата с чертите на Мелони държи документ, в който фигурира карта на Италия и се намира вдясно от бюст на Умберто Втори Савойски, последния крал на Кралство Италия.
Реставраторът на фреската беше идентифициран като Бруно Валентинети. Той се оказа не професионалист, а реставратьор-аматьор. Първоначално той твърдеше, че не е искал да придаде прилика между ангела и Мелони, а че е възстановил оригиналната фреска, такава каквато тя е била в миналото и която между впрочем той е нарисувал. Мелони пък публикува в акаунта си в „Инстаграм“ снимката на ангела от базиликата и иронично намекна, че самата тя не може да мине за ангел. Редица представители на опозицията обаче настояха министърът на културата Алесандро Джули да даде обяснения. Той заяви, че е пратил експерти да проверят случая.
Сред дебати, в които се намесиха и представители на Ватикана, ликът, приличащ на Мелони, беше замазан с бяла боя.  В последващи интервюта Валентинети даде противоречиви версии относно приликата на фреската с Мелони. В някои от тях той отново отрече да е искал да увековечи Мелони, но в други признаваше, че ангелът от фреската действително е с лика на италианския премиер.
Тогава в редица медии се появиха информации, че в миналото 83-годишният Валентинети е бил последовател на постфашисткото Италианско социално движение, от което произхожда партията на Мелони. След това Валентинети започнал да гласува за партията Християндемокрация. В даден момент той дори се опитал да влезе в политиката и да се кандидатира на местните избори в Рим. Но след тези неуспешни опити, той от години вече не проявявал политически пристрастия, посочва изданието „Лего“ . Пред „Република“ Валентинети обаче признава, че ликът на ангела е бил този на Мелони, но акцентира, че той не й симпатизира и че всъщност ангелът още отпреди е имал прилика с чертите на Мелони, но досега никой не го е забелязвал.
Бдителни наблюдатели съзряха и в съседния ангел в базиликата прилика с други политически фигури, като например Ариана Мелони, която е висш кадър в партията на италианския премиер и с Джузепе Конте. Тук обаче Валентинети категорично отхвърли тази хипотеза, като заяви, че другият ангел е с лика на бившата му съпруга, която днес е на 47 години. Тя е била, по думите му, много красива жена, молена от италиански режисьори да се снима във филмите им, посочва „Лего“.
Случаят тогава породи множество пародии в интернет. С помощта на изкуствен интелект Джорджа Мелони се превърна в "Мона Лиза" на Леонардо да Винчи и в "Момичето с перлената обица" на Вермеер.
Пет месеца след това ангелът беше изрисуван с ново лице и този път наблюдатели го оприличиха на Марина Берлускони, отбеляза италианското издание „Финестре сул арте“. Марина Берлускони е дъщеря на четирикратния премиер на Италия, покойния Силвио Берлускони, който имаше и бизнес холдинг. След смъртта на баща си Марина Берлускони оглави холдинга му. От една година тя дава често интервюта в медиите и анализатори заговориха, че може да се захване с политика, въпреки че самата Марина Берлускони отрече тези хипотези. Силвио Берлускони беше създател на десноцентристката партия „Форца Италия“, която днес е оглавявана от италианския външен министър Антонио Таяни. Партията е коалиционен партньор в кабинета на Джорджа Мелони.
Според други посетители на базиликата „Сан Лоренцо ин Лучина“ прерисуваният лик на ангела прилича по-скоро сега на Алесандра Мусолини, внучка на Бенито Мусолини, актриса, политик и риалити звезда, която неотдавна спечели риалити формата „ВИП брадър". Според трети анализатори ликът на ангела от римската базилика вече приличал на италианската певица Елоди, известна защитничка на правата на ЛГБТ общността, самата тя бисексуална и отявлена критичка на Мелони.