Институтът GATE представи инструменти с изкуствен интелект за разпознаване на дезинформация

Инструменти, базирани на изкуствен интелект, за разпознаване на манипулативно съдържание и дезинформация бяха представени на международния семинар From Analysis to Action, организиран от Института „Големи данни в полза на интелигентно общество“ (GATE), съобщиха от института. Форумът събра учени и представители на европейски институции, медии и изследователски организации.
Проф. Преслав Наков от Mohamed bin Zayed University of Artificial Intelligence и Qatar Computing Research Institute представи възможностите на големите езикови модели за автоматизирана проверка на факти и анализ на медийно съдържание. Проф. Руслан Митков от университетите в Аликанте и Ланкастър показа приложения на езиковите технологии в образованието, превода и подкрепата за хора с комуникационни затруднения, сред които създаването на тестови задачи почти четири пъти по-бързо чрез автоматизирани методи.
Сред разработките на GATE, представени на форума, бяха инструмент за откриване на логически заблуди, показан от Станислав Пенков, както и приложение за анализ на политически наративи, демонстрирано от Добромир Цолов и Георги Горанов.
„Дезинформацията е предизвикателство не само за технологиите, но и за обществото като цяло. В GATE разработваме инструменти, които помагат да разбираме по-добре как се създават и разпространяват манипулативните послания. Нашата цел е научните изследвания да се превръщат в практически решения, които подкрепят информирания избор и критичното мислене“, посочи проф. Силвия Илиева, директор на института GATE, при откриването на събитието.
Участниците подчертаха, че технологиите не могат да заменят човешката преценка и че резултатите от автоматизираните системи трябва да бъдат проверявани с надеждни доказателства. Те обърнаха внимание и на необходимостта да се анализират не само отделни твърдения, но и цялостните наративи, чрез които се формират обществени нагласи.
Специално внимание беше отделено на уязвимостите на българската информационна среда. Представители на Съвета за електронни медии, Европейската комисия, Центъра за изследване на демокрацията и GATE обсъдиха недоверието към традиционните медии, поляризацията в онлайн пространството и отдръпването на гражданите от публичния дебат.
Сред темите на форума бяха също медийната грамотност и превенцията, включително подходът prebunking, който подготвя хората да разпознават манипулативни техники, преди да бъдат подведени. Разгледана беше и ролята на европейското законодателство, сред което са Законодателният акт за цифровите услуги (DSA) и Актът за изкуствения интелект, казаха от института.
/ИПД