„ОупънЕйАй“ блокира руски акаунти в „ЧатДжиПиТи“, използвани в тайна кампания за разпространение на дезинформация

ЧатДжиПиТи
„ОупънЕйАй“ (OpenAI) е блокирала група акаунти в платформата за генеративен изкуствен интелект „ЧатДжиПиТи“ (ChatGPT) с произход от Русия, които, според американската компанията, са били използвани в подкрепа на тайна онлайн кампания с цел разпространение на дезинформация, съобщи Си Ен Би Си.
Американският разработчик е открил проблема след разследване на публикации в социалните медии, генерирани от изкуствен интелект, което я е довело до „много по-мащабна операция за влияние“, съобщи днес „ОупънЕйАй“ в публикация в блога си.
Кампанията е била „изградена около уебсайт, съдържащ копирани и неправилно приписани академични трудове, индекс за „суверенитет“, който представя Русия в благоприятна светлина, както и усилия за прикриване на руския произход на операторите“ на акаунтите, добави компанията.
 „ОупънЕйАй“ не позволява достъп до своите модели в Русия, но компанията посочи, че са били използвани VPN мрежи за прикриване на местоположението на абонатите.
През февруари „ОупънЕйАй“ съобщи, че е закрила акаунти в „ЧатДжиПиТи“, свързани с „Рибар“ – проруска медийна компания, която британското правителство описва като „частично координирана от президентската администрация“, финансирана от руската държавна корпорация „Ростех“ и сътрудничеща с членове на руските разузнавателни служби.
Проруска кампания за влияние
Операторите на акаунтите давали команди на руски език за генериране на коментари в социалните медии, които били публикувани в „Събстак“ (Substack), „Телеграм“ (Telegram), „Екс“ (X), „Фейсбук“ (Facebook) и „Линкдин“ (LinkedIn), и инструктирали „ЧатДжиПиТи“ да скрие всякакви езикови улики, че са от Русия, посочиха от „ОупънЕйАй“.
Голяма част от генерираното съдържание е популяризирало организация, наречена „Международен институт „Бърк““ (International Burke Institute – IBI). На уебсайта на организацията се публикуват статии, копирани от истински академични текстове, понякога с фалшиво посочени източници.
Кампанията за влияние също така е създала „индекс на суверенитета“, който възхвалява Русия и очерня западните държави, според „ОупънЕйАй“.
Макар че непосредственото въздействие на операцията изглежда ограничено, „значението на операцията се състои не толкова в аудиторията, до която е достигнала, колкото в инфраструктурата, която е изградила“, добавиха от компанията.
Публикациите, създадени от „ЧатДжиПиТи“, сочеха към „институция, която на пръв поглед изглеждаше достоверна, с т.нар. експерти, препубликувани академични трудове и т.нар. собствен индекс на риска“, заяви „ОупънЕйАй“.
„Това илюстрира как лицата, упражняващи влияние, могат да използват изкуствения интелект като подкрепящ инструмент в рамките на по-широки усилия за създаване на авторитет, прикриване на източника на предпочитани наративи и изграждане на ресурси, които могат да бъдат разширени с течение на времето“, обясниха от компанията за изкуствен интелект.