Британският медиен регулатор разследва „Екс“ за генерирано от „Грок“ фалшиво сексуално съдържание и изображения на деца

Британският медиен регулатор „Офком“ (Ofcom) започна днес разследване срещу социалната платформа „Екс“ (X) за да определи дали сексуализираните фалшиви изображения на хора, създадени от чатбота с изкуствен интелект „Грок“ (Grok), нарушават задължението му да защитава потребителите във Великобритания от потенциално незаконно съдържание, предаде Ройтерс. 
„Съществуват дълбоко обезпокоителни съобщения, че чатботът, който е достъпен през социалната платформа „Екс“, се използва за създаване и споделяне на снимки на хора без дрехи, което може да се квалифицира като злоупотреба с интимни изображения или порнография, както и на сексуализирани фалшиви изображения с деца, които могат да се считат за материал за сексуално насилие“, пише в изявление на медийния регулатор.
Помолена за коментар пред Ройтерс относно започнатото разследване, платформата „Екс“ се позова на предишно изявление, в което твърди, че предприема действия срещу незаконно съдържание, включително материал за сексуално насилие над деца, чрез премахване на съдържанието, трайно спиране на акаунти и сътрудничество с местни власти и правоохранителни органи.
„Всеки, който използва или подтиква „Грок“ към създаването на незаконно съдържание, ще понесе същите последствия, както ако качва незаконно съдържание“, посочват от социалната платформа.
Британският медиен регулатор е под натиск да предприеме действия, след като премиерът Киър Стармър заяви в четвъртък, че генерираните от чатбота изображения са „отвратителни“ и „незаконни“.
„Екс“ трябва да предприеме мерки за контрол над „Грок“, каза Стармър. Да въпрос от днес дали платформата може да бъде забранена, британският министър на търговията Питър Кайл отговори „разбира се“, като уточни, че правомощията за това са в ръцете на „Офком“.
Министърът на труда Лиз Кендъл одобри започнатото официално разследване, добавяйки, че то трябва да приключи бързо.
Създаването или споделянето на интимни изображения без съгласие или материали със сексуално насилие над деца, включително генерирани от изкуствен интелект сексуални изображения, е незаконно във Великобритания.
Освен това технологичните платформи трябва да предотвратяват достъпа на британски потребители до незаконно съдържание и да го премахват веднага щом научат за него.
„Екс“ вече е била обект на критики в други държави за функцията на чатбота, която може да създава изображения на жени и малолетни в оскъдно облекло.
Платформата посочи, че вече е ограничила заявките за създаване на изображения в оскъдно облекло само до платени потребители.
Регулаторът ще разследва дали „Екс“ не е оценила риска британските потребители да се натъкнат на незаконно съдържание и дали е взела предвид риска за децата.
За най-сериозните случаи регулаторът може да поиска от съд да задължи платежните доставчици или рекламодателите да прекратят предоставянето на услуги на платформата или да принуди интернет доставчици да блокират достъпа до сайта във Великобритания, обяви „Офком“.