Създадените от изкуствен интелект фотоси възмутиха и Белия дом

Порнографски дийпфейк изображения на поп звездата Тейлър Суифт заляха социалната мрежа Х (бивш туитър), което предизвика вълна от недоволство чак до Белия дом и Конгреса на САЩ (deepfake - дълбока фалшификация, при която чрез генеративен изкуствен интелект се създават реалистични снимки, видео и аудио).

Манипулираните снимки на 33-годишната певица бяха видени милиони пъти - само една от тях цели 47 милиона, преди да бъде свалена след 19 часа от публикуването ѝ в платформата на милиардера Илон Мъск. След като той придоби Х през 2022 г., модерирането там се разхлаби, като богаташът защити действието си с аргумента, че е застъпник за свободата на словото. Това обаче даде поле за разпространението на неприлично съдържание, включително и порнографски материали, било то фалшиви, или не. Към момента търсенето в Х на ключови думи “Тейлър Суифт”, “Тейлър AI” и “Тейлър deepfake” е блокирано.

Източник, близък до певицата, заяви пред “Дейли Мейл”: “Решава се дали ще бъдат предприети съдебни действия, но едно е ясно - тези фалшиви изображения, генерирани от ИИ, са обидни, оскърбителни, експлоататорски и направени без съгласието и знанието ѝ”. По думите му Тейлър Суифт е “бясна” заради манипулираните снимки, а освен това

е “шокиращо, че Х изобщо е позволила те да бъдат качени”

Семейството, приятелите и феновете на Суифт също са възмутени от публикуването на снимките. “Как това не се смята за сексуално посегателство!? Говорим за тялото/лицето на жена, което се използва за нещо, което тя никога не би позволила. Защо няма закони, които да предотвратят това”, пише фен в Х. “Виновникът трябва бъде арестуван. Това, което видях, е абсолютно незаконно - трябва да защитим жените от подобни неща”, посочва друг фен в платформата.

Дийпфейк порнографията е незаконна в няколко щата в САЩ, сред които Тексас, Ню Йорк, Вирджиния и Хавай. В Калифорния и Илинойс пък жертвите могат да съдят създателите на манипулирани порнографски материали за клевета. Според експерти обаче законодателството изостава твърде много спрямо темпа на развитието на технологията. Докато на щатско ниво има предприети действия за борба с проблема, то на федерално ниво не съществуват закони срещу споделянето и създаването на дийпфейк изображения.

Демократът Джо Морел - член на Камарата на представителите, който миналата година предложи Закон за предотвратяване на порнографски дийпфейк изображения, призова за спешни действия. Ако законът беше приет, то сега разпространението на манипулираните материали щеше да е незаконно. По думите на Морел фалшивите видеа и снимки “могат да причинят необратими емоционални, финансови и репутационни вреди, а за съжаление, жените са непропорционално засегнати”. Според доклада “Състоянието на дийпфейк” от 2023 г. много от качените онлайн фалшиви материали са порнографски, а

99% от жертвите са жени

“Това, което се случи на Тейлър Суифт, не е новост”, посочи демократката Ивет Кларк в Х. Тя отбеляза, че жените са мишена на технологията от години, като добави, че “с напредъка на ИИ създаването на дийпфейк е по-лесно и по-евтино”. Републиканецът Том Кийн също изрази възмущение от ситуацията, като посочи, че “очевидно ИИ се развива по-бързо от необходимото”. “Независимо дали жертвата е Тейлър Суифт, или който и да е гражданин на тази страна, ние трябва да създадем мерки за борба с тази тревожна тенденция”, отбеляза още той. И наистина, развитието на генеративния ИИ е светкавично. Доклад установи, че от 2019 г. насам се наблюдава увеличение с цели 550% на създаването на подправени от ИИ изображения.

Говорителката на Белия дом Катрин Жан-Пиер определи като тревожно разпространението на фалшивите снимки на Суифт. Тя посочи, че “макар и компаниите за социалните мрежи да вземат собствени независими решения за управление на съдържанието, ние вярваме, че те трябва да играят важна роля в прилагането на собствените си правила”. Жан-Пиер призова Конгресът на САЩ да предприеме мерки по въпроса. Междувременно в сряда изпълнителните директори на социални мрежи, сред които Марк Зукърбърг (Мета), Линда Якарино (X), както и Шу Зи Чу (ТикТок), ще бъдат разпитани в съдебната комисия на Сената на САЩ спрямо сексуалната експлоатация на деца в интернет, след като напоследък нараснаха опасения, че платформите не правят достатъчно, за да ги защитят.

Междувременно доклад на сайта за технологични новини 404 Media установи, че дийпфейк снимките на Суифт вероятно произхождат от анонимния форум 4Chan и от затворена група в телеграм, чиято цел е споделянето на порнографски материали на жени, генерирани с ИИ на компанията “Майкрософт”. От техгиганта посочиха, че още разследват случая, но същевременно

са засилили съществуващите системи за безопасност,

за да предотвратят използването на услугите им за създаване на подобни изображения.

Освен анонимния 4Chan уебсайтът Celeb Jihad също сподели фалшивите порнографски снимки на поп звездата, и то абсолютно безнаказано. Сайтът е известен с това, че многократно е качвал дийпфейк на знаменитости, както и изтекли техни фотоси от хакнати телефони и облаци за съхранение на информация. Не се знае кой е създал сайта през 2008 г. Шокиращо е обаче, че съдържанието му се рекламира като сатира и се твърди, че “не е порнографски уебсайт”. Част от снимките на певицата в Х са именно с водния знак на сайта.

Адвокатите на Суифт вече са отправяли предупреждение към Celeb Jihad през 2011 г., когато сайтът публикува фалшива снимка на певицата без горна дреха. През 2017 г. уебстраницата беше част от масово изтичане на кадри на известни, придобити нелегално. Сред тях бяха изображения на певицата Майли Сайръс, както и на професионалния голф състезател Тайгър Уудс и бившата му приятелка - олимпийската шампионка Линдзи Вон.