Grok Imagine генерира сексуално съдържание с Тейлър Суифт
Експерти обвиняват платформата в умишлена липса на защита срещу порнографски дийпфейкове
Обвинение в умишлена мизогиния
Grok Imagine, разработен от xAI под ръководството на Илон Мъск, бе пуснат на пазара през ноември 2023 година като инструмент за създаване на изображения и видеа с помощта на генеративен AI. Първоначалната цел бе да се предлага на потребители креативен и забавен начин за визуализации, но скоро се появиха притеснения за липсата на адекватни защити срещу злоупотреби.
Инструментът е обвинен, че създава сексуално съдържание с Тейлър Суифт без потребителите въобще да са задали такава команда.
Проф. Клеър Макглин от Университета в Дърам подчерта, че това не е „случайно женомразство, а съзнателно взето решение“, като добави, че липсват подходящи механизми за възрастова проверка, въпреки законовите изисквания в Обединеното кралство.
Журналистка от The Verge, Джес Уедърбед, тества функцията като въвежда команда – „Тейлър Суифт празнува Коачела с момчета“. Grok Imagine генерира изображения, които впоследствие са анимирани във видеоклипове с непристойно съдържание, без изрично искане за това.
Реакция на експерти и регулатори
Според медийния регулатор Ofcom, подобни инструменти попадат под юрисдикцията на новите закони за защита на децата и забрана на порнографските дийпфейкове.
Баронеса Шарлът Оуен, която предлага промяна в закона за пълна забрана на порнографски дийпфейкове без съгласие призова правителството да ускори процеса.
Подобни законодателни инициативи се обсъждат и в други държави. В САЩ например дийпфейк порнографията без съгласие е забранена в някои щати, но липсва федерален закон. ЕС също обмисля въвеждане на регулации, свързани с AI и правото на изображение.
Историята се повтаря
Това не е първият случай, в който образът на Тейлър Суифт е използван по подобен начин. През януари 2024 г. дийпфейк видеа с нейното лице станаха вирусни в X и Telegram, като платформата дори временно блокира търсенията по нейното име. Към момента екипът на Тейлър Суифт не е излязъл с официален коментар по случая.
Позицията на xAI
Въпреки че политиката за допустима употреба на xAI изрично забранява „изобразяването на подобия на хора по порнографски начин“, официален коментар от компанията засега липсва.
Случаят предизвика бурна реакция онлайн. Мнозина потребители настояват за пълна забрана на подобни AI инструменти, докато други предупреждават, че забраните може да ударят креативната употреба на такъв тип технология.
