Тази седмица Сенатът на САЩ единодушно прие законопроект, който ще позволи на жертвите на сексуално съдържание, създадено чрез различни приложения (deep fake) и разпространявано без тяхно съгласие, да съдят създателите за не по-малко от 150 000 долара. Законопроектът се насочва към Камарата на представителите. Същевременно защитниците на проекта настояват Google и Apple да забранят Grok в магазините за приложения, след като чатботът позволи създаването на неконсенсусни интимни/сексуални изображения, включително на деца, включително на загинали (жертви на атентати). Много от изображенията не са „просто“ неконсенсусни. Те са оскърбителни, зловещи и обидни.
В отговор на реакциите на 9 януари Мъск е преместил опцията за създаване на изображения зад paywall. Този ход е критикуван от експерти по технологична политика и правозащитници, които казват, че компанията сега печели от злоупотреби. The Verge също така съобщи, че мярката не е попречила на потребители да генерират подобни изображения и без заплащане.
Доклад от 2024 г. изнася данни за 35 000 споменавания на неконсенсусни интимни изображения на 26 души в Конгреса на САЩ. Двадесет и пет от тези законодатели са били жени.
Не е само Grok. Wired установи, че чатботовете на Google и OpenAI също генерират неконсенсусни сексуализирани изображения. Специалните AI приложения достигат милиони. Масовото генериране на неконсенсусен сексуализиран тормоз вече е факт в настоящата онлайн екосистема и ще е необходима много работа, за да се справим с този риск.
Подходът на Австралия за защитата на децата от потенциалните опасности на популярните платформи за социални медии – блокирайки достъпа до деца под 16 години – вече е в сила и беше предизвикан от самоубийството на 14-годишната Оли Хюз, която беше тормозена в социалните мрежи. Алгоритмите, които са програмирани да ангажират децата възможно най-дълго, предоставят все по-токсичен материал и опасно съдържание.
Повече от 50 депутати от ЕP от различни политически групи искат от EK да изясни дали всички подобни на Grok приложения, генериращи сексуално съдържание, са забранени съгласно законодателството на ЕС. Писмото идва на фона на глобалното възмущение от Grok. Компанията майка на Grok, xAI, вече заяви, че е деактивирала способността на инструмента да генерира такива изображения. Комисията иска от платформата X да запази всички вътрешни документи, свързани с Grok, използвайки правомощията си съгласно Закона за цифровите услуги (DSA). Понастоящем DSA се прилага само за 25 VLOPs, много големи онлайн платформи в ЕС – което очевидно не е достатъчно.
В същото време президентът Тръмп подписа изпълнителна заповед за мораториум върху държавното регулиране на изкуствения интелект – разглеждана от медиите като подарък за технологичната индустрия.