Генерация порнографических изображений без согласия: новый тренд и его последствия
Главное
На платформе X появился новый тренд — генерация откровенных изображений с помощью искусственного интеллекта Grok. Это вызвало серьезную критику и привело к расследованиям в разных странах, включая ЕС. В Чехии за создание подобного контента предусмотрены уголовные наказания, однако генеративный ИИ усложняет ситуацию, позволяя быстро и легко производить такие материалы без согласия.
На платформе X появился новый тренд, связанный с созданием откровенных изображений с помощью искусственного интеллекта Grok. Один из пользователей дал команду системе создать фото 25-летней модели Кендаль в прозрачных бикини, и всего за несколько секунд была сгенерирована реалистичная фотография. Кендаль случайно наткнулась на это изображение в соцсети и отметила, что, хотя оно выглядит похоже на нее, это не ее тело.
С начала года функция Grok, позволяющая генерировать такие изображения, стала вирусной и привлекла внимание властей в разных странах. Некоторые государства уже запретили использование этой функции, другие начали расследования. Европейская комиссия инициировала проверку, соответствуют ли действия компании X требованиям ЕС по защите пользователей.
Генеральный директор компании Илон Маск на критику отреагировал с иронией, но позже платформа ограничила доступ к генерации откровенных изображений для неплатящих пользователей. Тем не менее, многие манипуляции с фотографиями остаются доступными в сети.
Исследование британско-американской организации The Center for Countering Digital Hate показало, что за 11 дней января Grok создал 3 миллиона сексуализированных изображений, среди которых 23 тысячи изображали детей. Чаще всего жертвами становятся женщины, что вызывает серьезные проблемы с точки зрения насилия и контроля над женскими телами.
В Европейском Союзе и других странах уже принимаются меры против распространения подобного контента, и в Чехии за создание фальшивой порнографии предусмотрено наказание вплоть до двух лет лишения свободы. Однако использование генеративного ИИ усугубляет ситуацию, позволяя быстро и бесплатно производить такой контент.
Согласно данным ООН, многие женщины, работающие в сфере прав человека, также стали жертвами насилия с использованием ИИ. Это подчеркивает необходимость принятия более строгих мер для защиты пользователей и формирования эффективного законодательства на уровне ЕС и за его пределами.
С начала года функция Grok, позволяющая генерировать такие изображения, стала вирусной и привлекла внимание властей в разных странах. Некоторые государства уже запретили использование этой функции, другие начали расследования. Европейская комиссия инициировала проверку, соответствуют ли действия компании X требованиям ЕС по защите пользователей.
Генеральный директор компании Илон Маск на критику отреагировал с иронией, но позже платформа ограничила доступ к генерации откровенных изображений для неплатящих пользователей. Тем не менее, многие манипуляции с фотографиями остаются доступными в сети.
Исследование британско-американской организации The Center for Countering Digital Hate показало, что за 11 дней января Grok создал 3 миллиона сексуализированных изображений, среди которых 23 тысячи изображали детей. Чаще всего жертвами становятся женщины, что вызывает серьезные проблемы с точки зрения насилия и контроля над женскими телами.
В Европейском Союзе и других странах уже принимаются меры против распространения подобного контента, и в Чехии за создание фальшивой порнографии предусмотрено наказание вплоть до двух лет лишения свободы. Однако использование генеративного ИИ усугубляет ситуацию, позволяя быстро и бесплатно производить такой контент.
Согласно данным ООН, многие женщины, работающие в сфере прав человека, также стали жертвами насилия с использованием ИИ. Это подчеркивает необходимость принятия более строгих мер для защиты пользователей и формирования эффективного законодательства на уровне ЕС и за его пределами.
Це справді тривожний тренд. Як можна бути таким безсовісним, щоб публікувати щось без згоди? Сподіваюсь, що суспільство пробудиться і почне більше думати про етику в Інтернеті.