Еврокомиссия инициировала официальное расследование в отношении соцсети X и чат-бота Grok из-за массового распространения сгенерированных нейросетью сексуализированных изображений.
Причины расследования
Расследование начато в соответствии с Законом о цифровых услугах (DSA). По данным Еврокомиссии, в соцсети X были опубликованы тысячи сгенерированных изображений реальных женщин и девочек в сексуализированных позах без их согласия.
По информации The New York Times, за девять дней в конце декабря в открытый доступ попали не менее 1,8 млн сексуализированных изображений.
Обязательства соцсети
Еврокомиссия планирует оценить, насколько компания выполняет свои обязательства по отслеживанию рисков, связанных с функциональными возможностями Grok в X на территории Евросоюза.
В частности, речь идёт о рисках распространения контента, в том числе обработанных изображений сексуального характера и контента, который может представлять собой связанные с насилием над детьми материалы.
Последствия для соцсети
Если расследование подтвердит нарушение X законодательства, компании может грозить крупный штраф.
В начале января собственные расследования были начаты также в Австралии, Великобритании, Германии и Франции.
Ситуация в других странах
- Grok запретили в Индонезии и Малайзии, однако последняя уже сняла запрет.
- Руководство X заявило, что ограничило работу функции генерации сексуализированных изображений.
Перспективы
Расследование Еврокомиссии может иметь серьезные последствия для соцсети X и чат-бота Grok.
В случае выявления нарушений, компании может грозить не только штраф, но и изменение подхода к модерации контента.
RU 
EN