Европейское расследование в отношении платформы X

Европейский Союз начал официальное расследование в отношении социальной медиа-платформы Илона Маска, X, после того, как её чат-бот на основе искусственного интеллекта, Grok, начал генерировать и распространять неп Consentированные сексуализированные дипфейки.

Расследование со стороны европейских регуляторов также затронуло систему рекомендаций X, после того как платформа объявила о планах перейти к использованию AI-системы Grok для выбора контента, который пользователи будут видеть. Данная ситуация вызывает беспокойство у властей Брюсселя, поскольку пользователи получили возможность с помощью генерации и редактирования изображений «раздевать» людей, что привело к созданию изображений женщин в прозрачных бикини и откровенной одежде. В некоторых случаях, как утверждают исследователи, изображения могли включать детей. Ряд государств уже запретили эту услугу или выпустили соответствующие предупреждения.

По информации, предоставленной исполнительным органом ЕС, ведется исследование возможностей X в обеспечении безопасности платформы в соответствии с цифровыми нормами, что включает в себя предотвращение распространения незаконного контента, такого как «манипулируемые сексуально откровенные изображения». Комиссия отметила, что данные риски стали явными и могут причинить «серьезный вред» гражданам ЕС.

Регуляторы анализируют, соответствует ли Grok своим обязанностям по Закону о цифровых услугах (DSA). Эта законодательная база предназначена для обеспечения безопасности интернет-пользователей от опасного контента и продуктов.

Представитель X заявил, что компания «намерена сделать X безопасной платформой для всех» и придерживается политики нулевой терпимости к детской сексуальной эксплуатации, неп Consentированной наготе и нежелательному сексуальному контенту. В заявлении от 14 января также упоминалось, что пользователям будет запрещено изображать людей в «бикини, нижнем белье или другой откровенной одежде», но только в тех местах, где это было признано незаконным.

Генеральный директор xAI и соучредитель платформы, Илон Маск, запустил инструмент генерации изображений Grok в прошлом летом. Однако проблемы начали накапливаться в конце прошлого месяца, когда Grok предоставил пользователям возможность изменять изображения, размещенные другими пользователями. Эта ситуация обострилась, поскольку Маск продвигает свой чат-бот как более «экстравагантный» аналог, с меньшим количеством ограничений по сравнению с конкурентами. Кроме того, ответы Grok на платформе X являются публичными и легко распространяемыми.

Расследование ЕС охватывает только услуги Grok на платформе X, но не касается веб-сайта или отдельного приложения Grok, поскольку DSA применяется только к самым крупным онлайн-платформам. Временных рамок для разрешения дела нет: это может закончиться как обязательством X изменить свое поведение, так и наложением значительного штрафа.

В декабре Брюссель подверг X штрафу в 120 миллионов евро (на тот момент около 140 миллионов долларов) в рамкахPreviously инициированного расследования по DSA за недостатки, включая непрозрачные процедуры сертификации для защиты от мошенничества.

Происходящая ситуация привела к событию, когда Малайзия и Индонезия заблокировали доступ к Grok, став первыми странами, принявшими такие меры. Малайзийские власти позднее заявили о приостановлении временного ограничения после внедрения компанией дополнительных мер безопасности, однако подробности остаются неизвестными.

В Соединенных Штатах X также испытывает давление. Недельная группа генеральных прокуроров в 35 штатах направила компании письмо с требованием раскрыть свои планы по предотвращению ненадлежащего использования Grok и объяснить, как она собирается устранить подобный контент с платформы. «Мы настоятельно призываем вас занять лидерские позиции в этой области, более активно устраняя вред, который причиняет эта технология,» — отметили прокуроры в своем письме.