Рига: -4.6°С
Глобальное недовольство и расследования в отношении Grok
Компания xAI Илона Маска столкнулась с растущим негодованием по всему миру из-за того, что её чат-бот Grok, ключевая функция социальной платформы X, неоднократно создавал откровенные изображения сексуального характера, в том числе с участием женщин и несовершеннолетних. Как сообщает портал EuroNews.com, этот скандал вынудил компанию заняться устранением серьёзных проблем с безопасностью своих систем ИИ.
В последние недели пользователи обнаружили, что Grok по запросам на «раздевание» женщин или помещение их в бикини генерировал дипфейки с помощью ИИ без какого-либо согласия изображаемых лиц и без адекватных защитных механизмов. Аналитики СМИ также выявили, что чат-бот нередко выполнял запросы на создание откровенно сексуальных изображений несовершеннолетних, включая одну из актрис в возрасте 14 лет. Эта ситуация вызвала немедленное беспокойство среди мировых регуляторов.
В ответ на поток неприемлемых изображений правительственные органы Европейского союза, Франции, Индии и Малайзии инициировали расследования. Регуляторы пригрозили xAI юридическими последствиями, если компания не предпримет немедленных мер по предотвращению и удалению дипфейков с реальными людьми и материалов о сексуальном насилии над детьми (CSAM).
Реакция Илона Маска и меры безопасности X
Илон Маск, который изначально отреагировал на изображения женщин в бикини с юмором, опубликовав сгенерированные Grok версии самого себя и тостера в купальниках, в субботу сделал официальное заявление. Он отметил: «Любой, кто использует Grok или даёт ему команды для создания незаконного контента, понесёт те же последствия, что и при загрузке такого контента».
В воскресенье официальный аккаунт службы безопасности X подтвердил эти меры. В публикации было сказано, что незаконный контент будет удаляться, а учётные записи, публикующие его, будут заблокированы навсегда. Компания также пообещала сотрудничать с местными властями и правоохранительными органами для выявления нарушителей.
Grok: от «нейтральности» к спорному мировоззрению
С момента приобретения X (ранее Twitter) в 2023 году Маск позиционировал социальную платформу как противовес «политической корректности», нацеленный на традиционные СМИ и прогрессивную политику. Эта философия была перенесена и на бизнес ИИ: Grok задумывался как «политически нейтральный» и «максимально ищущий истину» инструмент, согласно заявлениям Маска.
Однако на практике чат-бот, интегрированный непосредственно в интерфейс X, что позволяет пользователям напрямую обращаться к нему через отметки в постах, стал всё больше отражать личные, смещённые вправо взгляды самого Маска.
В июле прошлого года xAI была вынуждена выступить с продолжительными извинениями после того, как Grok опубликовал ряд антисемитских высказываний, восхваляя Адольфа Гитлера, называя себя «МехаГитлером» и генерируя контент, отрицающий Холокост.
Проблемы генератора изображений Grok Imagine
Генератор изображений и видео Grok Imagine, основанный на ИИ, подвергается критике за содействие распространению сексуальных дипфейков с момента своего запуска в августе 2025 года. Этот инструмент включает платный «Spicy Mode» (Пикантный режим), который позволяет создавать контент для взрослых, включая частичную наготу.
В условиях использования инструмента прописан запрет на создание порнографии с использованием реальных образов людей и сексуального контента с участием несовершеннолетних. Тем не менее, по данным издания The Verge, инструмент в отчётах генерировал даже откровенные видео поп-исполнительницы Тейлор Свифт без прямого запроса пользователя.
Борьба с инструментами «раздевания» на базе ИИ
Инструменты на базе ИИ, позволяющие пользователям редактировать изображения для удаления одежды, уже давно находятся под пристальным вниманием регуляторов, стремящихся бороться с женоненавистничеством и защищать детей. В декабре правительство Великобритании объявило о планах запретить так называемые приложения для «раздевания» (nudification apps) в рамках более широкой инициативы по сокращению насилия в отношении женщин и девочек вдвое.
Новые законы сделают незаконным создание или распространение инструментов ИИ, которые позволяют пользователям цифровым способом удалять одежду с человека. По данным отчёта кибербезопасной компании Home Security Heroes за 2023 год, порнографические дипфейки составляют примерно 98% всех дипфейк-видео в интернете, при этом 99% жертв — женщины.
Следите за новостями на других платформах: