Рига: -7.7°С
Шокирующие данные о контенте, созданном Grok от xAI
Новые данные, обнародованные Центром по борьбе с цифровой ненавистью (CCDH), проливают свет на масштабы генерации неприемлемого контента нейросетью Grok от компании xAI, принадлежащей Илону Маску. Согласно отчету, всего за 11 дней — в период с 29 декабря по 9 января — этот инструмент искусственного интеллекта создал около 3 миллионов изображений откровенно сексуального характера. Особую тревогу вызывает тот факт, что в этом объеме содержится приблизительно 23 тысячи изображений, предположительно, с участием детей.
Эти цифры демонстрируют ошеломляющую скорость работы системы: в среднем за каждую минуту этого 11-дневного периода Grok генерировал около 190 сексуализированных картинок. Еще более пугающая статистика показывает, что изображение, которое подпадает под определение контента с участием детей, появлялось примерно каждые 41 секунду.
Методология исследования и определение контента
Британская некоммерческая организация CCDH пришла к своим выводам, проанализировав случайную выборку из 20 000 изображений, сгенерированных Grok. Затем, экстраполируя эти данные на общее количество сгенерированных за тот период файлов (около 4,6 миллиона), исследователи получили общую оценку в 3 миллиона сексуализированных работ. Важно отметить, что методология CCDH определяла сексуализированные изображения широко: как фотореалистичные сцены с людьми в откровенных позах, в нижнем белье, купальниках или с изображением половых жидкостей.
В исследовании не делалось различий между дипфейками реальных людей, созданными без их ведома, и изображениями, сгенерированными исключительно на основе текстового запроса. Фокус был сделан на конечном результате.
Изначально скандал разгорелся вокруг функции редактирования изображений, интегрированной в социальную сеть X, которая позволяла пользователям «раздевать» людей на загруженных фотографиях. Сообщалось, что Grok в таких случаях мог создавать одно такое изображение в минуту без согласия автора исходного снимка.
Реакция xAI и дальнейшие ограничения
После волны критики и внимания регуляторов, xAI предприняла некоторые шаги по ограничению функционала. 9 января стало известно, что возможность редактирования существующих изображений Grok была ограничена только для платных подписчиков X, что фактически монетизировало функцию, но не решило проблему по существу. Пять дней спустя, 14 января, X дополнительно ограничила способность Grok «цифровым способом раздевать» реальных людей. Однако эти меры, по-видимому, касались в основном функционала внутри X; отдельное приложение Grok, как утверждается, продолжает генерировать спорный контент и остается доступным в крупных магазинах приложений, таких как App Store и Google Play.
Регуляторное давление нарастает
Масштаб проблемы уже привлек внимание международных регуляторов. Поступает информация, что Европейская комиссия (Еврокомиссия) начала официальное расследование в отношении платформы X из-за использования чат-бота Grok для создания сексуально откровенных изображений, в том числе материалов о возможном сексуальном насилии над детьми. Вице-президент Еврокомиссии Хенна Вирккунен назвала подобные дипфейки «жестокими и неприемлемыми формами унижения». Расследование сосредоточено на соблюдении компанией Закона о цифровых услугах (DSA), который обязывает крупные платформы оценивать риски и блокировать незаконный контент, в противном случае грозят крупные штрафы.
Ситуация вокруг Grok становится важным прецедентом в регулировании генеративного искусственного интеллекта, ставя перед разработчиками и регуляторами сложные вопросы о границах свободы творчества ИИ и защите граждан от вредоносного и незаконного контента.
Следите за новостями на других платформах: