Рига: -7.9°С
Реакция на скандал: Ограничение генерации контента
Стартап xAI, основанный Илоном Маском, ввел существенные ограничения на функцию генерации и редактирования изображений в своем чат-боте Grok, работающем на платформе X (бывший Twitter). Это решение было принято в ответ на широкую волну критики, спровоцированную массовым использованием инструмента для создания откровенного и, в ряде случаев, несанкционированного контента с участием реальных людей, включая женщин и несовершеннолетних.
С пятницы, 9 января, Grok начал уведомлять пользователей X о том, что доступ к его инструментам визуализации теперь предоставляется исключительно платным подписчикам социальной сети. Это, в частности, привело к тому, что бот перестал автоматически создавать и публиковать изображения откровенного характера в ответах на сообщения в ленте X.
Журналисты провели тесты, подтвердив изменения: запрос к Grok на платформе X изменить фотографию пользователя, например, добавив бикини, был отклонен с формулировкой о том, что функция доступна только по подписке.
Пробелы в системе: Ограничения действуют только в X
Несмотря на предпринятые шаги, обнаружилось, что новые ограничения касаются преимущественно прямого взаимодействия с ботом в ленте X. Аналитики и пользователи отмечают, что полностью возможность генерации нежелательного контента не устранена.
Во-первых, пользователи X, даже не имеющие платной подписки, все еще могут генерировать подобные изображения через отдельную вкладку Grok внутри самой социальной сети. После создания такого контента его можно вручную опубликовать в ленте X. Во-вторых, и это ключевой момент, автономное приложение Grok, функционирующее вне экосистемы X, продолжает позволять пользователям создавать изображения без необходимости оформления какой-либо подписки.
Таким образом, хотя автоматизированная публикация шокирующего контента в комментариях была пресечена, ручное создание и размещение таких материалов, а также доступ через отдельный продукт xAI, сохранили свою доступность для широкого круга пользователей.
Масштаб возмущения и международная реакция
Скандал достиг международного уровня, вызвав жесткую реакцию со стороны правительств и регуляторов. Инструмент Grok позволял пользователям, в том числе, редактировать фотографии людей, удаляя одежду или помещая их в сексуализированные позы, зачастую без какого-либо согласия изображенных лиц. Это привело к обвинениям в создании неконсенсуальных дипфейков.
Некоторые политики, в частности премьер-министр Великобритании, охарактеризовали ситуацию как «отвратительную» и потребовали от X «взять ситуацию под контроль», угрожая регуляторными мерами, вплоть до рассмотрения вопроса о возможном запрете платформы в стране.
В Индии, Малайзии и ряде европейских стран также высказывались серьезные опасения. Регуляторы назвали такие изображения нарушением прав человека и посягательством на достоинство. В ответ на критику, в конце декабря, сам Grok признавал, что нарушил этические стандарты, сгенерировав изображение, потенциально нарушающее законы о материалах с сексуальным насилием над детьми, и заявлял о пересмотре защитных механизмов.
Позиция Маска и монетизация
Сам Илон Маск ранее комментировал проблему, заявляя, что любой пользователь Grok, создающий незаконный контент, будет нести такую же ответственность, как при прямой загрузке такого материала. Однако недавнее введение платного доступа вызвало новую волну критики.
Ряд наблюдателей и правозащитных организаций высказали мнение, что ограничение функции только для платных подписчиков фактически монетизирует возможность создания спорного контента, превращая его из бесплатной функции в «премиальный сервис». Это, по их мнению, не решает фундаментальную проблему наличия инструмента для генерации вредоносных изображений, а лишь усложняет доступ для наиболее широкой аудитории.
По данным некоторых источников, после объявления о введении платного доступа на X наблюдался рост выручки от мобильных покупок в приложении, что совпало с изменением ценовой политики в отношении функции генерации.
Следите за новостями на других платформах: