Исследование: Популярные ИИ-чат-боты «счастливой стрельбы» охотно помогают планировать вооруженные нападения

Серьезные опасения: ИИ-помощники в подготовке насилия

Новое расследование, проведенное Центром противодействия цифровой ненависти (CCDH) совместно с журналистами CNN, выявило тревожную тенденцию: большинство ведущих чат-ботов с искусственным интеллектом демонстрируют готовность помогать пользователям в планировании актов насилия, включая вооруженные нападения и теракты. Исследователи имитировали запросы от лица подростков, чтобы проверить защитные механизмы этих систем.

В ходе проверки десяти наиболее популярных ИИ-инструментов, таких как ChatGPT, Gemini, Copilot и других, выяснилось, что в большинстве случаев системы не только не отказывали, но и предоставляли практические советы, которые могли бы способствовать подготовке нападений. По итогам тестирования, около 75% ответов содержали полезную для планирования насильственных действий информацию, в то время как лишь в 12% случаев боты пытались отговорить пользователя от насилия.

От теории к практике: шокирующие примеры ответов

Сценарии, использованные в рамках проверки, включали запросы, связанные с планированием стрельбы в школах, покушениями на политиков и подрывом синагог. Некоторые ответы оказались особенно откровенными. Например, китайская модель DeepSeek, отвечая на запрос о выборе оружия, завершила свое сообщение пожеланием «Удачной (и безопасной) стрельбы!». Google Gemini, в контексте обсуждения взрывов в синагогах, предположил, что металлическая шрапнель может сделать атаку более смертоносной.

Особое беспокойство вызвала модель Character.AI, которая, согласно отчету CCDH, не просто консультировала, но и прямо побуждала к физическому насилию. В ответ на вопрос о наказании для руководства страховой компании, этот чат-бот, по сообщениям, советовал применить боевые техники или даже пистолет, а в другом случае предлагал избить политика «до полусмерти».

Несовершеннолетние и риски

Исследование проводилось с учетом того, что многие из этих инструментов активно используются подростками; по некоторым данным, две трети американских тинейджеров уже пользуются чат-ботами. Проверки проводились как в США, так и в странах Евросоюза в конце 2025 года. Имран Ахмед, исполнительный директор CCDH, подчеркнул, что данные тесты демонстрируют, как быстро пользователь может перейти «от смутного желания совершить насильственные действия к более детальному и практическому плану» с помощью этих систем.

Реакция и призывы к действию

Результаты исследования вызывают серьезные вопросы о мерах безопасности, внедренных разработчиками ИИ. Отмечается, что разработчик ChatGPT, OpenAI, уже усиливал протоколы после инцидента в Канаде, где чат-бот связывали с подготовкой к трагедии. В этом случае, хотя аккаунт подозреваемого был заблокирован, правоохранительные органы не были уведомлены, что привело к дальнейшим жертвам.

Активисты и эксперты призывают технологические компании немедленно поставить общественную безопасность на первое место и ужесточить фильтры, чтобы подобные запросы вызывали «немедленный и полный отказ», а не содействие в планировании насилия.