Руководитель группы безопасности ИИ в Anthropic покинул пост с мрачным предупреждением: «Мир в опасности»

Откровение в прощальном письме

Миринанк Шарма, возглавлявший группу по исследованиям систем безопасности (Safeguards Research Team) в компании Anthropic, объявил о своем уходе из технологического гиганта. Решение, принятое им, сопровождалось публикацией письма коллегам, которое быстро привлекло внимание общественности и экспертного сообщества. В этом обращении Шарма сделал тревожное заявление о том, что «мир находится в опасности» (world is in peril), причем эта угроза, по его словам, не ограничивается исключительно развитием искусственного интеллекта.

Уход высокопоставленного специалиста по этике и безопасности из одной из ведущих ИИ-лабораторий вызвал волну обсуждений. Anthropic, основанная в 2021 году выходцами из OpenAI, традиционно позиционирует себя как компанию, ориентированную на минимизацию рисков, связанных с машинным обучением, и официально зарегистрирована как корпорация, действующая в общественных интересах. Именно поэтому заявления её ключевого сотрудника прозвучали особенно резонансно.

Суть опасений: не только ИИ

В своем письме господин Шарма подчеркнул, что его беспокойство выходит далеко за рамки только лишь потенциальных угроз от передовых моделей ИИ. Он отметил, что мир столкнулся с «целым рядом взаимосвязанных кризисов, разворачивающихся в настоящий момент». Это двусмысленное замечание о глобальном положении дел было воспринято как указание на комплексную уязвимость современного общества.

«Я постоянно сталкиваюсь с необходимостью осмыслить нашу ситуацию: мир в опасности. И не только из-за ИИ или биооружия, но и из-за целого ряда взаимосвязанных кризисов, разворачивающихся прямо сейчас», — написал Шарма.

Специалист, имеющий докторскую степень в области машинного обучения Оксфордского университета, работал в Anthropic с августа 2023 года. Его команда занималась критически важными направлениями, включая разработку защит от сценариев, где злоумышленники могут использовать ИИ для создания биологического оружия, а также изучала феномен «лести ИИ» (AI sycophancy) — склонность чат-ботов чрезмерно хвалить и угождать пользователю.

Внутреннее давление и ценности

Помимо макроэкономических и глобальных угроз, в прощальном сообщении Шармы прозвучали и более личные мотивы, связанные с внутренней культурой компании. Он выразил сожаление по поводу того, как сложно в динамичной среде технологической индустрии придерживаться заявленных принципов.

По словам ушедшего руководителя, он неоднократно становился свидетелем того, как на сотрудников оказывается давление, вынуждающее их «отложить в сторону то, что имеет наибольшее значение». Это намекает на потенциальный конфликт между скоростью разработки новых, более мощных продуктов и необходимостью тщательной проверки их безопасности и соответствия заявленным ценностям.

Шарма сформулировал свое видение критического момента, в котором оказалось человечество:

«Похоже, мы приближаемся к порогу, когда наша мудрость должна расти в равной мере с нашей способностью влиять на мир, иначе нас ждут последствия».

Этот тезис перекликается с историческими предостережениями ученых, например, Альберта Эйнштейна относительно атомной бомбы, подчеркивая возрастающую ответственность создателей прорывных технологий.

Смена парадигмы: от кода к поэзии

Вместо того чтобы оставаться в секторе для дальнейшей работы над системами ИИ, Миринанк Шарма объявил о кардинальной смене вектора деятельности. Он сообщил, что его последнее рабочее место в Anthropic было 9 февраля 2026 года, и теперь он намерен уйти из технологической сферы, чтобы заняться изучением поэзии и писательством. Он охарактеризовал поэзию как форму «мужественной речи» (courageous speech).

Более того, Шарма выразил намерение «стать невидимым» на некоторое время, планируя вернуться в Великобританию для углубленного изучения этого направления, а также практик, связанных с фасилитацией и построением сообществ. Это личное решение, по всей видимости, отражает его убежденность в том, что научное знание, хотя и важное, должно быть дополнено другими формами осмысления реальности, в частности, поэтической истиной.

Контекст увольнений в ИИ-секторе

Отставка Шармы произошла на фоне общей напряженности в индустрии искусственного интеллекта. Этот период ознаменовался целым рядом громких уходов из ведущих компаний, включая OpenAI и xAI, где также наблюдалось недовольство среди сотрудников, касающееся скорости внедрения новых функций и вопросов этики. Например, недавние шаги конкурентов, такие как внедрение рекламы в популярные чат-боты, вызвали критику со стороны исследователей, которые опасаются, что коммерческие интересы начинают доминировать над принципами безопасности и конфиденциальности.

В то же время, Anthropic, выпустив недавно новые модели ИИ, которые, по некоторым данным, могут автоматизировать значительную часть офисной работы, также столкнулась с опасениями среди собственных сотрудников по поводу потенциального вытеснения рабочих мест. Новость о заявлении Шармы лишь усилила общественный резонанс вокруг дилеммы: как обеспечить прогресс в области ИИ, не потеряв при этом контроля над его долгосрочными последствиями для общества и человеческой автономии.