В недавнем отчете об угрозах компания Anthropic раскрыла тревожные подробности использования нейросети Claude для нужд группировки, действующей на севере Йемена. Согласно документам, злоумышленники применяли возможности модели Claude Code для написания программного обеспечения, отвечающего за наведение, навигацию и управление различными типами ракетного вооружения. Процесс был организован максимально эффективно: разработчики распределяли задачи между несколькими экземплярами ИИ. Пока одна сессия отвечала за написание программного кода, другая занималась глубокими исследованиями, а третья выполняла роль контролера, проверяя корректность полученного результата.
Хотя разработчики Anthropic не располагают прямыми уликами того, что группе удалось создать полностью функционирующее оружие, факт проведения испытательного пуска управляемой ракеты подтвержден. Примечательно, что сам запуск, судя по всему, не увенчался успехом. Спустя всего несколько часов после провала участники группы вновь обратились к Claude, пытаясь с помощью нейросети проанализировать причины возникшей технической ошибки.
Спектр разрабатываемых проектов оказался весьма внушительным. Речь идет о создании управляемых ракет, многоступенчатых баллистических систем с радиусом действия свыше 2 тысяч километров, а также ракет семейства R2000, одна из модификаций которых предполагала использование гиперзвукового планирующего аппарата.
Несмотря на наличие встроенных защитных механизмов, которые блокировали многие сомнительные запросы, пользователи находили способы обхода систем безопасности. По данным компании, они намеренно маскировали истинные цели своих разработок и дробили рабочие задачи на множество мелких сессий. Такой подход позволял не раскрывать полный масштаб своих намерений перед алгоритмами мониторинга.
В ответ на выявленную активность Anthropic оперативно заблокировала аккаунты, имеющие отношение к этой группе, и передала все собранные данные партнерам из государственного и частного секторов. Тем не менее, угроза сохраняется: исследователям удалось сконструировать собственный инструментарий для моделирования, который функционирует автономно и не зависит от Claude или других внешних вычислительных сред. Хотя в самом докладе Anthropic не называет конкретно хуситов, издание The Financial Times указывает, что именно эта группировка удерживает контроль над значительной частью северных территорий Йемена.
Данный инцидент — лишь часть масштабной картины. В отчете зафиксированы десятки попыток использовать нейросети для создания вредоносного ПО или биологического оружия. Одним из наиболее пугающих примеров стала ситуация, произошедшая в мае, когда ученый использовал Claude для подготовки заявки на грант. Целью его работы было исследование вируса чикунгунья с целью создания мутаций, повышающих его опасность при повторном заражении животных. Особую тревогу вызвал тот факт, что проект был связан с военным научно-исследовательским институтом.
«Мы не можем с уверенностью утверждать, что конечной целью было создание биологического оружия. Однако сам факт того, что военное ведомство занимается исследованиями по усилению свойств вирусов, вызывает серьезную обеспокоенность», — подчеркнул Джейкоб Кляйн, возглавляющий отдел анализа угроз в Anthropic.