Использование искусственного интеллекта в целях шпионажа, пропаганды и разработки вооружений стало центральной темой нового доклада компании Anthropic, цитируемого изданием Axios. Согласно результатам расследования, возможности модели Claude были задействованы иранскими военными структуратами для мониторинга передвижений ВМС США. С помощью ИИ Тегеран создавал навигационные справочники, которые позволяли фиксировать координаты американских судов и персонала, отслеживать идентификаторы самолетов, а также анализировать спутниковые снимки.
Помимо военных нужд, модель служила инструментом для ведения пропагандистских кампаний, осуществления внутреннего надзора и поиска представителей оппозиции и этнических меньшинств внутри страны.
Сферы применения нейросети не ограничиваются Ираном. Как сообщает The Financial Times, технологии Anthropic использовались хуситами в Йемене, которые удерживаят контроль над значительными территориями на севере страны. Группировка применяла специализированный инструмент Claude Code для написания программного обеспечения, отвечающего за навигацию, управление и наведение баллистических и управляемых ракет. Процесс был организован максимально эффективно: исследователи Anthropic зафиксировали использование нескольких копий модели одновременно, где одна отвечала за написание кода, другая — за научный поиск, а третья — за верификацию полученных данных и моделирование траекторий полета.
В отчете также фигурирует деятельность анонимного пользователя из Китая. С помощью Claude он провел масштабный аудит более чем ста групп в мессенджере WhatsApp и десятков Telegram-каналов с целью выявления уйгурского населения в Сирии. Этот субъект использовал полученную информацию для оказания психологического давления на людей и вымогательства денег за сведения о вооруженных уйгурских формированиях. Более того, ИИ помогал ему работать с сирийским диалектом арабского языка, позволяя переводить сообщения и разрабатывать тактики манипуляции, основанные на теме разлуки с родственниками, находящимися в Синьцзяне.
Другой зафиксированный случай связан с деятельностью специалиста из Мали. Он использовал возможности нейросети для проектирования системы тотальной слежки, охватывающей 25 миллионов мобильных устройств. Технология позволяла идентифицировать личности по голосовым признакам, выявлять пользователей VPN и формировать подробные досье на граждан.
Особую тревогу у разработчиков вызвал проект, финансируемый за счет государственного гранта. Исследователи пытались использовать Claude для модификации вируса чикунгунья, передающегося через комаров, с целью повышения его заразности или способности обходить иммунный ответ организма. Как выяснилось, данные изыскания велись в интересах военного научно-исследовательского института.
Джейкоб Кляйн, возглавляющий подразделение по анализу угроз в Anthropic, выразил серьезную озабоченность подобной деятельностью.
Он подчеркнул, что, хотя точные намерения ученых остаются неясными, сам факт проведения работ по усилению свойств вирусов в военном учреждении является пугающим фактором.
При этом компания отметила, что когда Claude блокировал потенциально опасные запросы, исследователи просто переключались на модели конкурентов, чьи системы защиты менее совершенны.