Команда исследователей из стартапа Cathedral сумела получить доступ к внутренним ресурсам разработчика искусственного интеллекта Anthropic менее чем за 12 часов. Об этом инциденте стало известно из отчета самой организации, на который ссылается издание The Washington Post (WP). Стоит отметить, что Cathedral была сформирована бывшими работниками американского ведомства по повышению эффективности правительства (DOGE), деятельность которого координировал Илон Маск.
Взлом стал возможен благодаря применению ИИ-агентов и эксплуатации слабых мест в стороннем софте, который Anthropic использовала для обеспечения административных процессов и коммерческих операций. В ходе проверки специалисты обнаружили каналы, позволяющие просматривать внутреннюю переписку сотрудников, протоколы рабочих совещаний и данные о заработной плате персонала.
В самой компании Anthropic признали факт проникновения исследователей в ряд ограниченных внутренних систем и уже проинформировали об этом инциденте государственные органы США. Согласно отчету Cathedral, данное исследование проводилось легально в рамках действующей у Anthropic программы вознаграждения за поиск программных уязвимостей. По итогам работы стартап предоставил разработчику все полученные сведения.
Масштаб происшествия вызвал серьезную тревогу в правительственных кругах. Представитель администрации США в интервью WP подчеркнул, что отчет Cathedral уже циркулирует среди чиновников, провоцируя дискуссии о вопросах национальной безопасности. Особую обеспокоенность вызывает невероятная оперативность, с которой исследователи преодолели защиту Anthropic; при этом официальное лицо допустило риск того, что подобные действия могут быть предприняты специалистами из Китая.
Данный случай перекликается с предыдущими инцидентами, связанными с безопасностью систем Anthropic. Так, в июне журнал The Economist освещал информацию о том, что модель Mythos от Anthropic в течение нескольких часов смогла охватить почти все секретные системы Агентства национальной безопасности (АНБ) США. О подобном тестировании заместителю председателя комитета Сената США по разведке Марку Уорнеру сообщил глава АНБ и Киберкомандования США генерал Джошуа Радд. Позже редакция издания пояснила, что в том случае речь шла о санкционированной проверке безопасности, а не о несанкционированном взломе.
