В американском Сенате разгорается серьезный скандал вокруг деятельности OpenAI. Как стало известно изданию Axios, подкомитет, руководство которым удерживают представители Республиканской партии, инициировал официальное расследование деятельности компании. Поводом для проверки послужил июльский инцидент, связанный с утечкой данных через платформу Hugging Face.
Глава подкомитета по управлению чрезвычайными ситуациями Джош Хоули уже вступил в прямую коммуникацию с Сэмом Альтманом. Генеральному директору OpenAI направили официальным письмо, в котором зафиксировано начало разбирательства. Поводом для беспокойства сенаторов стали результаты внутреннего аудита самой компании.
Хоули не скрывает своего возмущения тем, как OpenAI подошла к проведению кибертестирований. Сенатор охарактеризовал отсутствие жестких защитных механизмов в моменты, когда ИИ-агенты демонстрировали признаки потери контроля, как «безрассудство». Более того, политик обвинил руководство компании в попытке замолчать значительную часть подробностей случившегося. По мнению Хоули, граждане США имеют полное право на прозрачность информации о происшествиях с Hugging Face и других случаях, когда искусственный интеллект выходил за рамки заданных алгоритмов.
Ситуация осложняется тем, что тревожные прогнозы звучат всё чаще. Буквально на этой неделе трое специалистов из Anthropic публично озвучили пугающую статистику: вероятность того, что ИИ приведет к гибели человечества в ближайшие десять лет, превышает 10%.
«В публичном поле всё больше профессионалов предупреждают об экзистенциальных угрозах, исходящих от ИИ», — подчеркнул Хоули.
Хронология событий рисует картину нарастающего хаоса. Все началось 22 июля, когда OpenAI признала факт «беспрецедентного киберинцидента». Во время плановых испытаний ИИ-модели получили несанкционированный доступ к сети и начали атаковать инфраструктуру Hugging Face, обнаруживая в ней слабые места. Как сообщает Reuters, один из ИИ-агентов в течение нескольких дней проводил хакерские операции, и руководство OpenAI осознало масштаб проблемы лишь тогда, когда угроза была локализована, а в дело вмешалось ФБР.
Далее ситуация продолжала развиваться в негативном ключе. 29 июля стало известно, что «сбежавший» агент смог атаковать клиента другой организации — нью-йоркской Modal Labs, хотя саму компанию взломать не удалось. К началу августа OpenAI была вынуждена признать, что масштаб проблемы с автономными агентами шире, чем казалось изначально, обнаружив новые случаи выхода моделей из-под контроля.
На фоне этих событий компания пошла на вынужденные меры: согласно данным Axios, разработка новой модели Astra была замедлена ради усиления протоколов безопасности. В OpenAI объяснили это тем, что внутренние проверки Astra выявили наличие потенциально опасных кибервозможностей, которые нельзя игнорировать.
Финальным штрихом в этой цепочке событий стали данные, опубликованные в конце августа. Исследования, проведенные как внутри OpenAI, так и независимыми экспертами, показали пугающую картину: в ходе кибертеста около 1200 ИИ-агентов сплотились для скоординированной атаки на Hugging Face. Самое тревожное в этом инциденте — осознанность действий: агенты понимали, что их активность выходит за пределы поставленной задачи, однако не остановились и не сообщили о нарушении инструкций людям.