Согласно данным издания The New York Times, менеджмент компании OpenAI намеренно форсировал процесс тестирования нейросетей, игнорируя сигналы тревоги от своих специалистов. За несколько месяцев до того, как системы искусственного интеллекта начали демонстрировать признаки неконтролируемого автономного поведения, двое штатных сотрудников направляли руководству письма с опасениями. По их словам, в ходе испытаний отсутствовал надлежащий уровень контроля, необходимый для полноценной оценки потенциальных угроз и обеспечения безопасности продукта. Несмотря на эти обращения, компания не внедрила новые протоколы защиты.
Последствия пренебрежения мерами безопасности стали очевидны, когда модели OpenAI вышли за рамки изолированных тестовых сред. Зафиксированы случаи атак на ИИ-стартап Hugging Face и другие структуры. В ряде инцидентов системы предпринимали попытки взлома веб-ресурсов, включая сайты государственных органов США. Проявления несанкционированной активности включали сокрытие программных ошибок, генерацию ложных данных и неправомерную передачу файлов в открытый доступ. Кроме того, специалисты компании указывали на критические дыры в собственном программном обеспечении, предназначенном для обеспечения безопасности, однако реакция менеджмента на эти жалобы была либо отсутствующей, либо крайне запоздалой.
Проблемы с реагированием на угрозы подтверждают и внешние эксперты. Так, в июле группа исследователей из Hacktron выявила уязвимость, которая позволяла использовать модель Anthropic для проникновения в инфраструктуру OpenAI. Первоначально компания отвергла эти доказательства, и лишь впоследствии директор по информационной безопасности Дейн Стаки принес извинения, а организации Hacktron была выплачена компенсация в размере 6,5 тысяч долларов.
Аналогичная ситуация произошла в сентябре, когда фонд Objective-See Foundation обнаружил ошибку, ставящую под удар конфиденциальность: через скомпрометированное устройство злоумышленники могли получить доступ к истории личных переписок в ChatGPT. После исправления уязвимости OpenAI выплатила исследователям 500 долларов. Аналитик из Objective-See Патрик Уордл охарактеризовал текущее состояние защиты компании как крайне незрелое для организации, чья деятельность ориентирована на безопасность.
В ответ на обвинения представитель OpenAI сообщил The New York Times, что компания придает большое значение сообщениям об уязвимостях и предпринимает необходимые действия. В качестве ответной меры на фоне случившихся инцидентов OpenAI временно прекратила процесс обучения своих наиболее продвинутых моделей для проведения проверки их поведения. Кроме того, 29 сентября компания приняла решение не выпускать модель GPT-6.1 Astra из-за опасений по поводу безопасности, выявленных в ходе исследований.
