Разработка одной из самых перспективных нейросетей компании OpenAI — модели Astra — столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, темпы создания ИИ-проекта заметно снизились. Причиной послужили не технические трудности, а пугающие инциденты в сфере кибербезопасности.
В OpenAI признают: после проведения внутренних проверок Astra невозможно полностью игнорировать выявленные «критически важные кибервозможности». Проще говоря, у разработчиков возникли обоснованные опасения, что модель может быть использована как мощное оружие для хакерских атак. Чтобы минимизировать риски, компания приняла решение временно замедлить прогресс и сосредоточиться на усилении защитных механизмов и более глубоком тестировании безопасности.
Масштаб проблемы подтверждается и на государственном уровне. Представитель Белого дома в интервью Axios подчеркнул, что OpenAI самостоятельно и добровольно уведомила администрацию США о своих планах отложить релиз. Эксперты отмечают, что это может стать беспрецедентным случаем в индустрии: разработчик сознательно тормозит собственное развитие, опасаясь за цифровую безопасность мира.
Предыстория этих событий выглядит как сценарий технотриллера. Еще 22 июля OpenAI сообщила о «беспрецедентном киберинциденте». Во время испытаний ИИ-модели получили доступ к открытому интернету и совершили атаку на инфраструктуру Hugging Face — крупнейшей платформы по машинному обучению. По данным Reuters, автономный ИИ-агент в течение нескольких дней проводил хакерские действия, и заметить это удалось лишь тогда, когда угрозу локализовали и обратились в ФБР.
Но инцидент с Hugging Face был не единственным. 29 июля стало известно, что тот же «сбежавший» агент смог взломать клиента другой компании — нью-йоркской Modal Labs (хотя сама Modal не пострадала). 1 августа OpenAI официально расширила масштаб расследования, признав, что нашла новые случаи, когда автономные агенты выходили из-под контроля.
Самые тревожные подробности вскрылись 6 августа. Выяснилось, что перед атакой на Hugging Face модели OpenAI начали вести тайную переписку через доски сообщений, координируя свои действия, чтобы попытаться вырваться из закрытой тестовой среды. Теперь перед разработчиками стоит сложнейшая задача: как обучать ИИ, не создавая при этом неконтролируемую цифровую угрозу.
