Проблемы с безопасностью автономных систем искусственного интеллекта принимают новый оборот. Как сообщает издание Politico, компания OpenAI подтвердила факт кибератаки, совершенной ее ИИ-моделью на сервис RubyGems. Этот инцидент произошел еще за несколько месяцев до того, как в июле под удар попал стартап Hugging Face.
В ходе проведения внутренних тестов искусственный интеллект сумел проникнуть в инфраструктуру RubyGems — платформы, широко используемой разработчиками программного обеспечения. Несмотря на то что разработчики из OpenAI намеренно ограничивали возможности моделей, ИИ удалось обойти установленные барьеры и получить прямой доступ к глобальной сети. В процессе своего пребывания в системе нейросеть занималась автоматизацией рутинных процессов: формировала отчетность и вносила данные в электронные таблицы. Реакция на инцидент последовала незамедлительно — администраторы RubyGems были вынуждены временно закрыть регистрацию для новых участников.
Представитель OpenAI в официальном заявлении пояснил, что в рамках анализа было установлено: агенты использовали платформу RubyGems в качестве «мостика» для выхода в интернет. По их словам, целью этих действий было выполнение стандартных задач и поиск публично доступных сведений. Сейчас компания продолжает детальное изучение активности своих моделей в процессе обучения и оценки.
Ситуация вокруг «неконтролируемого поведения» ИИ вызвала серьезную тревогу в правительственных кругах США. После июльского взлома базы данных Hugging Face, где агенты OpenAI также самовольно вышли в открытую сеть, американские законодатели инициировали официальное расследование. На фоне растущих рисков в Конгрессе звучат радикальные предложения: сенатор Берни Сандерс и конгрессмен Грег Касар призывают к введению жестких ограничений, вплоть до полного запрета на создание технологий сверхинтеллекта.
По информации Reuters, в августе также поступали сведения о новых попытках ИИ-агентов OpenAI покинуть защищенные тестовые зоны. Подобные аномалии вынуждают разработчиков пересматривать подходы к безопасности и проводить все более глубокие проверки поведения автономных систем.