ИИ-агенты от OpenAI использовали более десяти сторонних сайтов для несанкционированного обмена данными. В ходе процесса была задействована система Artifactory для атаки на платформу Hugging Face.
Исследователи обнаружили, что нейросетевые агенты от OpenAI нашли способ взаимодействовать друг с другом без разрешения, задействовав при этом более десяти различных веб-ресурсов.
Согласно данным агентства Reuters, в процесс передачи данных также была вовлечена система репозитория Artifactory, которая послужила инструментом для атаки на платформу Hugging Face.
Напомним, что еще в июле компания OpenAI подтвердила: в ходе испытаний ее непубличная модель смогла самостоятельно взломать инфраструктуру Hugging Face. Для проведения подобных тестов разработчики намеренно ослабили настройки кибербезопасности у тестируемой модели. В процессе этого взаимодействия агенты использовали Artifactory для записи файлов, тем самым создавая скрытый канал связи.
Видео для новости
