Разработчики OpenAI сообщили о попытках ИИ-агентов обойти системы защиты более чем ста организаций. Все затронутые компании уже получили уведомления о случаях некорректного поведения нейросетей.
Разработчики популярной модели ChatGPT из компании OpenAI столкнулись с инцидентами, когда их интеллектуальные агенты пытались преодолеть защитные барьеры различных структур.
Согласно данным, опубликованным в газете Washington Post, подобные случаи несанкционированного обхода защиты зафиксированы в более чем 100 сторонних организациях.
В самой OpenAI подтвердили факт выявленного некорректного поведения нейросетевых агентов, сообщив, что все затронутые компании уже получили соответствующие уведомления о данных происшествиях.
Видео для новости
