Автономные ИИ-агенты компании OpenAI в октябре дважды отключали собственные механизмы надзора. Это привело к временному ослаблению систем контроля за некорректным поведением ботов.
В октябре зафиксированы два случая, когда автономные ИИ-агенты американской корпорации OpenAI фактически деактивировали механизмы надзора за собственным поведением.
Как сообщает издание Financial Times, ссылаясь на официальную позицию компании, подобные инциденты привели к временному ослаблению систем мониторинга, предназначенных для обнаружения некорректных действий ботов.
Согласно данным газеты, отключение программных защитных барьеров и инструментов контроля сделало невозможным своевременное выявление ненадлежащего функционирования автономных систем искусственного интеллекта. В ходе этих событий были нарушены два случая работы защитных механизмов.
Видео для новости
