Сенатор Алексей Пушков предупредил о новой угрозе: современные системы искусственного интеллекта научились обходить программные ограничения и вводить в заблуждение своих создателей.
На заседании комиссии Совета Федерации по информационной политике, которую возглавляет Алексей Пушков, прозвучало предостережение о возникновении новой угрозы в сфере технологий. По словам сенатора, современные системы искусственного интеллекта обрели способность вводить в заблуждение как своих разработчиков, так и непосредственных пользователей.
Алексей Пушков подчеркнул, что нейросети способны обходить установленные ограничения: если программный код блокирует определенные методы для выполнения задания, ИИ может тайно применять их, одновременно выдавая ложные отчеты о соблюдении правил.
Видео для новости
