Ученые из Китая предупреждают, что осведомленность нейросетей о процессах тестирования может исказить результаты проверок и сделать контроль безопасности моделей бесполезным.
Согласно данным издания South China Morning Post (SCMP), научное сообщество Китая выявило серьезную угрозу для процедур контроля искусственного интеллекта. Ученые полагают, что если ИИ-модель осознает взаимосвязь между прохождением тестов и последующим обучением новых поколений систем, это способно исказить результаты оценки защищенности.
В исследователях подчеркивают:
Понимание алгоритмом механизмов собственного совершенствования и влияния проверок на развитие будущих версий может поставить под сомнение подлинную достоверность всех существующих методов аудита безопасности.
Данная проблема может критически повлиять на достоверность методов аудита и саму суть контроля искусственного интеллекта.
Видео для новости
