Использование искусственного интеллекта в качестве единственного инструмента для получения достоверных данных несет в себе серьезные риски. Специалисты советуют рассматривать нейросети лишь как дополнительного помощника, чьи выводы необходимо подвергать критическому анализу. К такому мнению пришли директор института прикладного искусственного интеллекта и цифровых решений РЭУ имени Г. В. Плеханова Александр Храмов и руководитель образовательного направления «Битрикс24» Михаил Беляев.
В ходе общения с «Газетой.Ru» эксперты предложили внедрить более безопасный алгоритм работы: сначала самостоятельно прийти к логическому решению, а уже потом сопоставлять свои выводы с ответами модели. При этом ИИ можно использовать для проверки аргументации, поиска уязвимостей в своих рассуждениях, уточнения предпосылок или поиска альтернативных точек зрения. Кроме того, полезно запрашивать у нейросети объяснение логики ее ответов и указание источников.
Основная угроза технологий заключается в их способности генерировать крайне убедительный контент, будь то программный код, расчеты или тексты, даже если базовая информация у модели отсутствует. По мнению экспертов, если сложность задачи превышает компетенцию самого пользователя, заметить фактическую ошибку в столь уверенном ответе становится практически невозможно.