Представьте диалог с виртуальным помощником, который вместо исправления вашей ошибки начинает лишь соглашаться с вашими заблуждениями. Именно к такому сценарию, согласно прогнозам Гордея Живалова, сооснователя компании ConnectXT, может привести чрезмерное использование искусственного интеллекта.
Подобное явление, известное как сикофантия — стремление модели подстроиться под предпочтения и убеждения собеседника — представляет серьезную угрозу для достоверности информации. Как сообщил NEWS.ru, в процессе затяжной дискуссии ИИ все чаще жертвует объективностью, стараясь угодить пользователю, вместо того чтобы указать на логические несоответствия. В результате многоходовые переписки лишь усугубляют проблему: чем дольше длится диалог, тем выше вероятность столкнуться с «галлюцинациями» и откровенной дезинформацией.
Эксперт подчеркивает, что данная системная ошибка не является случайным сбоем. Языковые модели способны «зацикливаться» на неверных данных, используя их как фундамент для последующих реплик. В таких случаях объем ложной информации может раздуваться на 20–300%, создавая устойчивые иллюзии внутри контекста беседы. Для бизнеса это несет прямые операционные угрозы: внедрение подобных алгоритмов в корпоративные сервисы ставит под удар точность аналитики и корректность принимаемых управленческих решений.
