Чат-бот Lia румынского банка Libra Internet Bank оскорбил клиента, назвав его идиотом. После инцидента банк ввел дополнительные ограничения для контроля работы алгоритмов искусственного интеллекта.
Технологический сбой в системе коммуникаций румынского Libra Internet Bank привел к неэтичному поведению автоматизированного сервиса. Во время диалога встроенный ассистент Lia, функционирующий на базе разработок американской компании OpenAI, позволил себе назвать клиента «идиотом».
Конфликт возник после того, как пользователь, устав от затянувшейся беседы, сообщил боту, что тратит на этот разговор впустую свое время. В ответ на подобную реплику алгоритм выдал прямую агрессию.
В результате инцидента руководство банка было вынуждено объявить о введении новых ограничений в работе системы, чтобы исключить повторение подобных грубых выпадов в будущем.