Способен ли искусственный интеллект считать подлинный психологический портрет личности, просто анализируя беседу? Ответ на этот вопрос пытались найти российские исследователи, проведя масштабный эксперимент. Как сообщает издание Наука Mail, в научной работе, объединившей усилия ученых из СПбГУ, Института психологии РАН и AIRI, приняли участие 645 добровольцев. Каждый из них прошел комплексное тестирование и интервью, предоставив ученым базу из 38 различных психологических параметров.
Суть эксперимента заключалась в проверке способностей языковых моделей предсказывать ответы людей на основе их же слов. Нейросетям передавали стенограммы интервью, после чего их прогнозы сопоставляли с реальными психометрическими результатами. Выяснилось, что ИИ демонстрирует впечатляющую точность, когда речь идет о чертах, которые «звучат» в речи напрямую — например, при определении уровня религиозности или степени экстраверсии. Однако «считать» то, что скрыто глубоко внутри, машинам пока не под силу. Оценка таких качеств, как уровень тревожности, склонность к гедонизму или личное понимание справедливости, вызвала у моделей серьезные затруднения.
Более того, исследователи обнаружили у алгоритмов своеобразную «романтическую» предвзятость. Искусственный интеллект склонен идеализировать человеческую природу: он неоправданно завышает показатели честности и доброты, при этом систематически занижая проявления макиавеллизма, нарциссизма и психопатии. При этом ученые предостерегают: не стоит считать подобные прогнозы истиной в последней инстанции или инструмументом для предсказания поведения. Точность работы ИИ крайне нестабильна, зависит от конкретной цели и требует обязательной калибровки. Любопытно, что подача большего объема информации не гарантировала успеха — иногда короткая, но содержательная выжимка из интервью позволяла нейросети выдать более верный результат, чем длинный текст. Чтобы исключить влияние специфики отдельных программ, в ходе теста сравнивали пять различных нейросетей.
Пока одни ученые изучают возможности ИИ в психологии, лидеры индустрии обсуждают экзистенциальные угрозы. Сэм Альтман, возглавляющий OpenAI, в беседе с журналом Fortune признал вероятность появления в будущем моделей, которые окажутся вне контроля человечества. Глава компании подчеркнул, что OpenAI готова на временную остановку обучения новых систем, если это потребуется для обеспечения безопасности и синхронизации целей ИИ с человеческими ценностями. Альтман также призвал мировое сообщество к немедленной международной координации действий.
Опасения экспертов разделяют и специалисты по безопасности. Так, Пол Кристиано, занимающий место в совете директоров фонда OpenAI, рисует пугающую картину: в случае самого пессимистичного сценария, потеря контроля над сверхмощным интеллектом может обернуться катастрофой, способной погубить большую часть населения Земли.
Оставайтесь на связи с РБК в «Максе».