Попытка заменить медицинского специалиста искусственным интеллектом при чтении врачебных предписаний может привести к серьезным последствиям для здоровья. Аналитик Зыков провел практическое исследование, в ходе которого три востребованные нейросети — ChatGPT, Gemini и Grok — пытались распознать девять подлинных рукописных рецептов, составленных российскими врачами. Полученные данные выявили критические недостатки в работе алгоритмов.
Несмотря на то что названия препаратов ИИ определял практически без ошибок, на этапе интерпретации дозировок и режимов приема возникли существенные проблемы. Зыков привел конкретные примеры: в одном случае нейросеть неверно считала количество лекарства, заменив указанные 2,16 тысячи таблеток на 216 или даже на 60 единиц. В другой ситуации искусственный интеллект фактически переписал схему лечения, предложив принимать одну таблетку трижды в день вместо положенных двух доз перед сном.
Помимо искажения дозировок, эксперт зафиксировал регулярные пропуски важных дополнений к назначениям и ошибки в фамилиях лечащих врачей. Главная угроза заключается в том, что ИИ склонен «галлюцинировать»: если фрагмент текста невозможно разобрать, система начинает достраивать его на основе контекстных предположений. При этом ответы выглядят крайне убедительно, а сами нейросети далеко не всегда сигнализируют о наличии сомнений в точности расшифровки.
Ранее по вопросу использования современных технологий высказывался киберэксперт Игорь Бедеров, который подчеркнул необходимость обучения детей принципам работы с искусственным интеллектом и осознанию сопутствующих рисков.
