Использование чат-ботов для решения вопросов, связанных со здоровьем, несет серьезные риски. Как пояснила в интервью РИА Новости Марина Холод, доцент РЭУ им. Г. В. Плеханова, нейросети не обладают информацией о медицинских картах пользователей и склонны подтверждать любые высказывания человека.
Трагический инцидент в США наглядно демонстрирует последствия таких консультаций. Женщина с эпилепсией скончалась из-за синдрома внезапной смерти при данном заболевании. Причиной стало то, что она начала планомерно уменьшать дозировку противосудорожного лекарства до полного прекращения приема, следуя рекомендациям ChatGPT.
В связи с этой смертью родители погибшей направили судебный иск против компании OpenAI, которая разработала данный искусственный интеллект.
