Дорогой урок по цифровой грамотности получил адвокат Стивен Ааронс, чей профессиональный имидж пострадал из-за чрезмерного доверия к искусственному интеллекту. Верховный суд штата Нью-Мексико вынес решение о наложении штрафа на юриста, чья апелляционная жалоба по уголовному делу оказалась наполнена вымышленными данными.
Все началось с попытки упростить работу над апелляцией. Как выяснилось в ходе разбирательства, Ааронс использовал возможности ChatGPT для подготовки документов. Результат оказался катастрофическим для юридической чистоты процесса: в тексте жалобы появились несуществующие свидетели, а сведения о реальных участниках дела и судебных прецедентах были искажены. Главная ошибка юриста заключалась в том, что он подписал и направил документ в суд, не перепроверив правовые основания и фактическую точность, сгенерированного ИИ контента.
Суд расценил действия Ааронса как неуважение к правосудию. В качестве наказания адвокат обязан внести 5 тысяч долларов в фонд защиты клиентов адвокатуры Нью-Мексико. Кроме того, его право на выступления в Верховном суде штата приостановлено до окончания текущего разбирательства, а подзащитному юриста назначили другого защитника.
В беседе с Reuters Ааронс пояснил, что планировал лишь использовать нейросеть для создания краткого резюме судебного процесса, не осознавая рисков дезинформации. Несмотря на признание вины, он настаивает на том, что это была добросовестная ошибка.
«Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтет, что это была честная ошибка. Это урок для всех специалистов, которые полагаются на эту мощную, но порой нестабильную технологию», — заявил адвокат.
Ситуация Ааронса наглядно иллюстрирует проблему так называемых «галлюцинаций» ИИ — феномена, когда система выдает ложные ответы с абсолютной уверенностью. Цифры подтверждают серьезность угрозы: согласно отчету OpenAI за 2025 год, доля подобных ошибок в ответах искусственного интеллекта может колебаться в пределах от 33% до 48%.
