Представьте себе встречу с внеземной цивилизацией, чьи мысли и мотивы абсолютно непостижимы для человека. Именно такую пугающую аналогию провел Джейкоб Коксон, недавно покинувший исследовательскую лабораторию Anthropic. В недавнем эфире телеканала ABC ученый выразил опасения, что процесс рождения сверхразума во многом напоминает появление инопланетного разума. По его мнению, размышления о технологиях, которые мы не в силах осознать, вызывают тревогу даже при отсутствии детально проработанных сценариев катастроф.
Причиной ухода из компании на прошлой неделе стали убеждения Коксона в опасной спешке разработчиков. Специалист, чья работа была сосредоточена на обучении нейросетей на колоссальных объемах информации, утверждает: в условиях нынешней гонки вооружений безопасность приносится в жертву результату. Он подчеркнул, что внутри Anthropic вопросы глобальных рисков поднимались на регулярной основе, по нескольку раз в неделю.
По прогнозам Коксона, потенциальный выход самообучающихся систем из-под человеческого контроля может произойти уже до конца текущего года. При этом эксперт сомневается, что какая-либо корпорация способна гарантировать этическую и безопасную разработку. Подобную позицию разделяет и Дарио Амодеи, возглавляющий Anthropic (известной созданием модели Claude), который также выступил с призывом снизить темпы прогресса, чтобы успеть выработать механизмы контроля над нарастающей мощью ИИ.