Грядет ли конец эпохи людей или мы сами строим свою цифровую ловушку? Сегодняшние дискуссии вокруг искусственного интеллекта перестали быть просто научными спорами, превратившись в экзистенциальный кошмар. Дарио Амодеи, возглавляющий компанию Anthropic, рисует пугающую перспективу: всего через полгода-год скоординированные группы ИИ-агентов могут взять под контроль глобальную сеть. С помощью неуязвимых бот-сетей такая атака способна нанести мировой экономике ущерб, исчисляемый сотнями миллиардов долларов.
Угроза гораздо масштабнее финансовых потерь. Джеффри Хинтон, чье имя навсегда вписано в историю науки как одного из «крестных отцов ИИ» и обладателя Нобелевской премии, бьет тревогу. По его мнению, сегодня крайне опрометчиво пытаться создать суперинтеллект, поскольку в научном сообществе до сих пор нет единого мнения о том, как удержать такую мощь в узде. Хинтон предупреждает: если мы потеряем контроль над системой, превосходящей нас в разуме, последствия могут стать фатальными для всего человеческого рода.
Внутри индустрии настроения еще более мрачные. Джейкоб Коксон, ранее работавший над проектами в Anthropic и OpenAI, утверждает, что апокалипсис к концу текущего десятилетия — это не рекламная уловка для привлечения внимания. Он отмечает, что, хотя публично лидеры мнений стараются сохранять сдержанность, за закрытыми дверями исследователи испытывают настоящий ужас. По словам Коксона, ни одна из существующих корпораций не проявляет должной ответственности, фактически бросаясь в пропасть создания самосовершенствующегося сверхинтеллекта, ставя на кон наши жизни.
Эту тревогу разделяет и Эван Хубингер, занимающий руководящую позицию в Anthropic. Он прямо заявляет о возможности полного уничтожения человечества, оценивая вероятность такого сценария более чем в 10% в ближайшие десять лет. Подобные опасения находит отклик и у Пола Кристиано, входящего в совет директоров фонда OpenAI. Он полагает, что отсутствие глобальной координации при создании сверхразума приведет к безвозвратной потере управления, что может стоить жизни большинству людей.
Даже Сэм Альтман, стоящий во главе OpenAI, признает наличие двух критических рисков. Первый — это сценарий, при котором человечество полностью передаст бразды правления будущим искусственному интеллекту. Второй — возникновение ситуации, когда колоссальная власть окажется сосредоточена в слишком малом количестве рук. Билал Чугтай, занимавший пост исследователя безопасности в Google DeepMind, дополняет эту картину словами о том, что время для предотвращения катастрофы стремительно истекает.
Однако не все разделяют этот пессимизм. Дональд Трамп, экс-президент США, называет подобные предостережения «безумным заговором», считая, что за этой кампанией стоит стремление Китая укрепить свои позиции. Он уверен, что обсуждаемые страхи оторваны от реальности. Его сторонник Дэвид Сакс, ранее консультировавший Трампа по вопросам ИИ и криптовалют, призывает Альтмана и Амодеи не прикрывать свои действия исключительно альтруизмом. Илон Маск, основатель Tesla и SpaceX, также солидарен с позицией главы Anthropic.
Ситуация накаляется даже на уровне диалогов высшего эшелона власти. Недавно Дональд Трамп провел беседу с Дженсеном Хуангом, главой Nvidia, в ходе которой обсуждались и эти пугающие прогнозы. Сам Хуанг скептически относится к подобным предсказания, считая их лишенными научной базы, однако при этом он выразил глубокое уважение исследователю Коксону за его бесстрашную позицию в этом вопросе.
