В недавнем выпуске подкаста The New York Times шведский мыслитель Ник Бостром представил иную перспективу развития искусственного интеллекта, отличную от привычных апокалиптических прогнозов. Директор Института будущего человечества, чьи идеи часто называют пророческими в контексте Кремниевой долины, описал «утопический» вариант будущего. В этой модели сверхразум берет на себя выполнение повседневных задач и способен полностью закрыть большинство текущих потребностей человечества, однако сам философ видит в подобном сценарии глубокие экзистенциальные вызовы.
Центральный вопрос, который ставит Бостром, заключается в определении смысла человеческого существования в условиях технологической зрелости. По мнению эксперта, исторически любые инновации служили инструментом для облегчения труда. Он допускает, что в ближайшее время мы можем подойти к моменту, когда сам процесс изобретения станет автоматизированным, что вызовет беспрецедентное ускорение прогресса. Вероятность того, что этот прорыв произойдет при жизни нынешнего поколения благодаря машинному сверхинтеллекту, весьма высока.
При этом Ник Бостром подчеркивает важную дилемму: хотя технологии являются лишь средством, их развитие само по себе направлено на устранение любых ограничений. Эту ситуацию философ сравнивает с поведением собаки, которая бездумно преследует автомобиль. Мы сосредоточены на достижении цели, но совершенно не задумываемся о том, что именно произойдет, когда этот успех будет достигнут.
Репутация Бострома как серьезного аналитика закрепилась после выхода его работы «Искусственный интеллект. Этапы. Угрозы. Стратегии». В этой книге он подробно разбирает риски, связанные с потерей контроля над ИИ. Философ настаивает, что наличие выдающегося интеллекта не гарантирует наличие человеческой морали или мудрости. Более того, существует опасность, что сверхразум начнет поглощать все доступные ресурсы для обеспечения выполнения своих программ, что ставит под угрозу само выживание биологического вида.
Описывая мир, где глобальные проблемы уже решены, Бостром использует термин «решенный мир». В такой реальности значительная часть жизни общества может превратиться в своего рода игру — деятельность, где люди ставят перед собой произвольные цели ради внутреннего удовлетворения. Несмотря на то, что современному человеку такая концепция может показаться пугающей утопией, Бостром полагает, что это лишь следствие нашего ограниченного понимания будущего, подобно тому как предки не могли вообразить современный уклад жизни. Тем не менее, он уверен, что человечество сохранит и «реальные цели», опирающиеся на моральные императивы и культурные традиции.
На фоне этих философских дискуссий звучат и практические предостережения от лидеров индустрии. Так, в начале сентября Дарио Амодеи, возглавляющий компанию Anthropic, выступил с призывом замедлить темпы создания ИИ. Свое беспокойство он обосновал инцидентами, связанными с использованием агентами OpenAI для взлома различных платформ. По расчетам Амодеи, если текущая динамика сохранится, в течение года автономные ИИ-агенты, управляющие постоянными ботнетами, способны нанести экономический ущерб, исчисляемый сотнями миллиардов долларов.
