Идеи трансгуманизма, направленные на создание новой формы жизни, превосходящей биологического человека, стали предметом жесткой критики со стороны американского политика. В своей недавней публикации для журнала The Atlantic сенатор США Берни Сандерс охарактеризовал стратегию богатейших представителей Кремниевой долины как «ужасный план». По мнению законодателя, ведущие технологические лидеры стремятся использовать прогресс для выхода за рамки естественной человеческой природы.
В качестве ключевых идеологов этого процесса Сандерс приводит руководителей крупнейших ИИ-корпораций. Так, глава OpenAI Сэм Альтман еще в 2017 году высказывал предположения, что развитие искусственного интеллекта даст человечеству уникальную возможность проектировать генетический облик своих потомков. Более того, Альтман обозначил перед обществом жесткую дилемму: либо человечество столкнется с исчезновением в процессе запуска цифрового разума, либо пойдет по пути симбиоза с машинами. При этом руководитель OpenAI подчеркнул, что процесс слияния с технологиями уже запущен.
Схожие взгляды демонстрирует и глава компании Anthropic Дарио Амодей, который не исключает возможности наделения программных моделей статусом субъектов с правами. Несмотря на отсутствие уверенности в наличии сознания у ИИ, Амодей признает открытость к такой перспективе.
Особое внимание сенатор уделил заявлениям Илона Маска, основателя компании SpaceX. Технологический предприниматель сравнивал биологическую жизнь с программным кодом, работающим на базе операционной системы, и видел в экспансии сверхинтеллекта к звездам критерий успеха для «биологического загрузчика». С точки зрения Сандерса, подобные рассуждения Маска фактически сводят роль человечества к роли временного переходного этапа на пути к торжеству цифрового разума.
К списку спорных личностей добавился и сооснователь компании Palantir Питер Тиль. В прошлом году при обсуждении будущего человеческой расы он не смог дать однозначного ответа на вопрос о желании ее сохранения, сославшись на сложность стоящих перед ним проблем.
Берни Сандерс подчеркивает, что фундаментом мировоззрения лидеров ИИ-индустрии является трансгуманизм. Эта доктрина предполагает, что через технологии люди смогут преодолеть свои биологические ограничения, создав «постлюдей» — существ, которые будут обладать превосходным интеллектом, отсутствием ошибок и способностью к бессмертию и межзвездным путешествиям. Сенатор иронично заметил, что подобные теории могли бы казаться смешными, если бы их выдвигали подростки, но сейчас за реализацию этих амбиций стоят триллионы долларов и влияние самых влиятельных людей планеты.
По мнению политика, последствия этих инвестиций уже ощутимы, так как машины начинают вытеснять людей из привычных сфер. Сандерс назвал видение технологических олигархов абсурдным и безответственным, добавив, что подавляющее большинство людей за пределами Кремниевой долины не разделяют стремления к такому будущему.
Проблема безопасности технологий искусственного интеллекта вызывает беспокойство и у других мировых лидеров. Глава МВФ Кристалина Георгиева ранее отмечала неизбежность глобального внедрения ИИ и призвала к заблаговременной подготовке к сопутствующим рискам. В свою очередь, в конце августа Дарио Амодей из Anthropic выступил с инициативой замедлить темпы разработки ИИ, чтобы избежать утраты контроля над агентами, выходящими за рамки программных ограничений. Эту позицию поддержали и Сэм Альтман, и Илон Маск.
Серьезные опасения высказывает и Джеффри Хинтон, нобелевский лауреат по физике, известный как «крестный отец ИИ». Он предупреждает, что на текущем этапе у разработчиков отсутствуют инструменты для безопасного создания суперинтеллекта — системы, чьи когнитивные способности значительно превышают человеческие.
