Мировая дискуссия вокруг безопасности искусственного интеллекта накаляется, приобретая характер острого противостояния между учеными и политиками. Недавние увольнения ключевых специалистов из ведущих технологических лабораторий вызвали волну тревоги. Так, Билал Чугтай, ранее занимавшийся вопросами безопасности и согласования общего искусственного интеллекта (ОИИ) в Google DeepMind, открыто заявил о катастрофических последствиях. В своей публикации в социальной сети X исследователь выразил уверенность, что технологии обладают потенциалом привести к гибели всего человечества. По сведениям Reuters, Чугтай подчеркнул, что у человечества может не остаться достаточно времени, чтобы предотвратить подобный сценарий. По его мнению, единственный выход — прекратить «безумную гонку» между корпорациями и синхронизировать темпы прогресса с возможностями общества по управлению рисками, чтобы устранить угрозы до наступления непоправимого.
Аналогичные опасения разделяет и Джейкоб Коксон, покинувший компанию Anthropic. Он сообщил, что разработчики ИИ всерятз допускают возможность уничтожения человеческой цивилизации уже к концу текущего десятилетия. Примечательно, что призывы к замедлению темпов создания продвинутых систем находят отклик у лидеров индустрии: Дарио Амодей, возглавляющий Anthropic, получил неожиданную поддержку со стороны Сэма Альтмана (OpenAI) и Илона Маска (SpaceX).
Однако не все разделяют этот апокалиптический настрой. Дональд Трамп резко раскритиковал подобные опасения, назвав их мистификацией. По мнению политика, идея о захвате мира машинами выглядит еще более абсурдной, чем теории о глобальном потеплении или угрозе со стороны России. Иную позицию занимает и руководство Китая: глава Министерства государственной безопасности страны Чэнь Исинь акцентировал внимание на том, что ИИ несет прямые риски для национальной безопасности государства. В то же время Дмитрий Медведев, заместитель председателя Совета Безопасности, охарактеризовал перспективу гибели людей от рук ИИ как «туманную», предположив, что разработчики технологий на самом деле беспокоятся лишь о собственной безопасности.
