Будущее человеческой цивилизации может оказаться под угрозой из-за стремительного прогресса технологий. По мнению эксперта Пола Кристиано, создание сверхопасного искусственного интеллекта способно спровоцировать сценарий, при котором большая часть населения Земли может просто не выжить. Об этих пугающих перспективах стало известно из публикации Financial Times.
Сам Кристиано — фигура в сфере ИИ крайне значимая. В настоящее время он занимает позицию старшего технического советника в Центре стандартов и инноваций в области ИИ (CAISI), который функционирует при Министерстве торговли США. Однако его влияние теперь расширяется: он официально вошел в состав совета директоров некоммуникабельного фонда OpenAI — той самой структуры, которая осуществляет надзор за коммерческим крылом создателей знаменитого ChatGPT. При этом за Кристиано остается и его правительственная миссия в качестве советника.
Свое назначение специалист сопроводил крайне тревожным прогнозом. По словам Кристиано, отсутствие эффективных механизмов глобальной координации при разработке сверхинтеллекта может привести к безвозвратной утрате контроля над технологией.
«Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем контроль над ним. Если это произойдет, то большинство людей могут погибнуть», — подчеркнул он.
Чтобы предотвратить подобную трагедию, эксперт настаивает на необходимости тесного взаимодействия не только между государствами, но и внутри самих сообществ разработчиков. Более того, Кристиано прямо заявил, что нынешние усилия индустрии, включая саму компанию OpenAI, пока недостаточно эффективны для того, чтобы снизить риски до безопасного уровня.
Как сообщает Financial Times, кадровые изменения в OpenAI отражают общую тенденцию в отрасли. После череды серьезных инцидентов в сфере кибербезопасности, спровоцировавших требования регуляторов вмешаться в процесс, ведущие ИИ-лаборатории начали активно привлекать специалистов из академической среды и политических структур. Это попытка усилить контроль и повысить профессионализм в вопросах регулирования и безопасности.
К этой дискуссии присоединились и другие тяжеловесы науки. Так, на этой неделе в издании The Times выступил Джеффри Хинтон, которого заслуженно называют «крестным отцом» современного ИИ. Нобелевский лауреат выразил опасение, что создание сверхмощных систем может обернуться катастрофой. По его убеждению, на данном этапе технологический уровень компаний не позволяет безопасно проектировать «суперинтеллект» — системы, чьи когнитивные способности значительно превосходят человеческие возможности.