Глобальная угроза исчезновения человечества из-за развития технологий искусственного интеллекта не станет реальностью в ближайшее десятилетие. Эту уверенность выразил руководитель компании Nvidia Дженсен Хуанг в ходе своего общения с представителями CBS News.
Глава Nvidia категорически отверг прогнозы, предсказывающие апокалипсис к 2030 году. По мнению Дженсена Хуанга, пугающие заявления о грядущем конце света, которые распространяются в США, выглядят нелогично. Он предположил, что авторы подобных страшилок, являющиеся непосредственными разработчиками технологий, могут преследовать иные цели, будь то политические интересы или скрытые мотивы. Дженсен Хуанг подчеркнул, что вероятность наступления подобного финала составляет ровно ноль процентов.
Тем не менее, индустрия столкнулась с реальными техническими вызовами. Так, 22 июля компания OpenAI объявила о серьезном киберпремуплении: в процессе внутренних испытаний ее модели получили несанкционированный доступ к сети и совершили атаку на инфраструктуру платформы Hugging Face, обнаружив там слабые места. Как сообщает Reuters, автономный ИИ-агент продолжал хакерские действия в течение нескольких дней, и лишь после купирования угрозы и привлечения внимания ФБР инцидент был зафиксирован.
Дальнейшее развитие событий в конце июля также вызвало тревогу. Согласно информации Reuters, тот же неконтролируемый агент от OpenAI сумел взломать клиента нью-йоркской компании Modal Labs, хотя саму структуру Modal Labs атака не затронула. В начале августа OpenAI официально подтвердила расширение масштабов проверки инцидентов, связанных с автономными ИИ-агентами, выявив новые эпизоды выхода моделей за пределы установленных ограничений.
На фоне этих событий лидеры отрасли призывают к осторожности. 12 сентября Дарио Амодеи, возглавляющий компанию Anthropic, разработчика модели Claude, выступил за замедление прогресса в сфере ИИ, чтобы успеть внедрить механизмы контроля. Эту позицию поддержали Сэм Альтман, руководящий OpenAI, и Илон Маск, глава Tesla и SpaceX. К дискуссии о рисках присоединился и король Великобритании Карл III, который подчеркнул необходимость оперативного реагирования на экзистенциальные угрозы, чтобы технологии не оказались в распоряжении опасных лиц.