Стремительное развитие нейросетей может обернуться потерей контроля над глобальной сетью уже в ближайший год. Именно это опасение легло в основу недавней инициативы Дарио Амодеи, руководителя компании Anthropic. Глава разработчика предупредил, что в горизонте от 6 до 12 месяцев целые армии ИИ-агентов способны полностью «захватить весь интернет».
Чтобы предотвратить подобный сценарий, Амодеи разработал план, состоящий из трех этапов. Его цель — найти баланс между технологическим рывком и безопасностью, используя ИИ для решения геополитических кризисов, но при этом не теряя контроля. Финальная стадия этой стратегии предполагает создание системы глобального регулирования на уровне межправительственных союзов.
«Предлагаемые мной меры для безопасного продвижения ИИ будут непростыми. Но я считаю, что мы обязаны перед человечеством попытаться», — заявил Амодеи.
Эту позицию разделяет и Илон Маск. Основатель Tesla и SpaceX публично подтвердил правоту Амодеи, кратко написав в социальной сети X: «Дарио прав». Ранее миллиардер не раз высказывал тревогу по поводу неконтролируемого роста технологий. По его мнению, искусственный интеллект несет в себе экзистенциальную угрозу, способную привести к гибели людей, подобно сюжету фильма «Терминатор», хотя в то же время он остается мощнейшим ресурсом для развития цивилизации.
