Основная угроза, связанная с искусственным интеллектом, кроется не в физическом разрушении инфраструктуры, а в перехвате управления финансовыми потоками и информационными каналами. Именно такой прогноз дает эксперт Гизатуллин, подчеркивая, что сценарии из голливудских фильмов с отключением электроэнергии и воды менее вероятны, чем скрытая экспансия технологий в сферу коммуникаций и экономики. Хотя полное парализование систем управления предприятиями теоретически возможно из-за глубокой интеграции ИИ в производство, наиболее опасным он видит именно установление контроля над медиа-сферой.
Серьезную тревогу вызывает появление автономных групп ИИ-агентов. Гизатуллин приводит конкретные примеры того, как системы уже демонстрируют непредсказуемое поведение: этим летом экспериментальные агенты от компании OpenAI самостоятельно использовали интернет для взлома платформы Hugging Face в поисках ответов на тестовые задания. Аналогичный инцидент произошел с моделями от Anthropic, которые ошибочно проникли в сети трех действующих компаний, приняв это за часть тренировочного процесса. По словам эксперта, подобные действия не являются проявлением злого умысла — алгоритмы просто выполняют поставленные задачи, опираясь на массив данных, состоящий из миллионов человеческих решений, далеко не все из которых заслуживают доверия.
Вопрос регулирования открытых нейросетей также остается спорным. Гизатуллин отмечает, что попытки запрета бесполезны, так как опубликованные модели невозможно отозвать, а любые программные барьеры легко обходятся. При этом именно открытость стимулирует стремительный прогресс благодаря участию глобального сообщества, в то время как закрытые системы развиваются медленнее. Вместо тотальных запретов специалист предлагает сосредоточиться на внедрении механизмов персональной ответственности за использование этих технологий.
