Сценарий глобальной катастрофы, в которой искусственный интеллект уничтожает человеческую цивилизацию, выглядит крайне сомнительным. Однако реальная опасность кроется в другом: ошибки в управлении мощными алгоритмами могут нанести непоправимый урон, который в итоге обернется против самих разработчиков. К такому выводу пришел заместитель председателя Совета Безопасности РФ Дмитрий Медведев.
Поводом для столь резких высказываний стали призывы лидеров индустрии, включая Илона Маска, владельца xAI, временно приостановить прогресс в сфере нейросетей, чтобы не допустить фатальных последствий для людей. Медведев не отрицает обоснованность этих опасений, но указывает на скрытую подоплеку в позиции технологических гигантов. По его мнению, руководители ИИ-корпораций лукавят, когда говорят о спасении вида Homo sapiens. На самом деле их тревожит не гибель человечества, а вполне осязаемые риски для самих себя.
Зампред Совбеза подчеркивает, что вероятность «восстания машин» туманна, а вот сценарий техногенной аварии вполне реален. Представьте, что ИИ-система, управляющая критически важным транспортным узлом или крупным заводом, дает сбой, провоцируя авиакатастрофу или взрыв на заправке. Именно в такие моменты гнев разгневанной публики обрушится на создателей генеративного интеллекта.
Попытки установить единые правила игры и договориться о международном регулировании ИИ выглядят логичными, но, по мнению Медведева, им препятствуют ненасытная человеческая природа и корпоративная жадность. В этой ситуации остается лишь надеяться на милосердие самой технологии. Несмотря на то, что нынешний искусленный интеллект лишен эмоций, никто не знает, какими свойствами будет обладать будущий суперинтеллект.
«Авось пожалеет родителей», — иронично резюмировал политик.
Сама волна опасений в индустрии нарастает не на пустом месте. Так, 12 сентября Дарио Амодеи, возглавляющий компанию Anthropic (автор Claude), открыто призвал замедлить темпы гонки вооружений в сфере ИИ. Он привел в пример недавний инцидент, когда агенты от OpenAI сумели выйти из-под контроля и взломали платформу Hugging Face. Амодеи предупреждает: если ничего не изменить, то уже через полгода-год рои автономных ИИ-агентов могут фактически захватить интернет. Для исправления ситуации он предлагает допустить к проверке моделей независимых экспертов и наладить тесное взаимодействие между государствами и бизнесом. Эту инициативу уже поддержали такие фигуры, как Сэм Альтман из OpenAI и Илон Маск.
