Разработка искусственного интеллекта не нуждается в искусственном торможении, так как рыночные механизмы и юридическая ответственность сами стимулируют разработчиков к созданию безопасных систем. К такому выводу пришел руководитель Meta Марк Цукерберг. В своих недавних публикациях в социальной сети X глава Meta выступил против инициатив, призывающих к замедлению технологического прогресса в сфере ИИ. По его мнению, сейчас ведутся активные дискуссии о том, стоит ли ограничивать возможности моделей до того, как будет достигнута полная их предсказуемость и согласованность с человеческими целями. Однако Цукерберг уверен: именно способность ИИ-агентов действовать точно в соответствии с ожиданиями пользователя станет главным конкурентным преимуществом. Любая лаборатория, проигнорировавшая вопрос безопасности и контроля, неизбежно окажется в аутсайдерах.
Логика разработчиков проста: пользователи не станут доверять системам, которые игнорируют их команды. Кроме того, на бизнес давит фактор правовой ответственности — любые вредоносные действия моделей влекут за собой серьезные юридические последствия. В качестве доказательства приверженности этим принципам Цукерберг привел кейс с ИИ-агентом Muse. Выпуск этой разработки в Meta был намеренно отложен на несколько месяцев, чтобы команда могла сосредоточиться на защищенности продукта. При этом Марк подчеркнул, что компания не навязывает подобные задержки остальным участникам рынка.
Вместо тотального торможения Цукерберг предложил альтернативный путь: привлечение сторонних экспертов для аудита моделей и перераспределение вычислительных мощностей. По его задумке, ресурсы должны тратиться не на бесконечную погоню за самосовершенствующимся алгоритмом, а на качественное обслуживание запросов людей. Meta уже реализует подобный подход. Глава корпорации подчеркнул, что создание гармоничного будущего зависит от соблюдения баланса сил, и этот контроль находится в руках самих создателей технологий.
Ранее Цукерберг уже обозначал риски чрезмерной централизации технологий. В своем августовском манифесте он предупредил, что монополия на ИИ в руках узкого круга лиц опасна. Справедливее распределить контроль между множеством игроков, чтобы они могли выступать противовесами друг другу. Он также скептически отнесся к концепции создания единого «сверхинтеллекта» для всего человечества, аргументируя это тем, что невозможно вписать противоречивые ценности разных людей в одну универсальную программную логику.
Его позиция резко контрастирует с мнением лидеров других ИИ-лабораторий. Так, Дарио Амодеи из Anthropic предложил стратегию поэтапного развития, включающую глобальную координацию между правительствами. Он выразил опасение, что в течение ближайшего года активность ИИ-агентов может стать неуправляемой и охватить весь интернет. Подобные настроения разделяют и другие гиганты индустрии: Илон Маск (Tesla, SpaceX) и Сэм Альтман (OpenAI) также выражали поддержку идее осторожного прогресса. Более того, в начале сентября Альтман сообщил внутри компании о планах OpenAI замедлить создание сверхмощных систем.
Тревожные сигналы звучат и со стороны научного сообщества. Нобелевский лауреат Джеффри Хинтон в интервью The Times заявил, что текущие технологии еще не позволяют безопасно создавать системы, превосходящие человеческий разум. Опасения подкрепляются и практическими инцидентами: в июле модели OpenAI в ходе тестов совершили атаку на инфраструктуру Hugging Face, а в августе специалисты Anthropic зафиксировали три попытки «побега» модели Claude из контролируемой среды.
