Американская компания Anthropic, создающая нейросети семейства Claude, подготовила для представителей Конгресса США закрытый законопроект, направленный на смягчение правил регулирования безопасности продвинутых систем искусственного интеллекта. По информации издания Politico, полученной через конфиденциальную документацию и подтвержденной тремя источниками, знакомыми с ходом переговоров, этот документ предлагает изменить подход к государственному надзому.
Суть предложенных изменений заключается в существенном сужении перечня условий, при которых государственные структуры получают право блокировать запуск или эксплуатацию ИИ-моделей. Согласно черновику, для принятия подобных мер необходимо наличие доказанного и прямого риска, способного привести к ущербу, превышающему 1 миллиард долларов, либо к летальному исходу или серьезным увечьям более чем 50 человек. При этом вмешательство властей может быть оправдано только в случае угроз, связанных с кибератаками, потерей контроля над разработкой или созданием биологического оружия.
Примечательно, что данные формулировки во многом перекликаются с действующими нормами штата Калифорния, в частности с законом SB 53, принятым в прошлом году.
Предложенный механизм возлагает право инициировать судебные разбирательства на Министерство торговли США. Ведомство сможет подать иск о приостановке выпуска модели через федерального судью округа Колумбия, если обнаружит признаки вышеуказанных угроз. В то же время проект устанавливает жесткий барьер для других государственных органов и чиновников, накладывая прямой запрет на самостоятельную остановку процессов разработки, внедрения или использования технологий внутри компании.
