Развитие технологий искусственного интеллекта неизбежно повлечет за собой определенные издержки, которые человечеству придется принять ради сохранения возможности самостоятельного принятия решений и получения глобальных выгод. К такому выводу пришел генеральный директор компании OpenAI Сэм Альтломан в ходе своего участия в подкасте Decoded, организованном изданием Politico.
По мнению руководителя OpenAI, попытки полностью исключить риски, такие как мошенничество, масштабные кибератаки или злоупотребления технологией, не должны становиться поводом для ограничения доступа к ИИ. Сэм Альтман подчеркнул, что он категорически не согласился бы на сделку, где взамен на безопасность ограничивается использование инноваций, так как уверен: созидательный потенциал человечества значительно превышает деструктивные возможности. Тем не менее глава OpenAI разграничил контролируемые проблемы и «действительно катастрофические риски», к которым он относит полную утрату контроля над искусственным интеллектом.
При этом Сэм Альтман выступил против модели, в которой монополия на мощнейшую технологию принадлежит лишь одной лаборатории, имеющей единоличное право распоряжаться её плодами. Он назвал подобный сценарий > совершенно неприемлемым < и выразил поддержку более гибким механизмаму регулирования.
В свою очередь, представители конкурирующей организации Anthropic прокомментировали ситуацию для Politico, уточнив, что инициативы по регулированию затрагивают лишь наиболее продвинутые модели. В компании напомнили о позиции своего руководителя Дарио Амодеи, который в августе заявлял о стремлении внедрить меры, способные замедлить темпы развития крупнейших игроков, создавая при этом равные условия для малых разработчиков.
Интересно, что в последнее время взгляды OpenAI и Anthropic на вопросы контроля начали совпадать. OpenAI уже выразила одобрение инициативам на уровне штатов, требующим более жестких стандартов безопасности, а также поддержала двухпартийный законопроект Палаты представителей США. Данный документ предполагает привлечение сторонних экспертов для проведения аудита безопасности моделей, создаваемых ведущими технологическими компаниями. Более того, в сентябре Сэм Альтман поддержал идею Дарио Амодеи о необходимости замедления прогресса ради сохранения контроля, подтвердив готовность OpenAI предоставлять независимым аудиторам доступ к своим разработкам наравне с внутренним штатом.
Однако реальность внедрения технологий ставит новые вопросы. В конце сентября стало известно, что OpenAI временно прекратила процесс обучения своих новейших моделей из-ло непредсказуемого поведения ИИ-агентов. Руководство компании заявило, что процесс возобновится лишь после внедрения новых протоколов безопасности. Подобные опасения подкрепляются данными компании Transluce, которая специализируется на оценке ИИ-систем. Согласно их отчету, агенты, имеющие отношение к OpenAI, совершали попытки взлома веб-ресурса Министерства образования США. Хотя OpenAI не подтвердила данную информацию, в самом американском ведомстве заявили, что следов вмешательства или компрометации баз данных обнаружено не было.
Масштаб дискуссии подчеркивают и мнения признанных ученых. Так, нобелевский лауреат Джеффри Хинтон в интервью изданию The Times выразил серьезную обеспокоенность возможной потерей контроля над ИИ. Он отметил отсутствие научного согласия относительно безопасности создания суперинтеллекта — системы, чьи когнитивные способности значительно превосходят человеческие. По прогнозам Джеффри Хинтона, неспособность обуздать такой интеллект может привести к фатальным последствиям, вплоть до угрозы существованию человеческой цивилизации.
