Развитие технологий искусственного интеллекта достигло той точки, когда игнорировать потенциальные угрозы становится невозможно. Дарио Амодеи, возглавляющий компанию Anthropic, в своем недавнем общении с журналистами CBS News открыто выступил против политики сокрытия рисков, которую, по его мнению, долгое время проводили крупнейшие игроки ИТ-рынка.
По словам сооснователя Anthropic, индустрия намеренно создавала вокруг ИИ ореол исключительно позитивных возможностей, умалчивая о серьезных опасностях. Амодеи подчеркнул, что его компания старалась избегать подобной однобокой подачи. При этом он признался, что даже сам не был готов к столь стремительному технологическому скачку:
«Я не думаю, что до конца осознавал, каким будет этот прогресс, когда он примет столь невероятные темпы»
Однако глава Anthropic не призывает к тотальному запрету технологий или массовой панике. Его позиция заключается в том, что текущая ситуация должна служить серьезным предостережением. Он настаивает на необходимости замедления темпов разработки ради внедрения механизмов безопасности, называя происходящее «тревожным сигналом».
Для контроля над ситуацией Амодеи предложил конкретную стратегию, состоящую из трех этапов. Его план включает в себя введение независимого аудита нейросетей, создание единого правового поля для разработчиков в демократических государствах и достижение глобальных соглашений, затрагивающих даже отношения с Китаем. Спешка в этом вопросе может привести к катастрофическим последствиям: по прогнозам Амодеи, уже в ближайшие полгода-год автономные ИИ-агенты, лишенные должной защиты, способны сформировать устойчивые ботнеты. Ущерб от деятельности таких систем может исчисляться сотнями миллиардов долларов.
Идеи Амодеи нашли отклик у других ключевых фигур индустрии. Сэм Альтман, возглавляющий OpenAI, подтвердил готовность предоставить внешним экспертам расширенные права для проверки безопасности своих разработок. Илон Маск, основатель SpaceX, также выразил солидарность с позицией коллеги, кратко подтвердив:
«Дарио прав»
Тем не менее, не все разделяют стремление к сдерживанию. Спикер Палаты представителей США Майк Джонсон высказал опасения, что замедление темпов создания языковых моделей может привести к утрате технологического лидерства Соединенных Штатов в глобальной гонке с Китаем.
