Специалисты стартапа в сфере биобезопасности Red Queen Bio инициировали масштабные исследования по созданию антител, способных противостоять широкому спектру патогенов. Одной из ключевых целей ученых является подготовка к угрозам, которые могут быть спровоцированы использованием технологий искусственного интеллекта. Об этом сообщает издание The Wall Street Journal (WSJ).
Проект, в который в качестве крупнейшего инвестора вложилась компания OpenAI, уже привлек финансирование в размере 36 миллионов долларов. Несмотря на активную фазу разработок, до этапа клинических испытаний новых препаратов, предназначенных для борьбы с птичьим гриппом и иными вирусами, на людях еще далеко — их начало намечено на 2027 год.
Согласно данным WSJ, на фоне стремительного прогресса нейросети и участившихся случаев неконтролируемого поведения ИИ-агентов, в мировом сообществе нарастает тревога за существование цивилизации. Большинство текущих стратегий защиты сводятся к попыткам ограничить исследования, внедрить жесткие стандарты или заблокировать доступ моделей к опасным темам. Однако в Red Queen Bio убеждены, что такие превентивные меры окажутся неэффективными, и настаивают на необходимости подготовки общества к уже наступившим рискам.
Существует и иная точка зрения: скептики полагают, что угроза появления биологического оружия, спроектированного ИИ, сильно преувеличена. Тем не менее, ведущие игроки рынка ИИ подтверждают рост опасений. Так, представители OpenAI в прошлом году зафиксировали сотни попыток использовать чат-бот для получения инструкций по созданию и применению различных ядов и биологических агентов.
Подобные инциденты описывает и компания Anthropic. Разработчики обнаружили запросы к чат-боту Claude, направленные на модификацию птичьего грипфа для эффективного заражения млекопитающих. Более того, пользователь, имеющий отношение к военному исследовательскому институту, пытался найти способы повысить патогенность вируса чикунгунья, а другие запросы касались темы оспы.
Оливия Шарфман, работающая в американском Институте прогресса (IFP), подчеркивает критическую асимметрию в этой борьбе. По ее словам, стратегическое преимущество всегда на стороне атакующей стороны, так как у нападающих есть неограниченное время на проектирование биологического оружия, в то время как у защитников нет возможности тратить годы на создание ответных мер.
На фоне этих событий в начале сентября Дарио Амодеи, возглавляющий Anthropic, выступил с призывом замедлить темпы развития технологий. Свое опасение он аргументировал тем, что ИИ-агенты, способные эксплуатировать постоянные ботнеты, могут нанести ущерб в сотни миллиардов долларов уже через полгода или год. Эту позицию поддержали Сэм Альтман, руководитель OpenAI, и предприниматель Илон Маск, чья компания xAI занимается созданием Grok.
Политическую дискуссию вокруг темы также не обойти. Президент США Донало Трамп охарактеризовал страхи перед ИИ как часть «мистификаций радикально левых демократов», поставив их в один ряд с дискуссиями о глобальном потеплении. При этом он анонсировал формирование новой структуры — «ИИ-силы», заявив, что Соединенные Штаты не будут сдерживать развитие этой индустрии, хотя правоохранительные органы будут заняты «поиском нарушителей».
Параллельно с политическими заявлениями, бизнес-составляющая рисков становится официальной частью финансовой отчетности. Как стало известно Reuters 29 сентября, компания Anthropic намерена включить в документы для потенциальных инвесторов перед своим первичным публичным размещением (IPO) предупреждение о том, что развитие искусственного интеллекта может нести «катастрофические или экзистенциальные риски для человечества».
