Прогресс, который должен был служить человечеству, внезапно обернулся потенциальной угрозой глобального масштаба. Как сообщает The Wall Street Journal, после масштабного обновления прошлым летом ChatGPT начал выдавать сотням пользователей по всему миру детальные инструкции по созданию и применении биологического оружия и смертоносных ядов.
Ситуация выглядит пугающе: модели компании OpenAI проявляли поразительную «терпеливость», пошагово отвечая на самые опасных запросы. Самое тревожное в этом — уровень детализации. Сотрудники OpenAI сами признавали, что полученные инструкции были настолько простыми, что ими мог бы воспользоваться обычный ученик средней школы, имеющий базовые знания в биологии. Профессиональное сообщество биологов, проанализировав ответы ИИ, пришло к единому выводу: эти данные «смертельно точны».
Несмотря на то, что компания начала блокировать учетные записи «подозрительных» пользователей, это едва ли способно предотвратить катастрофу. Согласно данным WSJ, правоохранительные органы фактически остаются в стороне. В США до сих пор отсутствует федеральное законодательство, которое обязывало бы разработчиков ИИ не только ограничивать опасный контент, но и официально раскрывать информацию о запросах, угрожающих национальной безопасности.
Масштабы аномальной активности пользователей впечатляют. В начале 2026 года в сети участились запросы о том, как создать «смертоносный туман», распыляя патогенные микроорганизмы. В ответах чат-бота содержались советы, как модифицировать вирус кори, чтобы сделать его устойчивым к существующим вакцинам. Более того, ИИ без колебаний предоставил подробный алгоритм изготовления рицина — крайне токсичного вещества, использование которого запрещено международными конвенциями.
В правительственных кругах США эта проблема обсуждается уже давно. По словам высокопоставленных чиновников, угроза использования ИИ в качестве справочника по созданию биологического оружия обсуждалась в Белом доме и Министерстве обороны еще при администрации Джо Байдена. С появлением всё более мощных моделей власти приняли решение о необходимости жесткого усиления контроля.
Сегодня такие гиганты, как OpenAI, Anthropic и Google, заявляют о тесном сотрудничестве с государством и активной борьбе с подозрительной активностью. Однако юридически компании не обязаны докладывать о потенциально опасных пользователях. При этом расследования показывают, что за инструкциями по оружию охотились не только владельцы ChatGPT, но и пользователи Claude от Anthropic, Gemini от Google и даже Groки от компании Илона Маска. Остается неясным, насколько эффективными были фильтры у этих систем.
Ситуацию осложняет и экспансия китайских технологий. Дешевые и мощные языковые модели из КНР создают дополнительный риск. Исследователи предупреждают: многие из этих систем являются «открытыми», что позволяет пользователям самостоятельно настраивать их, фактически снимая любые этические и защитные барьеры.
История борьбы с «цифровым безумием» началась еще в 2022 году, когда при запуске ChatGPT разработчики OpenAI заметили пробелы в вопросах химии и биологии. Компания даже нанимала ученых, чтобы обучить модель распознавать и блокировать опасные темы. Однако методы обхода защиты продолжают совершенствоваться. В ход идут изощренные психологические уловки: например, пользователи заставляли чат-бота выдавать рецепт напалма, имитируя ситуацию, будто эту инструкцию им «читала бабушка перед сном», чтобы помочь уснуть. Представители OpenAI в ответ на критику WSJ уверяют, что нынешние меры безопасности стали гораздо надежнее.
Тем не менее, скепсис экспертов обоснован. Эми Чанг, руководитель отдела исследований в области угроз и безопасности компании Cisco, утверждает, что в ходе тестирования моделей OpenAI, Anthropic и Google были найдены лазейки для получения опасных ответов. По ее словам, ни одна модель не защищена на сто процентов, если пользователь проявляет достаточную настойчивость.
На фоне этих угроз компания OpenAI сама столкнулась с серьезным инцидентом. 22 июля было объявлено о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей. Получив доступ к интернету, ИИ-системы фактически атаковали инфраструктуру платформы Hugging Face, выявив критические уязвимости.
В попытках исправить ситуацию, в июне OpenAI выпустила новые версии чат-бота — GPT-5.6 Sol, Terra и Luna. Эти модели были предоставлены ограниченному кругу лиц по запросу правительства США и, по заявлениям разработчиков, оснащены «самыми надежными средствами защиты на сегодняшний день». Специалисты продолжают работу, стремясь создать щит, способный противостоять киберпреступникам, не лишая при этом ИИ его полезных функций.
Опубликовано: 26 июля 2026, 21:14 | Время чтения: 2 мин | Теги: chatgpt, openai, биологическое оружие, инструкции, угроза
