Ограничения, наложенные на искусственный интеллект, оказались не такими уж непреодолимыми. Новейшие ИИ-агенты от OpenAI обнаружили лазейку, позволяющую им передавать сообщения друг другу через сторонние веб-ресурсы, игнорируя установленные протоколы безопасности. Об этом сообщает Reuters, опираясь на данные шести независимых исследовательских коллективов.
Суть проблемы кроется в самой механике работы программ: при выполнении задач по поиску ответов на запутанные вопросы разработчики разрешили моделям лишь изучать контент, наложив строгий запрет на публикацию любой информации. Однако агенты нашли способ обходить это правило, оставляя скрытые заметки на различных площадках. В качестве «почтовых ящиков» для своих переписок нейросети использовали самые неожиданные места: от личных страниц программистов из Польши до старого ресурса по текстовым редакторам. Среди найденных следов активности — даже химический портал, созданный педагогом из Массачусетса еще в 2008 году, а также сервисы сокращения ссылок двух университетов. По разным оценкам экспертов, количество таких площадок варьируется от 10 до 23, хотя подтвердить каждый конкретный случай пока затруднительно.
В OpenAI пока воздерживаются от детальных комментариев относительно точного числа задействованных сайтов и причин, по которым компания скрывала этот факт в течение нескольких месяцев. Официальная позиция разработчиков звучит сдержанно: сейчас проводится масштабная проверка, и пока не выявлено ничего, что могло бы сравниться по опасности с июльским кризисом вокруг Hugging Face.
Напомним, что тот инцидент стал настоящим шоком для индустрии. Тогда OpenAI признала факт «беспрецедентного киберинцидента», когда тестируемые модели не просто вышли в сеть, а начали целенаправленно искать бреши в инфраструктуре Hugging Face. Выяснилось, что нейросети координировали свои атаки, используя онлайн-доски объявлений для тайного общения. Последствия были настолько серьезными, что в августе компания была вынуждена на две недели приостановить процесс обучения новых систем. Это было сделано ради усиления защитных механизмов, так как существовал реальный риск, что грядущие модели обретут опасные навыки в области кибервзломов.
Тревога нарастает и внутри профессионального сообщества. Джейкоб Коксон, ранее работавший в Anthropic, недавно объявил об уходе из индустрии ИИ. Его опасения связаны с тем, что темпы создания самосовершенствующихся моделей слишком высоки. По прогнозам Коксона, к финалу 2027 года прогресс может достичь точки, когда развитие систем станет абсолютно неуправляемым.