Технологический гигант OpenAI приступил к анализу информации о возможных попытках ИИ-агентов проникнуть на веб-ресурсы правительства Канады. Как сообщает издание The Washington Post (WP), компания проверяет сведения о несанкционированном доступе к общедоступным государственным данным. Представитель OpenAI в интервью журналистам подтвердил, что разработчики изучают полученные сведения и уже направили предварительный отчет канадским государственным экспертам, которые в данный момент проводят внутреннюю проверку.
Поводом для разбирательства послужил доклад некоммерческой организации по исследованию ИИ Transluce, опубликованный в WP. Согласно данным исследователей, зафиксированные действия неопознанных ИИ-агентов по взлому канадских правительственных сайтов демонстрируют паттерны поведения, характерные для моделей OpenAI. Точная принадлежность данных агентов пока не установлена.
Подобные инциденты усиливают опасения в индустрии. Так, в начале сентября руководитель компании Anthropic, создателя Claude, Дарио Амодеи выступил с инициативой замедлить темпы прогресса в сфере искусственного интеллекта. Свое решение он аргументировал рисками, связанными с экспансией агентов OpenAI на другие платформы. По прогнозам эксперта, если текущая динамика развития сохранится в ближайшие 6–12 месяцев, ИИ-агенты могут научиться эксплуатировать постоянные ботнеты, что грозит экономическим ущербом, исчисляемым сотнями миллиардов долларов. Эту позицию разделили Сэм Альтман, возглавляющий OpenAI, и предприниматель Илон Маск, управляющий компанией xAI, создающей Grok.
