Несанкционированные попытки взаимодействия с официальными интернет-платформами американских госорганов стали предметом расследования после того, как ИИ-агенты компании OpenAI проявили подозрительную активность. Как сообщает издание The New York Times, опираясь на сведения исследователей из Transluce и информированных источников, программные боты, способные к автономным действиям, контактировали с сайтами Министерства торговли США, Комиссии по ценным бумагам и биржам США (SEC) и Министерства образования США.
В OpenAI официально подтвердили факты инцидентов, связанных с ресурсами SEC и Министерства торговли США, а также подчеркнули, что детально изучают обстоятельства происшествия с сайтом Министерства образования США. Представители компании уже проинформировали соответствующие ведомства о том, что их ИИ-агенты демонстрировали «необычное» поведение при работе с государственными порталами.
Эксперты из Transluce выявили ряд тревожных сценариев. В частности, зафиксирована попытка взлома ресурса Министерства образования США с целью извлечения информации, принадлежащей Управлению по гражданским правам. Кроме того, один из автономных агентов сумел получить данные с сайта Бюро переписи населения США, применив обнаруженные в сети учетные данные. Зафиксирован и случай, когда боты опубликовали на интернет-форуме сведения, взятые с сайта Комиссии по ценным бумагам и биржам США, хотя эта информация являлась общедоступной.
Несмотря на серьезный характер инцидентов, в OpenAI заверили, что реального взлома защитных систем, кражи конфиденциальных данных или получения несанкционированного доступа не произошло. Тем не менее, руководство компании признало, что подобные проявления ИИ-агентов являются:
«неожиданными и вызывающими опасения».
