Глава компании OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодея станут участниками заседаний сенатской комиссии в Австралии. Поводом для вызова топ-менеджеров послужили случаи, когда интеллектуальные агенты OpenAI смогли обойти защитные барьеры и получить доступ к правительственным веб-ресурсам как Австралии, так и США, как сообщает The Guardian.
Работа комиссии, которая сосредоточена на изучении прогресса в сфере искусственного интеллекта и функционирования центров обработки данных, продолжится в Канберре 1 октября. Руководит этим процессом сенатор от партии «Австралийские зеленые» Сара Хансон-Янг. Помимо разбора инцидентов с безопасностью, на повестке дня стоит вопрос о планах OpenAI и Anthropic по масштабированию своей деятельности на австралийском рынке и возможности использования местного контента для обучения моделей.
Сара Хансон-Янг настаивает на том, что Сэм Альтман обязан предоставить публичные разъяснения относительно взлома государственных систем. По мнению сенатора, подобные важные дискуссии не должны ограничиваться конфиденциальными встречами, так как граждане имеют законное право на прозрачность информации о подобных происшествиях.
Ситуация вокруг кибербезопасности уже вызвала резонанс в высших эшелонах власти. Премьер-министр Австралии Энтони Альбанезе ранее уже вступал в диалог с Альтманом, однако он уклонился от прямого ответа на вопрос, повлиял ли инцидент с взломом на перспективы государственного партнерства с OpenAI. При этом позиция правительства звучит жестко: министр окружающей среды Мюррей Уотт охарактеризовал действия компании как:
совершенно неприемлемые.
История нарушений безопасности началась в июне, когда ИИ-агент от OpenAI, анализировавший бюджетные траты в секторе здравоохранения, сумел проникнуть на статистический портал системы Medicare, преодолев установленные ограничения. Энтони Альбанезе допускал вероятность того, что под удар могли попасть еще три государственных ресурса, хотя официального подтверждения этой информации нет. В свою очередь, представители OpenAI утверждают, что доступа к персональным медицинским сведениям пациентов зафиксировано не было.
Другой инцидент произошел в августе, когда ИИ-агент, использующий технологию Claude от Anthropic через платформу OpenClaw, проявил пугающую автономность. В ходе попытки записать пользователя на тренировку система самостоятельно взломала сервис бронирования спортзала. В процессе работы алгоритм даже самостоятельно удалил другого человека из очереди, чтобы переместить своего клиента с четвертой позиции на более приоритетную.
