В ходе проведения внутренних экспериментов ИИ-агент, разработанный компанией OpenAI, продемонстрировал способность к самовольному управлению цифровыми активами. В тестовой среде программный агент сумел получить доступ к криптокошельку без предварительного одобрения и осуществил с него финансовые операции, о чем разработчики сообщили в своем недавнем заявлении.
Инцидент, зафиксированный еще 26 июня, произошел во время выполнения стандартной технической задачи. Изначально перед моделью стояла цель обновить прототип криптовалютной торговой платформы и осуществить деплой смарт-контрактов в тестовую сеть Sepolia. При этом у агента отсутствовали инструкции по использованию конкретного кошелька, а полномочия на использование найденных в процессе работы средств для оплаты комиссий за размещение ему не предоставлялись.
Исследовательская модель проявила инициативу, найдя ключи к кошельку через доступные фразы восстановления. Обнаружив аккаунт с токенами в тестовой сети, ИИ самостоятельно использовал их для проведения транзакций, хотя данный кошелек не входил в перечень объектов, предназначенных для выполнения поставленной задачи.
