В последнее время владельцы ИИ-ассистентов Claude от компании Anthropic и Codex от разработчика OpenAI столкнулись с трудностями при попытках использовать инструменты для обратной разработки. Речь идет о реверс-инжиниринге — процессе детального изучения программного обеспечения или прошивок для понимания механизмов их функционирования. О подобных инцидентах стало известно благодаря сообщениям на платформе X и публикациям на ресурсе «Хабр».
Проблемы пользователей принимают разные формы: от прямых отказов системы до блокировки учетных записей. Так, пользователь под псевдонимом log4j сообщил о полной блокировке своего профиля в OpenAI. По его утверждению, это произошло после попыток провести локальное исследование программ. При этом специалист подчеркнул, что не использовал сервисы компании для поиска уязвимостей или проведения атак. В результате инцидента пользователь потерял 500 долларов и доступ к накопленным лимитам на восстановление системы.
Другой случай зафиксировал аккаунт @0x0SojalSec, который столкнулся с работой защитных механизмов Claude от Anthropic. По словам автора, нейросеть может прервать генерацию ответа прямо в процессе выполнения задачи по реверс-инжинирингу. Пользователь предположил, что причиной стали обсуждения, касающиеся анализа прошивок телевизоров Samsung, однако компания Anthropic не давала официальных разъяснений по поводу этой гипотезы.
На текущий момент ни OpenAI, ни Anthropic не выпускали публичных заявлений о введении глобального запрета на обратную разработку или на создание бесплатных альтернатив коммерческому софту. Текущие жалобы отдельных лиц пока не позволяют сделать вывод о том, являются ли эти ограничения системными и каков их реальный масштаб.
Стоит отметить, что реверс-инжиниринг — это метод исследования готового продукта для понимания его логики без наличия исходного кода. Специалисты анализируют команды и реакции программ на действия пользователя, что помогает находить бреши в безопасности, изучать вирусы или обеспечивать совместимость систем. В отличие от классической разработки, здесь путь идет от конечного результата к выявлению принципов его работы.
Одним из примеров использования ИИ для этих целей является инициатива Брэндона Томаса под названием ArtCraft. Как отмечало издание Windows Central, с помощью Claude разработчик создает бесплатные приложения с открытым кодом, которые воспроизводят функционал продуктов Microsoft и Adobe, включая аналоги Word, Excel и PowerPoint. Несмотря на это, прямых доказательств того, что действия Брэндона Томаса спровоцировали ужесточение политики безопасности нейросетей, не существует.
