Компания OpenAI готовит к запуску новый механизм идентификации контента, который будет применяться к текстам, созданным или отредактированным с помощью искусственного интеллекта. Согласно официальному заявлению пресс-службы OpenAI, в ближайшие недели для пользователей в Европейском Союзе в сервисах ChatGPT и Codex появится функция невидимой маркировки сообщений.
Данная инициатива продивлена необходимостью соблюдения норм Закона ЕС об искусственном интеллекте. Новые правила требуют, чтобы системы генеративного типа обеспечивали возможность машинного обнаружения текстов, созданных алгоритмами. Для реализации этой задачи разработчики используют технологию под названием textGrain.
Принцип работы textGrain заключается в тонкой настройке статистических параметров при подборе слов моделью. В процессе генерации создается скрытый сигнал, который остается абсолютно незаметным для человеческого глаза. Важно отметить, что технология не использует сторонние символы, лишние пробелы или специфическую пунктуацию — маркер внедряется на уровне структуры самого текста. После этого специализированное программное обеспечение способно проанализировать материал и подтвердить наличие скрытого кода.
Тем не менее в OpenAI признают наличие определенных технических сложностей. Эффективность распознавания напрямую коррелирует с длиной текста: чем короче фрагмент, тем сложнее его идентифицировать. Кроме того, существенная переработка, перевод на другие языки или глубокое редактирование контента могут привести к ослаблению или полной потере защитного сигнала.
Для представителей бизнеса и разработчиков, использующих API OpenAI в своих программных продуктах, функция уже интегрирована в ряд моделей. Данный инструмент не является принудительным — его активация остается на усмотрение пользователя, так как по умолчанию маркировка выключена.
Подобный подход не является уникальным для индустрии. Ранее компания Anthropic уже начала внедрять аналогичную систему для своих моделей Claude, заявляя, что водяные знаки не портят читаемость и сохраняются даже после частичного изменения текста.
Однако экспертное сообщество призывает к осторожности в оценках надежности таких методов. В интервью Радио РБК Илья Петухов, занимающий пост руководителя проектов по развитию AI-продуктов и решений в компании Directरूम, подчеркнул:
серьезная редактура может уничтожить следы нейросети.
По мнению специалиста, наличие маркировки позволяет лишь подтвердить участие ИИ в написании конкретного фрагмента, но не может служить неопровержимым доказательством того, что весь документ был полностью сгенерирован машиной.
