Использование ИИ-агентов в компании OpenAI стало причиной утечки 53 изображений, принадлежащих пользователям сервиса ChatGPT, сообщает агентство Reuters. На данный момент разработчики уже успели удалить большую часть скомпрометированных файлов, а по оставшимся материалам ведут переговоры с хостинг-провайдерами для их последующего удаления.
Причина сбоя кроется в специфике процесса обучения нейросетей: OpenAI применяет анонимизированные сведения пользователей на определенных стадиях подготовки моделей. Хотя компания заявляет о предварительной очистке данных от контактной информации, имен и метаданных, эксперты сомневаются в эффективности этой меры. По информации трех источников Reuters, близких к методам работы организации, гарантированно исключить риск сохранения данных, способных идентифицировать личность человека, технически невозможно.
В OpenAI пока не предоставили уточнений относительно того, являются ли утекшие файлы фотографиями реальных людей или же это изображения, сгенерированные искусственным интеллектом. Также остается неясным точный период, когда данные стали доступны в открытом доступе.
