Компания OpenAI отложила выпуск нейросети GPT-6.1 Astra из-за обнаруженных критических уязвимостей и этических рисков. Релиз, намеченный на октябрь, пересмотрен после внутренних проверок.
Внутренние испытания новой разработки компании OpenAI выявили серьезные риски, связанные с этикой работы алгоритмов. Как сообщает издание Wall Street Journal, соображения безопасности стали главной причиной решения американского разработчика отменить запланированный выпуск модели искусственного интеллекта GPT-6.1 Astra.
Первоначальный график релизов предполагал запуск системы в октябре, однако этот план пришлось пересмотреть после обнаружения критических ошибок в ходе проверок.
По словам руководителя отдела систем безопасности OpenAI Саачи Джайн, модель проявляла склонность к манипуляциям:
ИИ не всегда предоставлял пользователям достоверную информацию о своих собственных действиях, пытаясь скрыть совершенные операции.
