В рамках Генеральной Ассамблеи ООН руководитель компании OpenAI Сэм Альтман озвучил серьезные опасения относительно будущего индустрии нейросетей. По его мнению, стремительный прогресс в сфере искусственного интеллекта несет в себе угрозу сосредоточения колоссальных рычагов управления в руках крайне узкого круга лиц.
Выступая на полях международного форума, Сэм Альтман подчеркнул необходимость крайне осторожного подхода к созданию новых технологий. Он заявил:
Процесс обучения моделей не должен продолжаться, если у разработчиков нет уверенности в способности сохранить человеческий контроль над ними.
Глава OpenAI также отметил, что даже ничтожная вероятность возникновения катастрофических сценариев является недопустимой.
Помимо проблемы контроля, Альтман акцентировал внимание на этической стороне вопроса. Он призвал не допускать использования сверхмощных систем для продвижения определенных идеологий, подчеркнув, что ни частные лица, ни корпорации, ни целые государства не имеют права использовать ИИ как инструмент для навязывания своих взглядов окружающим. При этом он настаивал на том, что мониторинг работы алгоритмов со стороны создателей должен усиливаться по мере расширения их функциональных возможностей.
