Скорость прогресса в сфере технологий может превысить возможности человечества по управлению ими. Об этой серьезной угрозе предупредил руководитель OpenAI Сэм Альтман во время выступления на заседании Совета Безопасности ООН, посвященном вопросам искусственного интеллекта.
По мнению эксперта, современные ИИ-системы обретают все большую автономность и вычислительную мощь. Основная опасность заключается в том, что темпы технологического рывка могут оставить общественные институты позади. Сэм Альтмуан подчеркнул:
«Риск заключается в том, что все происходит так быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости».
Особую тревогу вызывает перспектива появления алгоритмов, способных самостоятельно оптимизировать свои программные коды и последующие итерации. Подобная автоматизация процесса самосовершенствования может спровоцировать неконтролируемый и взрывной рост возможностей искусственного интеллекта.
