Искусственный интеллект
# безопасность

Безопасность через контроль: ИИ ждет жесткая проверка по авиационным стандартам

Безопасность через контроль: ИИ ждет жесткая проверка по авиационным стандартам
Разработка технологий искусственного интеллекта продолжит развиваться, но столкнется с внедрением строгих правил сертификации. Процесс регулирования будет проводиться по аналогии с авиационной промышленностью.

Разработка технологий искусственного интеллекта не потеряет в скорости, несмотря на призывы к осторожности. По мнению Алексея Маркелова, возглавляющего Центр компетенций ИИ в АНО «Цифровые платформы», индустрию ждет не торможение, а внедрение строгих правил сертификации и стандартов.

Такая позиция возникла на фоне дискуссий о рисках. Так, руководитель Anthropic Дарио Амодей настаивает на необходимости замедлить создание сверхмощных нейросетей ради глобальной безопасности. С этой точкой зрения уже солидарны Сэм Альтман, стоящий у руля OpenAI, и Илон Маск, владелец компании xAI.

Однако Маркелов в интервью для 360.ru уверен: процесс не остановится, но станет более регулируемым. Он предложил использовать опыт авиационной отрасли для работы с высокорисковыми технологиями. По словам эксперта, передовые, или «фронтирные» модели, должны проходить независимую экспертизу еще до того, как станут доступны пользователям. Логика здесь проста: как самолеты не допускаются к перевозке людей без официального подтверждения безопасности, так и мощный ИИ не должен выходить в широкий доступ без тщательной проверки, учитывая сопутствующие угрозы.

Похожие новости

Здесь может быть ваша реклама