Дарио Амодей, возглавляющий Anthropic, выступил с инициативой ограничить темпы создания сверхмощного искусственного интеллекта. По его мнению, текущая скорость прогресса создает серьезные угрозы, которые невозможно нивелировать одними лишь защитными механизмами.
Руководитель компании подчеркнул, что простым внедрением предохранителей не обойтись.
«За последние несколько месяцев я пришел к выводу, что для полноценного устранения рисков необходима еще большая осмотрительность, недостаточно лишь вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними. Мы должны снизить скорость развития возможностей ИИ-моделей», — заявил Амодей.
Развитие технологий требует, чтобы меры безопасности успевали за прогрессом, а скорость развития возможностей моделей была контролируемой.
