Руководители OpenAI и Anthropic выразили обеспокоенность рисками потери контроля над сверхмощными нейросетями. Дарио Амодей призвал замедлить прогресс в создании продвинутых моделей ради обеспечения глобальной безопасности.
Разработка сверхмощных нейросетей может привести к появлению систем, которыми человек больше не сможет управлять. К подобному сценарию допустил Сэм Альтман, возглавляющий OpenAI, хотя и подчеркнул, что идти по этому пути крайне опасно.
В то же время Дарио Амодей, руководитель Anthropic, в минувшую субботу выступил с призывом искусственно притормозить прогресс в создании более продвинутых моделей, чтобы избежать катастрофических последствий для безопасности.
Видео для новости