Человечество рискует столкнуться с полным исчезновением, если гонка за созданием сверхразумных машин выйдет из-под контроля. Об этом серьезном сценарии предупредил Джеффри Хинтон — выдающийся ученый, удостоенный Нобелевской премии и получивший мировое признание под прозвищем «крестный отец» искусственного интеллекта. В своем недавнем общении с журналистами издания The Times эксперт выразил глубокую обеспокоенность текущим положением дел.
По мнению Хинтона, современный технологический сектор не обладает необходимыми инструментами, чтобы гарантировать безопасность при работе над «суперинтеллектом» — системой, чьи когнитивные способности окажутся на порядок выше человеческих. Ученый считает, что в научном сообществе до сих пор не достигнуто единство мнений относительно того, как сделать подобный разум подконтрольным.
«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — подчеркнул он.
Хинтон резюмировал: утрата управления технологией, превосходящей нас в мышлении, способна обернуться настоящей катастрофой и даже гибелью нашего вида.
