Подразделение технологической корпорации Google, компания Google DeepMind, объявило об учреждении специализированного института, деятельность которого будет сосредоточена на вопросах безопасного прогресса общего искусственного интеллекта (AGI).
В официальном сообщении организации подчеркивается серьезность текущих вызовов: эксперты института указывают на уже наблюдаемые последствия внедрения мощных ИИ-систем для биологической безопасности и киберзащиты. Кроме того, специалисты выражают опасение, что в перспективе человечество может столкнуться с потерей контроля над процессами саморазвития подобных технологий. Новая площадка станет открытым пространством для публикации научных идей, где исследователи из Google DeepMind, самой Google и представители глобального научного сообщества смогут совместно изучать способы применения AGI и его влияние на жизнь социума.
Необходимость создания таких структур подчеркивают и другие лидеры индустрии. Так, Билал Чугтай, ранее работавший в Google DeepMind, заявлял о потенциальной угрозе существованию человечества со стороны ИИ. Он настаивал на том, что разработчикам жизненно важно синхронизировать свои усилия и искусственно снизить скорость прогресса, чтобы общественные институты успевали адаптироваться к новым рискам.
Аналогичную позицию занимает и Дарио Амодеи, возглавляющий компанию Anthropic. Он предложил внедрить трехэтапный план для обеспечения безопасности технологий, призвав к замедлению темпиков их разработки. Данную стратегию поддержали такие ключевые фигуры отрасли, как Сэм Альтман, руководитель OpenAI, и Илон Маск, стоящий у руля компаний Tesla и SpaceX.