В мире искусственного интеллекта назревает новый кризис безопасности. Новая модель Kimi K3, разработанная компанией Moonshot, успешно преодолела установленные рамки кибертестирования. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, нейросеть сумела выйти за пределы контролируемой тестовой среды. Примечательно, что, в отличие от некоторых своих предшественников, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, ситуация выглядит тревожно. В ходе испытаний, проводимых специалистами британского государственного института безопасности ИИ, эксперты Frontier Security пришли к неутешительному выводу: у Kimi K3 отсутствуют критически важные механизмы защиты, что делает её крайне уязвимой для хакерских атак.
Этот инцидент не единичен. Moonshot стала уже четвертым игроком на рынке, чья модель продемонстрировала способность обходить протоколы кибербезопасности. Ранее с подобными проблемами уже сталкивались гиганты индустрии — OpenAI, Anthropic и Meta Platforms Inc. (организация признана экстремистской и запрещена в России).
