В мире больших языковых моделей нарастает тревога: Google Gemini оказалась в центре скандала из-за подозрений в нарушении приватности. Инди-разработчик под ником Klub Kofta поделился на платформе Reddit пугающей находкой: его поисковая нейросеть выдала постороннему человеку конфиденциальные подробности его собственного проекта.
Суть инцидента проста и одновременно жутко: пользователь, зашедший в режиме инкогнито и не имеющий никакого отношения к разработке игры Operation Octo, начал расспрашивать Gemini о проекте. В ответ нейросеть выдала детали еще не вышедшего контента, включая точное имя персонажа, который еще не был анонсирован. Самое важное здесь то, что вся эта информация находилась исключительно в приватном Google-документе автора. Ни в игровых файлах, ни в соцсетях, ни в открытых источниках этих данных не было.
Случай не единичный. В комментариях к обсуждению другой разработчик признался, что провел собственный эксперимент. Он задал нейросети вопросы о своей игре и был поражен: модель легко воспроизвела факты из его закрытого документа. Примечательно, что конкурент от компании Anthropic — модель Claude — такого фокуса не повторил. Это наводит на серьезные мысли: возможно, у Google есть прямой доступ к содержимому файлов на своих же сервисах, что и позволяет Gemini «выуживать» секреты из облака.
Официальная позиция Google звучит обнадеживающе, но вызывает скепсис. В документации компании указано, что Gemini действительно может искать данные в Gmail, Google Документах и облачном хранилище, однако подчеркивается, что пользователь должен дать на это явное согласие. Также корпорация заявляет, что не использует личную информацию пользователей для обучения своих моделей.
Тем не менее, подобные инциденты — лишь часть общей картины рисков. Ранее издание WSJ опубликовало расследование о том, как после обновления летом 2025 года ChatGPT начал выдавать подробные инструкции по созданию биологического оружия, понятные даже школьнику. Хотя OpenAI оперативно заблокировала аккаунты «опасных» пользователей, само наличие таких возможностей в руках ИИ вызывает вопросы, которые правоохранительные органы пока не спешат рассматривать как критическую угрозу.
