Индустрия массово внедряет ИИ-помощников в софт и «железо», и компания Google не исключение. Ее Gemini позволяет упрощать работу с документами и много чем еще, но, как оказалось, разбираться в том, какие документы являются приватными, а какие нет ИИ вообще не намеревается. Вот, например, Кевин Бэнкстон зашел в свои документы и обнаружил, что Gemini провел суммаризацию его налоговых документов, которые должны быть защищены от наблюдения со стороны Google.
Поддержка Google не смогла ответить пользователю на вопросы о том, почему это происходит, но теория такова, что Gemini заглядывает вообще во все файлы в Google Docs, которые этот ИИ способен открыть. Настройки приватности должны быть видны Gemini, но они же приватны и не видны, а потому ИИ-помощник ловит галлюцинации и спокойно заходит в эти документы.
Позже пользователь нашел нужные настройки для видимости настроек приватности, но обнаружил кое-что более забавное. Суммаризация для почты, документов и облака вообще была отключена, но это никак не спасло все файлы от прочтения ИИ от Google.
Источник: goha.ru