À medida que os dispositivos móveis se tornam um campo de batalha de privacidade de IA, com Google, Samsung e Apple disputando sua atenção, os riscos estão subitamente se tornando mais claros…
Você está pronto para compartilhar mensagens privadas com seu geminiano?
Gemini foi anunciado pela primeira vez como uma adição semelhante ao Copilot ao Workspace Labs, depois como uma adição paga do Google One ao próprio Workspace, mas agora foi movido para o Gmail no Android e é usado por milhões de pessoas. Parece ter se tornado popular entre os usuários. Eles também têm como alvo os usuários móveis, por isso funcionam de maneira diferente e acarretam riscos significativamente diferentes.
AssembleDebug cobriu a versão beta de desenvolvimento do Gmail e escreveu: “Descobrimos que o Google está preparando sugestões de resposta baseadas em Gemini AI para Gmail no Android… É bom ver que eles estão aumentando a funcionalidade”. e executando e trabalhando no back-end, e se não houver problemas ao longo do caminho, estaremos lançando-o para os usuários nas próximas semanas. A expansão está programada para começar. ”
Os testadores beta de desktop e assinantes premium estão entusiasmados com a oferta da Gemini de “resumir tópicos de e-mail e sugerir respostas a tópicos de e-mail”. [and] Encontre informações de e-mails anteriores [and] Arquivos do Google Drive. ” O principal objetivo do desktop é filtrar informações e auxiliar na redação de e-mails.
Os aplicativos Android usam o Gemini de maneira diferente. Cada e-mail tem três respostas sugeridas com vários níveis de sofisticação que você pode selecionar, tocar e enviar sob demanda. E o apelo da IA generativa continua a crescer.
Capturas de tela do Android compartilhadas via PiunikaWeb, Representa uma melhoria em relação à resposta automática muito simples com a qual todos nos acostumamos nos últimos anos. Essas respostas sugeridas significam que Gêmeos leu seu e-mail, mesmo que você ainda não o tenha lido.
As versões para desktop dos serviços Google Workspace e Microsoft Office AI têm considerações substanciais de privacidade e segurança. Solicitações e dados do usuário enviados para a nuvem, armazenamento potencial e revisão humana, uso como dados de treinamento e risco de violação de dados.
Os usuários do Workspace Labs são informados de que “o Google usa dados e métricas do Workspace Labs para fornecer, melhorar e desenvolver produtos, serviços e tecnologia de aprendizado de máquina em todo o Google. Os dados do Workspace Labs podem ser lidos por: , podem ser classificados, anotados e revisados por revisores humanos. ” Portanto, os usuários são instruídos a “não incluir informações pessoais, confidenciais ou sensíveis nos prompts”.
O Google enfatizou para mim que o programa Workspace Labs é uma opção para pessoas que desejam ajudar a experimentar e desenvolver novas ferramentas. Eles me disseram que “apenas uma pequena parte de nossos usuários está participando” e que os usuários receberão um “aviso claro” antes que o Google use seus dados para melhorar seus serviços e modelos.” foi concedida e a permissão foi solicitada.
Gemini responde no aplicativo Gmail para Android
Mas os dispositivos móveis serão o verdadeiro campo de batalha de privacidade e segurança para a IA.
Para usuários do Android, analisar mensagens de e-mail privadas para criar respostas e contexto é semelhante à possibilidade do Gemini no Google Mensagens fazer o mesmo. Este tipo de IA generativa está no centro do novo debate sobre a “IA híbrida”. Quais análises devem ser restritas ao seu dispositivo local e quais devem ser enviadas para a nuvem para análise ou armazenamento e revisão mais poderosos.
Os detalhes de privacidade específicos para este possível lançamento do Android ainda não estão disponíveis, então você pode ver o que outros aplicativos Gemini fazem para obter orientação.
O Google alerta os usuários assinantes do Workspace que “você pode usar seu Workspace para treinar ou melhorar, sem sua permissão, a IA generativa subjacente e os modelos de linguagem em larga escala que alimentam o Gemini, o Search e outros sistemas externos ao Workspace. Não usaremos seu dados.”
Mas nas Mensagens do Google do Gemini, os usuários são informados: “O Google coleta conversas no aplicativo Gemini, informações relacionadas ao uso do produto, informações de localização e feedback… Revisores humanos leem e anotam textos para ajudar a melhorar e melhorar a qualidade de nossos produtos.
Esses usuários são aconselhados a não “inserir informações confidenciais em conversas ou inserir dados que você não deseja que os revisores vejam ou que você não deseja que o Google use para melhorar seus produtos, serviços e tecnologia de aprendizado de máquina”. Faça isso (em negrito).
Embora estes sejam aplicativos claramente diferentes do Gemini, como Gmail, Google Mensagens, os próprios aplicativos do Gemini e o serviço mais amplo do Workspace, os usuários estão tentando entender as implicações de privacidade do uso de IA generativa. Para isso, precisamos simplificar isso. É difícil conciliar diferentes políticas de privacidade. Meu conselho é diferenciar entre dentro e fora do dispositivo e ter um conjunto adicional de proteções se o Google tiver revisão humana e elementos de treinamento de modelo em vigor.
Por outro lado, o conselho básico ao enviar avisos para IA baseada em nuvem é seguir as orientações do Google e evitar qualquer informação confidencial. Quanto à IA do Gmail e aplicativos similares, aguardam-se detalhes caso os dados tenham vazado dos smartphones dos usuários, já que as informações são de natureza sensível.
O Google sempre fez questão de enfatizar o consentimento do usuário quando se trata de IA, incluindo a adição do Gemini aos seus aplicativos, me dizendo anteriormente: [Gemini] O Google defende os seguintes princípios básicos em nossos produtos e serviços: [Gemini] Sempre peça aos usuários seu consentimento explícito e aviso sobre o uso de dados antes de acessar seus dados pessoais pela primeira vez. ”
Estamos aguardando detalhes sobre o escopo do lançamento do Gmail da Gemini no Android e as considerações associadas de privacidade e segurança para seus milhões de usuários. Agora adicionamos mais tempero com a notícia de que o Gemini também pode chegar ao iPhone. É improvável, mas quase certo, que o Google analise suas mensagens no aplicativo Mail da Apple ou na plataforma iMessages (Gmail no iOS).
Esta atualização do Gmail é um pré-lançamento, portanto há incertezas quanto ao tempo, funcionalidade e disponibilidade. Dito isso, a versão beta da mensagem que relatei foi lançada logo em seguida.
O Google não fará mais comentários nesta fase, pois se trata de um pré-lançamento, mas enfatizou seu compromisso com a privacidade. Isso é bem-vindo, mas com tais aplicativos e serviços, é responsabilidade do usuário compreender os riscos e usar o que está disponível com isso em mente. Quando se trata de IA generativa, é importante ler a política de privacidade relevante, se disponível.
