Pesquisa· atualizado em · 4 min de leitura· Redação Invision

Privacidade em agentes de IA: Google Research propõe política contextual

Relatório do Google Research propõe usar Integridade Contextual para definir o que agentes de IA podem compartilhar e executar, com política contextual e…

Corredor de data center com servidores iluminados e cabos de rede organizados.
Imagem ilustrativa: Les Hutchins from Berkeley, California · CC BY 2.0 · origem

Resumo: O Google Research publicou um relatório de workshop sobre privacidade e segurança em agentes de IA, propondo a teoria da Integridade Contextual como base para decidir quando uma ação ou fluxo de dados é apropriado. A discussão importa agora porque agentes autônomos já executam tarefas de várias etapas com acesso a dados pessoais e ferramentas externas, e os controles tradicionais de permissão não escalam para esse cenário.

Pontos-chave

  • O Google Research publicou um relatório de workshop sobre privacidade e segurança em agentes autônomos de IA.
  • A proposta usa a teoria da Integridade Contextual para avaliar se fluxos de dados e ações são apropriados ao contexto.
  • O documento defende um motor de políticas contextuais em camada supervisora, com geração dinâmica de políticas em tempo real.
  • O relatório pede benchmarks padronizados e ambientes "Agent Gym" para simular interações multiagente.
  • Mais de 50 pesquisadores e líderes de academia e indústria participaram do workshop que originou o documento.
Nesta matéria

O que o relatório do Google Research propõe?#

O documento "Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle" reúne contribuições de mais de 50 pesquisadores e líderes de academia e indústria que participaram do Google Contextual Agent Privacy and Security (CAPS) Workshop, realizado no fim de 2025 em Nova York.

A proposta central é que agentes úteis precisam acessar dados pessoais e executar ações com consequências em muitos contextos. Por isso, a segurança e a privacidade desses sistemas exigem defesas coordenadas nos níveis de sistema, modelo, usuário e ecossistema, e não apenas permissões pontuais.

O relatório é relevante agora porque a computação caminha para agentes cada vez mais gerais e autônomos, baseados em LLMs que geram planos e chamam ferramentas externas.

Por que agentes de IA não podem seguir o modelo de permissões tradicional?#

Segundo o relatório, agentes diferem de software determinístico em três dimensões críticas que criam desafios para a comunidade de pesquisa. Essas diferenças tornam insuficientes abordagens manuais de permissão ou políticas escritas por especialistas.

O texto afirma que métodos tradicionais não escalam para um futuro em que agentes autônomos realizam múltiplas tarefas complexas e de longa duração. A flexibilidade comportamental do agente, combinada ao acesso a dados, pede uma nova camada de avaliação.

A notícia cita o exemplo de organizar uma viagem para uma conferência: proteger os dados do usuário nesse cenário exige instruções específicas sobre o que é apropriado compartilhar ao reservar voos, pedir vistos e falar com organizadores.

Como a Integridade Contextual ajuda a definir o que é apropriado?#

O relatório se apoia na teoria da Integridade Contextual (CI, na sigla em inglês), que define privacidade não como sigilo ou controle, mas como fluxo apropriado de informação conforme normas sociais justificáveis.

Uma norma informacional específica de contexto é descrita por atores (quem envia e recebe informação sobre quem), tipos de informação (como registros médicos ou financeiros) e princípios de transmissão (regras como confidencialidade ou reciprocidade). O texto cita o exemplo de compartilhar uma lista de presentes com um assistente de compras, mas não com familiares e amigos.

O relatório estende a CI para o que chama de segurança contextual, avaliando a adequação das ações do agente, não apenas o compartilhamento de informações.

  • Atores: quem envia e quem recebe a informação.
  • Tipos de informação: categorias como dados médicos ou financeiros.
  • Princípios de transmissão: regras como confidencialidade e reciprocidade.

O que é um motor de políticas contextuais?#

O documento argumenta que LLMs abrem a possibilidade de criar políticas legíveis por máquina que dependem de contexto, algo que a teoria da Integridade Contextual não conseguia operacionalizar antes. Historicamente, havia uma lacuna semântica entre normas contextuais de alto nível e permissões de sistema de baixo nível.

Para fechar essa lacuna, o relatório propõe um motor de políticas contextuais que funcione como parte de uma camada supervisora, monitorando e aplicando a adequação das ações. Esse motor inclui um ciclo de geração dinâmica de políticas em tempo real, capaz de adaptar regras ao pedido do usuário e a contextos abertos, incluindo ferramentas descobertas durante a execução.

Assim, o sistema avaliaria se um fluxo de dados solicitado é apropriado antes que qualquer informação saia do espaço de trabalho do usuário.

Quais avanços são necessários em modelo, usuário e ecossistema?#

O relatório descreve uma abordagem em várias camadas. No nível do modelo, defende que os agentes sejam capazes de raciocinar sobre normas sociais e sobre a adequação de suas ações no contexto em que atuam.

No nível do usuário, a proposta é complementar os avanços de interação com mecanismos que expressem expectativas de privacidade e segurança de forma utilizável pelos sistemas.

No ecossistema, o documento propõe avaliações de segurança mais adequadas a sistemas multiagente altamente autônomos, incluindo benchmarks padronizados. A ideia é criar ambientes dinâmicos do tipo "Agent Gym", sandboxes de código aberto para simular interações complexas e em cascata por períodos prolongados.

  • Modelo: raciocinar sobre contexto e adequação das ações.
  • Usuário: interação que expresse expectativas de privacidade.
  • Ecossistema: benchmarks e sandboxes multiagente padronizados.

O que isso muda para quem usa IA#

Para quem desenvolve com agentes, o relatório indica que a camada de supervisão e a política contextual tendem a se tornar parte da arquitetura, e não um detalhe posterior. Quem constrói fluxos com acesso a dados pessoais e ferramentas externas precisa pensar em como representar atores, tipos de informação e regras de transmissão.

A Invision, API multimodelo da Dream Vision, permite acessar vários modelos de IA com uma única chave e saldo em reais. Isso pode simplificar a experimentação com diferentes modelos ao desenhar camadas de avaliação contextual, sem que a escolha do modelo fique presa a um único fornecedor.

O relatório não informa prazos, produtos comerciais ou preços. Ele se apresenta como uma chamada à ação para a comunidade de pesquisa, com colaboração entre academia, governo, sociedade civil e indústria.

Perguntas frequentes

O que é o relatório do Google Research sobre privacidade em agentes?

É um documento do Google Research sobre problemas abertos de privacidade e segurança em agentes de IA, baseado no workshop CAPS realizado no fim de 2025 em Nova York com mais de 50 participantes de academia e indústria.

O que é Integridade Contextual na proposta do relatório?

É uma teoria que define privacidade como fluxo apropriado de informação segundo normas sociais, considerando atores, tipos de informação e princípios de transmissão. O relatório a estende para avaliar também a adequação das ações dos agentes.

O que é um motor de políticas contextuais para agentes de IA?

É uma camada supervisora proposta pelo relatório que gera e aplica políticas em tempo real, avaliando se um fluxo de dados ou uma ação é apropriado antes de ser executado.

O que são os ambientes "Agent Gym" citados no relatório?

São sandboxes de código aberto propostos para simular interações complexas e em cascata entre agentes por longos períodos, criando uma base compartilhada de avaliação de privacidade, segurança e proteção.

O relatório traz prazos ou produtos comerciais?

Não. O documento é uma chamada à ação para a comunidade de pesquisa e não informa prazos, lançamentos comerciais ou preços.

agentes de iaprivacidadesegurançagoogle researchpolíticas de ia

Fonte original: Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle (Google Research). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.