Agentes· atualizado em · 5 min de leitura· Redação Invision

ProvenanceGuard verifica se a fonte citada por agentes MCP é a correta

Novo método de verificação para agentes MCP checa se cada afirmação é sustentada pela fonte que a resposta cita, não apenas por algum trecho do contexto.

Resumo: Pesquisadores do Multiverse Computing apresentaram o ProvenanceGuard, uma camada de verificação pós-geração que checa se cada afirmação de um agente MCP é sustentada pela fonte específica que a resposta nomeia, e não apenas por algum trecho do conjunto de saídas das ferramentas. Isso importa agora porque agentes que combinam busca, bases de dados e registros estruturados podem atribuir um fato correto à fonte errada, e as métricas tradicionais de fidelidade não detectam esse erro.

Pontos-chave

  • ProvenanceGuard checa se cada afirmação é sustentada pela fonte que a resposta nomeia, não apenas por algum trecho do contexto.
  • No teste com especialistas, pegou 138 das 139 afirmações que não deveriam passar e acertou a fonte em cerca de 86% dos casos identificáveis.
  • Em teste de atribuição errada, detectou as 50 trocas de fonte nomeada com a evidência intacta.
  • O overhead reportado é de cerca de meio segundo por resposta na configuração local avaliada.
  • O NVIDIA NVFlow incorporou um estágio opcional de verificação de grounding baseado na abordagem.
Nesta matéria

Por que a verificação de fatos tradicional falha em agentes MCP#

Agentes que usam ferramentas via Model Context Protocol (MCP) não leem mais um único trecho recuperado. Eles podem chamar busca, consultar um registro estruturado, acessar um banco de dados e juntar tudo em uma resposta.

As métricas de fidelidade mais usadas, como RAGAS faithfulness e checkers como MiniCheck, AlignScore e SummaC, perguntam se uma afirmação é sustentada pelo conjunto de evidências agrupadas. Elas não dizem qual saída de ferramenta sustenta cada afirmação nem se é a fonte que a resposta cita.

O problema é o que o artigo chama de cross-source conflation: uma afirmação verdadeira em algum lugar da evidência, mas atribuída à fonte errada. Um verificador que não olha a fonte pode deixar passar, porque o fato existe no bolo todo.

Como funciona o ProvenanceGuard#

O ProvenanceGuard é uma camada de verificação pós-geração que roda sobre um agente MCP tratado como caixa-preta. Ele lê o trace capturado, incluindo as saídas das ferramentas e seus identificadores de fonte, sem retreinar o agente.

O método nunca condensa as evidências em um contexto anônimo: mantém a identidade da fonte ao longo de todo o processo. A cada afirmação da resposta, procura a fonte mais relevante, checa se ela sustenta o conteúdo, compara com a fonte nomeada ou implícita e emite um veredito por afirmação mais uma decisão global de liberar ou bloquear.

Valores literais também são checados de perto. Um número, data ou identificador ausente da fonte não passa só porque a frase soa plausível. Respostas bloqueadas podem entrar em um reparo no estilo RARR e ser verificadas de novo.

  • Decomposição da resposta em afirmações
  • Roteamento para a fonte mais relevante de cada afirmação
  • Checagem de suporte da fonte contra a afirmação
  • Comparação entre fonte de suporte e fonte citada
  • Decisão calibrada de liberar ou bloquear, com reparo opcional

Quais foram os resultados nos testes com agente médico#

Os experimentos usaram respostas de um agente médico que consultava registros de pacientes, artigos de pesquisa e outras ferramentas, somando 281 traces reais. Especialistas humanos avaliaram 361 afirmações de 40 respostas separadas do conjunto de desenvolvimento.

Os especialistas disseram que 139 afirmações não deveriam passar, e o ProvenanceGuard pegou 138 delas. Também reteve 67 afirmações consideradas sustentadas pelos especialistas, refletindo a configuração cautelosa avaliada, que prefere uma segunda olhada a deixar passar algo sem suporte.

Para afirmações com fonte identificável, ele escolheu a fonte correta em cerca de 86% dos casos neste teste. Em um teste mais difícil, com várias fontes parecidas, o F1 para decidir o que bloquear foi de 0,846, mas a identificação exata da fonte ficou em 50,3% das afirmações, apontada pelos autores como área a melhorar.

Em um teste controlado de atribuição errada, os pesquisadores trocaram a fonte nomeada em 50 casos mantendo a evidência intacta, e o ProvenanceGuard detectou todas as 50 trocas.

Quanto custa em latência e o que fazer com respostas bloqueadas#

Como porta offline, o overhead reportado é modesto na configuração local testada: cerca de meio segundo por resposta, com chamadas de NLI e roteamento na casa das dezenas de milissegundos.

Ligado ao laço de reparo no estilo RARR, uma execução com trace completo resolveu todas as 173 respostas bloqueadas, mas 144 terminaram em texto de fallback em vez de reescrita substantiva. Em traces reconstruídos de múltiplas fontes, uma nova execução de reparo resolveu as 59 respostas inicialmente bloqueadas, com apenas dois fallbacks terminais.

A configuração avaliada usou modelos locais: MiniLM para localizar a fonte relevante, um modelo NLI DeBERTa para checar suporte e um modelo de linguagem local para decompor as afirmações. Os autores deixam claro que esses modelos fazem parte do setup testado, não são requisito do método, e uma adaptação para modelos hospedados exigiria nova calibração e testes.

Quem já adota a verificação com fonte e para onde isso vai#

O NVIDIA NVFlow incorporou um estágio opcional de verificação de grounding para seu agente de finanças. Ele confere respostas concluídas contra trechos da SEC recuperados pelo agente e guarda decisões separadas sem alterar o rollout ou os dados de treino originais.

Segundo os autores, o NVFlow usa a abordagem de verificação com fonte do ProvenanceGuard, enquanto o laço de reparo pertence ao sistema de pesquisa mais amplo. O trabalho também foi apresentado como pôster no Agentic AI Summit 2026, na UC Berkeley.

Os autores destacam uma pergunta prática para equipes que montam agentes MCP: quando a avaliação diz que uma resposta está ancorada, isso significa sustentada por qualquer saída de ferramenta ou sustentada pela fonte que a resposta nomeou? Em ambientes com múltiplas ferramentas, é a segunda pergunta que captura a atribuição errada antes que um humano confie na citação.

O que isso muda para quem usa IA#

Para quem constrói agentes com várias ferramentas, o recado é separar duas metas de qualidade: existir algum trecho que sustente a afirmação e existir o trecho certo, atribuído à fonte que a resposta cita. Em domínios sensíveis, como dados de saúde e financeiros, uma atribuição errada pode ser tão danosa quanto um fato errado.

A adoção do método depende de o agente preservar o trace das ferramentas e os identificadores de fonte, o que vale incluir desde o desenho do pipeline de avaliação. Quem usa uma plataforma que dá acesso a vários modelos por uma chave só, como a Invision, ainda precisa calibrar e testar a camada de verificação no próprio contexto, sem esperar que o resultado do artigo se transfira automaticamente.

Vale notar que os autores não compararam diretamente o ProvenanceGuard com um juiz LLM mais barato rodando sobre o trace. Eles argumentam que um juiz generativo pode introduzir os mesmos erros que tenta capturar e apontam essa comparação como estudo futuro útil.

Perguntas frequentes

O que é cross-source conflation em agentes MCP?

É quando uma afirmação é verdadeira em alguma saída de ferramenta, mas a resposta a atribui a outra fonte. Um verificador que agrupa todas as evidências pode deixar esse erro passar, porque o fato existe no conjunto.

Como o ProvenanceGuard verifica a fonte de uma resposta?

Ele lê o trace do agente, divide a resposta em afirmações, localiza a fonte mais relevante para cada uma, checa se ela sustenta o conteúdo, compara com a fonte citada e emite um veredito por afirmação e uma decisão global de liberar ou bloquear.

Quais resultados o ProvenanceGuard obteve nos testes?

No teste com especialistas, de 139 afirmações que não deveriam passar, ele pegou 138. Também reteve 67 afirmações consideradas sustentadas, o que reflete a configuração cautelosa avaliada, além de acertar a fonte cerca de 86% das vezes quando ela era identificável.

Quanto de latência o ProvenanceGuard adiciona?

Na configuração local reportada, o overhead é de cerca de meio segundo por resposta como porta offline, com as chamadas de NLI e roteamento na casa das dezenas de milissegundos.

O ProvenanceGuard já é usado em produção por outra empresa?

O NVIDIA NVFlow incorporou um estágio opcional de verificação de grounding para seu agente de finanças, baseado na abordagem de verificação com fonte do ProvenanceGuard. O laço de reparo discutido no artigo pertence ao sistema de pesquisa mais amplo.

mcpverificação de fatosagentes llmprovenanceguardmultiverse computing

Fonte original: Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents (Hugging Face). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.