Agentes· atualizado em · 4 min de leitura· Redação Invision

Meta Muse faz sexting sem jailbreak e acende alerta sobre agentes de IA

Teste da WIRED mostra que o agente Muse, da Meta, gera conteúdo sexual explícito com pedidos simples, sem jailbreak. Entenda os riscos para quem usa agentes…

Pessoa segurando um smartphone com tela iluminada em ambiente escuro
Imagem ilustrativa: Jernej Furman from Slovenia · CC BY 2.0 · origem

Resumo: O agente Muse, da Meta, gerou conteúdo sexual explícito a pedido de um repórter da WIRED com prompts simples, sem qualquer técnica de jailbreak, e a Meta afirmou que não bloqueia o que chama de comportamento adulto legal. O caso importa porque milhões de pessoas usam o app e porque levanta dúvidas sobre segurança, privacidade e vício em agentes de IA que parecem inofensivos.

Pontos-chave

  • O agente Muse, da Meta, gerou conteúdo sexual explícito sem qualquer técnica de jailbreak, apenas com pedidos simples.
  • A Meta afirmou que o Muse é para maiores de 18 anos e que não bloqueará o que considera comportamento adulto legal.
  • O Grok Bot, da xAI, recusou o mesmo tipo de pedido e direcionou a conversa para tarefas.
  • Especialistas alertam para riscos de vício e de exposição a hackers e chantagem.
  • A Meta enfrenta contradição por derrubar páginas de criadores no Instagram sob alegação de conteúdo sexual.
Nesta matéria

O que aconteceu no teste com o Meta Muse?#

Um repórter da WIRED testou o agente Muse, da Meta, para verificar se ele produziria conteúdo sexual. A resposta veio rápido: bastou perguntar se o agente podia fazer sexting e pedir que ele começasse.

Segundo o relato, não houve jailbreak, prompt engenhoso ou rodada de tentativas. O conteúdo gerado foi explícito e impróprio para o trabalho, conforme descrito no podcast Uncanny Valley, da WIRED.

O Muse é o agente de IA da Meta distribuído em apps como o Instagram. Ele executa tarefas de produtividade, como gerenciar calendário e fazer reservas, mas o teste mostrou que também responde a pedidos sexuais.

A resposta da Meta e a contradição com o Instagram#

Procurada, a Meta não cedeu ao que o repórter esperava. A empresa disse que o Muse é um app para maiores de 18 anos e que as interações foram consensuais, afirmando que não bloqueará aquilo que chama de comportamento adulto legal.

O ponto que causou estranheza é a diferença de tratamento em relação a outras plataformas da própria Meta. A reportagem cita o caso de bares queer em São Francisco e em outras partes do mundo que tiveram páginas no Instagram derrubadas sob alegação de promoção de conteúdo sexual.

Para o repórter, é difícil conciliar regras rígidas para criadores humanos com a permissão para que o agente de IA produza material explícito.

Como o Muse se compara a outros agentes de IA?#

Depois da descoberta, o repórter testou prompts semelhantes em outros agentes populares. Dois deles foram citados: o Dots, da OpenAI, e o Grok Bot, da xAI.

O resultado foi diferente. O Grok Bot, conhecido por guardrails mais frouxos em texto e imagem, recusou o pedido e direcionou a conversa para tarefas.

Isso mostra que abertura para conteúdo adulto não é regra geral entre agentes de IA, mesmo entre produtos com menos restrições conhecidas.

Quais são os riscos de um agente que faz sexting?#

Especialistas ouvidos pela WIRED apontam dois grupos de preocupação. O primeiro é o vício: o Muse é vendido como ferramenta de produtividade, mas o conteúdo adulto pode tornar a interação muito envolvente e substituir conexões reais.

O segundo é a segurança. Especialistas em privacidade alertam que contas com esse tipo de interação podem virar alvo fácil para hackers, já que o material íntimo pode ser usado para extorsão ou exposição pública.

Há ainda a questão da aparência. O mascote do Muse é descrito como fofo e acolhedor, algo que defensores de jovens já consideravam atraente demais para crianças mesmo antes do caso.

  • Risco de uso compulsivo em um app que se apresenta como produtividade
  • Exposição a chantagem e vazamento de conteúdo íntimo
  • Contraste entre a mascote amigável e o conteúdo adulto

Por que a notícia é relevante agora?#

O Muse está entre os apps de IA mais baixados, e a Meta incentiva seu uso dentro do Instagram para milhões de pessoas. Ou seja, o comportamento relatado não está restrito a um nicho de entusiastas.

O episódio ocorre enquanto o debate sobre guardrails de agentes de IA se intensifica. A pergunta deixa de ser apenas se um modelo erra, mas o que ele faz quando o usuário pede algo que a empresa não considera proibido.

A reportagem também menciona outros temas discutidos no mesmo episódio do podcast: o financiamento de Super PACs pró-IA por meio de empresas de fachada em Nevada e um estudo de Harvard sobre homens superestimarem o próprio conhecimento em IA. Esses pontos estão fora do escopo desta matéria.

O que muda para quem desenvolve com IA?#

Para quem constrói produtos com agentes, o caso lembra que guardrails não podem ser tratados como detalhe de última hora. Um agente precisa ter política clara sobre conteúdo adulto, mesmo quando a proposta principal é produtividade.

Também vale separar o que é barreira técnica do que é decisão de produto. O Muse não precisou de jailbreak; ele respondeu ao pedido porque a empresa decidiu não bloquear. Isso mostra que muitas vezes a vulnerabilidade está na política, não no modelo.

Ferramentas como a Invision, da Dream Vision, oferecem acesso a vários modelos de IA por uma chave só. Para quem precisa testar comportamentos diferentes entre modelos, a comparação fica mais simples, embora a responsabilidade sobre políticas de uso continue sendo de quem desenvolve.

  • Defina política de conteúdo adulto antes de lançar o agente
  • Teste prompts sensíveis como parte do processo de QA
  • Trate a decisão de bloquear como escolha de produto, não só técnica

Perguntas frequentes

O Meta Muse faz sexting?

Sim. Um teste da WIRED mostrou que o agente gerou conteúdo sexual explícito após um pedido simples, sem uso de jailbreak. A Meta disse que o app é para maiores de 18 anos e que não bloqueia comportamento adulto legal.

Foi preciso usar jailbreak para o Muse gerar conteúdo adulto?

Não. O repórter apenas perguntou se o agente podia fazer sexting e pediu que ele começasse. Não houve manipulação de prompts nem técnicas de contorno.

Como outros agentes reagiram ao mesmo pedido?

O Grok Bot, da xAI, recusou e tentou redirecionar a conversa para tarefas. O teste não informa o resultado do Dots, da OpenAI, para o mesmo tipo de pedido.

Quais são os riscos de um agente de IA que faz sexting?

Especialistas citam risco de uso compulsivo, já que o app é vendido como ferramenta de produtividade, e risco de segurança, porque conteúdo íntimo pode ser usado para extorsão ou vazamento.

O Muse é indicado para menores de idade?

A Meta afirma que o Muse é um app para maiores de 18 anos. Ainda assim, o visual do mascote é descrito como fofo e acolhedor, o que já preocupava defensores de jovens antes mesmo do caso.

metamuseagentes de iasegurançaconteúdo adulto

Fonte original: We Got Hot and Heavy With Meta’s Muse—and Baffled by Apple’s HomeView (Wired). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.