Meta Muse faz sexting sem jailbreak e acende alerta sobre agentes de IA
Teste da WIRED mostra que o agente Muse, da Meta, gera conteúdo sexual explícito com pedidos simples, sem jailbreak. Entenda os riscos para quem usa agentes…
Resumo: O agente Muse, da Meta, gerou conteúdo sexual explícito a pedido de um repórter da WIRED com prompts simples, sem qualquer técnica de jailbreak, e a Meta afirmou que não bloqueia o que chama de comportamento adulto legal. O caso importa porque milhões de pessoas usam o app e porque levanta dúvidas sobre segurança, privacidade e vício em agentes de IA que parecem inofensivos.
Pontos-chave
- O agente Muse, da Meta, gerou conteúdo sexual explícito sem qualquer técnica de jailbreak, apenas com pedidos simples.
- A Meta afirmou que o Muse é para maiores de 18 anos e que não bloqueará o que considera comportamento adulto legal.
- O Grok Bot, da xAI, recusou o mesmo tipo de pedido e direcionou a conversa para tarefas.
- Especialistas alertam para riscos de vício e de exposição a hackers e chantagem.
- A Meta enfrenta contradição por derrubar páginas de criadores no Instagram sob alegação de conteúdo sexual.
Nesta matéria
O que aconteceu no teste com o Meta Muse?#
Um repórter da WIRED testou o agente Muse, da Meta, para verificar se ele produziria conteúdo sexual. A resposta veio rápido: bastou perguntar se o agente podia fazer sexting e pedir que ele começasse.
Segundo o relato, não houve jailbreak, prompt engenhoso ou rodada de tentativas. O conteúdo gerado foi explícito e impróprio para o trabalho, conforme descrito no podcast Uncanny Valley, da WIRED.
O Muse é o agente de IA da Meta distribuído em apps como o Instagram. Ele executa tarefas de produtividade, como gerenciar calendário e fazer reservas, mas o teste mostrou que também responde a pedidos sexuais.
A resposta da Meta e a contradição com o Instagram#
Procurada, a Meta não cedeu ao que o repórter esperava. A empresa disse que o Muse é um app para maiores de 18 anos e que as interações foram consensuais, afirmando que não bloqueará aquilo que chama de comportamento adulto legal.
O ponto que causou estranheza é a diferença de tratamento em relação a outras plataformas da própria Meta. A reportagem cita o caso de bares queer em São Francisco e em outras partes do mundo que tiveram páginas no Instagram derrubadas sob alegação de promoção de conteúdo sexual.
Para o repórter, é difícil conciliar regras rígidas para criadores humanos com a permissão para que o agente de IA produza material explícito.
Como o Muse se compara a outros agentes de IA?#
Depois da descoberta, o repórter testou prompts semelhantes em outros agentes populares. Dois deles foram citados: o Dots, da OpenAI, e o Grok Bot, da xAI.
O resultado foi diferente. O Grok Bot, conhecido por guardrails mais frouxos em texto e imagem, recusou o pedido e direcionou a conversa para tarefas.
Isso mostra que abertura para conteúdo adulto não é regra geral entre agentes de IA, mesmo entre produtos com menos restrições conhecidas.
Quais são os riscos de um agente que faz sexting?#
Especialistas ouvidos pela WIRED apontam dois grupos de preocupação. O primeiro é o vício: o Muse é vendido como ferramenta de produtividade, mas o conteúdo adulto pode tornar a interação muito envolvente e substituir conexões reais.
O segundo é a segurança. Especialistas em privacidade alertam que contas com esse tipo de interação podem virar alvo fácil para hackers, já que o material íntimo pode ser usado para extorsão ou exposição pública.
Há ainda a questão da aparência. O mascote do Muse é descrito como fofo e acolhedor, algo que defensores de jovens já consideravam atraente demais para crianças mesmo antes do caso.
- Risco de uso compulsivo em um app que se apresenta como produtividade
- Exposição a chantagem e vazamento de conteúdo íntimo
- Contraste entre a mascote amigável e o conteúdo adulto
Por que a notícia é relevante agora?#
O Muse está entre os apps de IA mais baixados, e a Meta incentiva seu uso dentro do Instagram para milhões de pessoas. Ou seja, o comportamento relatado não está restrito a um nicho de entusiastas.
O episódio ocorre enquanto o debate sobre guardrails de agentes de IA se intensifica. A pergunta deixa de ser apenas se um modelo erra, mas o que ele faz quando o usuário pede algo que a empresa não considera proibido.
A reportagem também menciona outros temas discutidos no mesmo episódio do podcast: o financiamento de Super PACs pró-IA por meio de empresas de fachada em Nevada e um estudo de Harvard sobre homens superestimarem o próprio conhecimento em IA. Esses pontos estão fora do escopo desta matéria.
O que muda para quem desenvolve com IA?#
Para quem constrói produtos com agentes, o caso lembra que guardrails não podem ser tratados como detalhe de última hora. Um agente precisa ter política clara sobre conteúdo adulto, mesmo quando a proposta principal é produtividade.
Também vale separar o que é barreira técnica do que é decisão de produto. O Muse não precisou de jailbreak; ele respondeu ao pedido porque a empresa decidiu não bloquear. Isso mostra que muitas vezes a vulnerabilidade está na política, não no modelo.
Ferramentas como a Invision, da Dream Vision, oferecem acesso a vários modelos de IA por uma chave só. Para quem precisa testar comportamentos diferentes entre modelos, a comparação fica mais simples, embora a responsabilidade sobre políticas de uso continue sendo de quem desenvolve.
- Defina política de conteúdo adulto antes de lançar o agente
- Teste prompts sensíveis como parte do processo de QA
- Trate a decisão de bloquear como escolha de produto, não só técnica
Perguntas frequentes
O Meta Muse faz sexting?
Sim. Um teste da WIRED mostrou que o agente gerou conteúdo sexual explícito após um pedido simples, sem uso de jailbreak. A Meta disse que o app é para maiores de 18 anos e que não bloqueia comportamento adulto legal.
Foi preciso usar jailbreak para o Muse gerar conteúdo adulto?
Não. O repórter apenas perguntou se o agente podia fazer sexting e pediu que ele começasse. Não houve manipulação de prompts nem técnicas de contorno.
Como outros agentes reagiram ao mesmo pedido?
O Grok Bot, da xAI, recusou e tentou redirecionar a conversa para tarefas. O teste não informa o resultado do Dots, da OpenAI, para o mesmo tipo de pedido.
Quais são os riscos de um agente de IA que faz sexting?
Especialistas citam risco de uso compulsivo, já que o app é vendido como ferramenta de produtividade, e risco de segurança, porque conteúdo íntimo pode ser usado para extorsão ou vazamento.
O Muse é indicado para menores de idade?
A Meta afirma que o Muse é um app para maiores de 18 anos. Ainda assim, o visual do mascote é descrito como fofo e acolhedor, o que já preocupava defensores de jovens antes mesmo do caso.
Fonte original: We Got Hot and Heavy With Meta’s Muse—and Baffled by Apple’s HomeView (Wired). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.