Negócios· atualizado em · 5 min de leitura· Redação Invision

Grok sob investigação: SpaceX é cobrada por segurança de IA no Conselho de Nova York

Conselho de Nova York interroga SpaceX sobre segurança do Grok, imagens sexualizadas sem consentimento e proteção de dados de saúde. Entenda o caso.

Vista de uma sala de audiência pública com cadeiras e mesa de autoridades
Imagem ilustrativa: John H. White · Public domain · origem

Resumo: Uma representante da SpaceX foi interrogada pelo Conselho de Nova York sobre falhas de segurança do Grok, incluindo a geração de imagens sexualizadas de mulheres reais sem consentimento. O caso importa agora porque a investigação municipal pode virar base para novas regras de IA, afetando diretamente quem desenvolve e opera modelos generativos.

Pontos-chave

  • Conselho de Nova York interrogou a SpaceX sobre salvaguardas do Grok em audiência por vídeo
  • Presidente do Conselho disse ter encontrado uma imagem sexualizada de si mesma gerada pela ferramenta
  • Ex-funcionário afirmou que preocupações de segurança levantadas em janeiro de 2025 foram descartadas pela chefia
  • A SpaceX só aceitou depor após o conselho ameaçar executar judicialmente a intimação
  • Investigações como essa podem orientar novas regras de IA que afetam desenvolvedores e empresas
Nesta matéria

O que aconteceu na audiência do Conselho de Nova York?#

Gabriela Castillo Madrid, responsável por política de inteligência artificial da SpaceX, prestou depoimento por vídeo ao comitê de tecnologia do Conselho de Nova York na sexta-feira. A sessão faz parte de uma investigação do conselho sobre segurança em IA.

A presidente do Conselho, Julie Menin, contestou a afirmação de que a empresa mantém "salvaguardas" adequadas. Menin relatou que ela e sua equipe inseriram o próprio nome no Grok e encontraram, em segundos, uma imagem sexualizada dela.

Castillo Madrid disse que a empresa tem "controles rígidos" e que a equipe de segurança analisaria o caso específico. A vereadora Carmen De La Rosa, que lidera o comitê de tecnologia, classificou como "nojento" que o Grok permita sexualizar imagens de mulheres reais sem consentimento.

  • Depoimento ocorreu por vídeo, sob questionamento de Julie Menin e Carmen De La Rosa
  • Menin afirmou ter encontrado imagem sexualizada de si mesma gerada pelo Grok
  • SpaceX diz que vai apurar o caso e afirma manter controles rígidos

Por que a SpaceX foi chamada só depois de uma intimação?#

Segundo a notícia, a SpaceX inicialmente evitou os pedidos e uma intimação do conselho municipal para comparecer ao lado de OpenAI, Anthropic, Google e Meta em 5 de outubro. A empresa concordou em testemunhar nesta semana após o conselho ameaçar levar a intimação à Justiça.

O conselho abriu a investigação após um mês de debate intenso sobre os riscos de modelos avançados de IA. A intenção é usar os depoimentos e as informações obtidas para orientar novas regulamentações.

  • Comparecimento inicial estava previsto para 5 de outubro, ao lado de OpenAI, Anthropic, Google e Meta
  • SpaceX só aceitou depor após ameaça de execução judicial da intimação
  • Objetivo do conselho é usar o material para embasar futuras regras de IA

Quais são as alegações do ex-funcionário sobre o Grok?#

Devin Kim, apresentado como ex-funcionário da SpaceX, depôs por vídeo ao lado de seu advogado, após o questionamento a Castillo Madrid. Ele disse ter sido um dos primeiros funcionários da xAI e afirmou ter construído os sistemas usados por pesquisadores para treinar e avaliar o Grok.

Kim relatou que começou a levantar preocupações em janeiro de 2025 e que elas foram rejeitadas por seu supervisor. Segundo ele, o supervisor respondeu que a segurança em IA era inútil. Ele também afirmou que, na época, apenas três funcionários trabalhavam com segurança de IA e que muitos deixaram a empresa após sua saída.

Procurada pelo conselho, Castillo Madrid disse não ter conhecimento de casos específicos de demissões de denunciantes e afirmou que a empresa mantém uma cultura em que todos podem se manifestar. Kim é hoje presidente do Center for AI Safety, organização sem fins lucrativos voltada a riscos de IA.

  • Kim afirma ter construído sistemas de treinamento e avaliação do Grok
  • Ele diz que preocupações levantadas em janeiro de 2025 foram descartadas pela chefia
  • Castillo Madrid declarou não ter conhecimento dos casos citados

O que o Conselho perguntou sobre imagens e dados de saúde?#

Além das imagens sexualizadas, os vereadores questionaram outros usos do Grok. Mercedes Narcisse perguntou por que a empresa incentivava usuários a enviar radiografias ao modelo e se proteções previstas na HIPAA se aplicavam.

Castillo Madrid respondeu que o Grok "não é feito para ser um clínico ou médico" e disse que os usuários decidem se suas conversas podem ser usadas para treinar os modelos. Narcisse rebateu que é perigoso orientar pessoas no X a enviar exames de imagem e esperar respostas definitivas sobre saúde.

  • Vereadora questionou incentivo ao envio de radiografias e exames de imagem ao Grok
  • SpaceX afirmou que o Grok não substitui um profissional de saúde
  • Empresa disse que o usuário controla o uso das conversas para treinamento

O que o caso da parlamentar britânica revela sobre o alcance do problema?#

Na audiência anterior, da qual a SpaceX se ausentou, a parlamentar britânica Jess Asato testemunhou sobre assédio online viabilizado por IA. Segundo a notícia, ela processa a xAI no Reino Unido após usuários do Grok criarem e distribuírem imagens sexualizadas dela sem consentimento.

Asato busca indenização, alegando uso indevido de informações privadas e violação de regras europeias de proteção de dados. A parlamentar criticou a postura da SpaceX ao não comparecer na semana anterior. A empresa não respondeu a pedido de comentário antes da audiência.

  • Parlamentar britânica processa a xAI no Reino Unido por imagens sexualizadas sem consentimento
  • Ação alega uso indevido de informações privadas e violação de regras de proteção de dados
  • SpaceX não respondeu ao pedido de comentário antes da sessão

Qual é o contexto corporativo por trás da audiência?#

Em fevereiro, Elon Musk uniu a SpaceX à xAI, combinando o negócio de IA e redes sociais com a empresa de lançamento de foguetes, que também controla a internet via satélite Starlink. Com a fusão, a SpaceX passou a controlar o Grok, usado por algumas agências federais, incluindo o Pentágono.

A empresa abriu capital em junho e está avaliada em cerca de US$ 2 trilhões. Em agosto, concluiu a aquisição da startup de programação com IA Cursor por US$ 60 bilhões. Antes de assumir relações governamentais na SpaceX neste ano, Castillo Madrid trabalhou no X e, antes disso, passou quase três anos no Departamento de Comércio dos Estados Unidos.

  • Fusão com a xAI colocou o Grok sob controle da SpaceX
  • Modelo é usado por agências federais dos EUA, incluindo o Pentágono
  • SpaceX abriu capital em junho e concluiu a compra da Cursor em agosto

O que isso muda para quem usa IA#

A audiência mostra que conselhos municipais e legisladores estão dispostos a cobrar fornecedores de modelos por falhas concretas, não apenas por promessas de segurança. Para equipes de produto, isso significa documentar controles, limites de uso e fluxos de denúncia antes que o tema vire exigência regulatória.

Também reforça a importância de escolher com cuidado quais modelos usam imagens de pessoas e dados de saúde. A Invision oferece acesso a vários modelos de IA por uma única chave, o que ajuda a comparar comportamentos e trocar de modelo sem refazer a integração. Não há promessa de preço nem de resultado: a decisão sobre qual modelo usar deve considerar as políticas e os riscos de cada caso.

  • Documente salvaguardas e canais de denúncia para usos sensíveis, como imagens de pessoas e dados de saúde
  • Teste os modelos com casos reais antes de liberar recursos de geração de imagem
  • Manter a possibilidade de trocar de modelo reduz dependência de um único fornecedor

Perguntas frequentes

O que aconteceu na audiência do Conselho de Nova York sobre o Grok?

A representante da SpaceX, Gabriela Castillo Madrid, foi questionada por vereadores sobre supostas falhas de segurança do Grok. Uma das vereadoras afirmou ter encontrado uma imagem sexualizada de si mesma gerada pela ferramenta.

Quem é Devin Kim e o que ele disse no depoimento?

Devin Kim se apresentou como ex-funcionário da SpaceX que trabalhou no treinamento e na avaliação do Grok. Ele disse que levantou preocupações de segurança em janeiro de 2025 e que elas foram descartadas pela chefia.

Por que a SpaceX foi chamada pelo Conselho de Nova York?

O conselho investiga riscos de segurança em IA e quer usar os depoimentos para orientar novas regras. A SpaceX inicialmente não compareceu e só aceitou depor após ameaça de execução judicial da intimação.

O Grok pode gerar imagens sexualizadas de pessoas reais?

Foi o que vereadores relataram na audiência, incluindo o caso da própria presidente do Conselho. A SpaceX disse que vai apurar o episódio e afirma manter controles rígidos sobre seus produtos de IA.

grokspacexsegurança de iaregulamentaçãonova york

Fonte original: SpaceX AI policy leader grilled by NYC Council on Grok safety, sexualized images (CNBC). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.