Lei da Califórnia limita decisões de demissão por IA e exige revisão humana
Nova lei da Califórnia proíbe demissões decididas só por IA e exige revisão humana e explicação ao funcionário. Entenda o impacto para quem usa IA no trabalho.
Resumo: A Califórnia aprovou a SB 947, que impede empregadores de delegar totalmente a sistemas automatizados as decisões de demissão e disciplina. A regra exige revisão humana e justificativa ao funcionário, e deve influenciar outras legislações estaduais sobre IA no trabalho.
Pontos-chave
- A Califórnia aprovou a SB 947, que impede demissões decididas exclusivamente por sistemas automatizados.
- A lei exige revisão humana e explicação ao funcionário sobre os dados usados na decisão.
- A regra entra em vigor em 1º de julho de 2027 e permite queixas ao Comissário do Trabalho.
- Pesquisa mostra que 73% dos profissionais de RH usam IA para decisões de contratação.
- Especialista alerta para risco de revisões protocolares que não configuram análise real.
Nesta matéria
O que a lei SB 947 determina?#
A legislação, apelidada de 'No Robo Bosses Act', proíbe que empregadores terceirizem completamente a sistemas de decisão automatizados (ADS) as escolhas de disciplina e demissão. O texto exige que as empresas revisem qualquer decisão tomada por IA antes de aplicá-la.
Além da revisão, o funcionário deve receber uma descrição dos motivos da decisão, incluindo os dados usados, como arquivos pessoais, avaliações, trabalhos produzidos, revisões de colegas e entrevistas com testemunhas.
A lei entra em vigor em 1º de julho de 2027 e permite que trabalhadores afetados apresentem queixas ao Comissário do Trabalho da Califórnia caso o processo não tenha sido seguido corretamente.
Por que a notícia é relevante agora?#
O uso de IA em processos de contratação e demissão já é uma realidade: uma pesquisa da MyPerfectResume com 1.000 profissionais de RH mostrou que 73% usam IA para decisões de contratação e 52% para planejamento de reestruturação e funções. Além disso, 51% usam a tecnologia para sinalizar candidatos 'de risco'.
Apenas 26% dos entrevistados disseram não usar IA para decisões sobre demissões. Diante desse cenário, a lei californiana surge como uma tentativa de criar proteções concretas para trabalhadores, enquanto a regulação federal segue pouco específica.
Como a lei se compara a outras iniciativas nos EUA?#
Enquanto a Califórnia avança com exigências de revisão humana, estados como Colorado e Connecticut optaram por obrigar apenas a divulgação do uso de IA, sem intervir diretamente nas decisões. Illinois aprovou neste verão um projeto que a torna o primeiro estado a exigir auditorias de terceiros em laboratórios de fronteira.
Califórnia e Nova York têm liderado a criação de leis mais rígidas. A SB 947 também exige que empregadores esclareçam se demissões em massa, realocações ou desligamentos foram causados por um sistema de IA.
Quais são os riscos e as brechas apontadas?#
A advogada especializada em IA Lily Li, fundadora da Metaverse Law, vê a lei californiana como precedente para outros estados, mas alerta para possíveis brechas. Segundo ela, empresas podem fazer revisões apenas protocolares, sem análise real, para evitar custos operacionais.
Li ressalta que o direito do funcionário de pedir explicação é um contrapeso útil. Ainda assim, é possível que a responsabilidade de contestar demissões baseadas em IA recaia sobre os próprios trabalhadores na Justiça.
O que muda para quem desenvolve sistemas de IA para RH?#
Soluções de IA usadas em decisões disciplinares ou de desligamento precisarão prever mecanismos de revisão humana e de explicação dos motivos e dados utilizados. A lei não proíbe o uso de sistemas automatizados, mas exige que a decisão final passe por um humano que possa corroborar ou rejeitar a saída do modelo.
Para desenvolvedores, isso implica documentar as fontes de dados e os critérios que levam à recomendação, além de permitir que o revisor humano registre a decisão. A lei também cria demanda por transparência sobre o papel da IA em demissões em massa.
- Projetar fluxos com revisão humana obrigatória antes da decisão final.
- Registrar os dados usados (avaliações, arquivos pessoais, entrevistas) para justificar a saída do sistema.
- Prever comunicação clara ao funcionário sobre o uso de IA e os motivos da decisão.
O que isso muda para quem usa IA#
Empresas que utilizam IA em processos de RH precisam se preparar para um cenário de maior escrutínio, começando pela Califórnia. A tendência é que outras unidades federativas sigam o mesmo caminho, criando um mosaico regulatório que exige atenção.
Para quem desenvolve ou opera modelos de IA, a lição é que a supervisão humana e a explicabilidade deixam de ser diferenciais e passam a ser requisitos legais em algumas jurisdições. A Invision oferece acesso a vários modelos por uma única chave, o que pode facilitar testes e comparações, mas não substitui a necessidade de governança e revisão humana nos processos decisórios.
Perguntas frequentes
O que é a lei SB 947 da Califórnia?
É uma lei que proíbe empregadores de delegar totalmente a sistemas automatizados as decisões de disciplina e demissão. Ela exige revisão humana e explicação ao funcionário sobre os motivos e dados usados.
Quando a lei entra em vigor?
A SB 947 entra em vigor em 1º de julho de 2027.
A lei proíbe o uso de IA para demitir?
Não. A lei não proíbe o uso de sistemas automatizados, mas exige que a decisão final passe por revisão humana e que o empregador consiga corroborar a saída do sistema.
O que o funcionário pode fazer se a lei não for seguida?
O trabalhador afetado pode apresentar queixa ao Comissário do Trabalho da Califórnia se acreditar que o processo de revisão humana não foi cumprido corretamente.
Outros estados têm leis semelhantes?
Colorado e Connecticut exigem divulgação do uso de IA, mas não intervenção direta. Illinois aprovou auditorias de terceiros para laboratórios de fronteira. A regulação federal ainda é pouco específica.
Fonte original: Regulators are trying to protect you from being fired by AI – here’s how (ZDNET). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.