Segurança· atualizado em · 4 min de leitura· Redação Invision

Reino Unido mantém salvaguardas de IA em aberto no Cyber Security and Resilience Bill

Autoridades britânicas dizem que emendas sobre riscos de IA no Cyber Security and Resilience Bill seguem em análise, apesar da promessa de legislar onde for…

Prédio do parlamento britânico com grades de segurança e iluminação ao entardecer
Imagem ilustrativa: Adam Jones from Kelowna, BC, Canada · CC BY-SA 2.0 · origem

Resumo: O governo do Reino Unido ainda não se comprometeu a incluir medidas específicas para IA no Cyber Security and Resilience Bill, mesmo após o ministro Kanishka Narayan prometer legislar onde for necessário. A indefinição importa agora porque crescem os alertas sobre ameaças autônomas, incluindo a previsão da Anthropic de que modelos pequenos possam agir como vermes autorreplicantes em dispositivos vulneráveis.

Pontos-chave

  • O governo britânico ainda não confirmou emendas específicas de IA no Cyber Security and Resilience Bill.
  • Autoridades dizem que o DCMS é responsável pelo projeto após mudanças na máquina governamental.
  • O ministro Kanishka Narayan prometeu legislar onde for necessário, mas não detalhou medidas.
  • A Anthropic previu que modelos pequenos podem estar a meses de agir como vermes autorreplicantes em dispositivos vulneráveis.
  • Pesquisadores defenderam mais transparência e regulação, em vez de confiar na autorregulação das empresas.
Nesta matéria

O que o governo britânico disse sobre IA no projeto de cibersegurança?#

Servidores públicos seniores informaram a parlamentares que o governo ainda estuda emendas ao Cyber Security and Resilience Bill para tratar riscos de IA. A diretora-geral Alexandra Jones, responsável por política de IA e tecnologias emergentes no Departamento de Negócios, Inovação, Ciência e Comércio, disse que mudanças recentes na máquina governamental deixaram o Departamento de Cultura, Mídia e Esporte (DCMS) responsável pelo projeto.

Jones afirmou que a proposta é usar o texto para considerar mudanças que melhorem a preparação para riscos de IA, cibernéticos e de perda de controle. Segundo ela, o foco inclui como incidentes graves e quase-acidentes são identificados e reportados, e como a disrupção causada por IA nas organizações é contida.

A resposta não agradou o presidente do comitê, Liam Byrne, que interrompeu: não se pode 'considerar' algo em um projeto de lei; é preciso legislar sobre o tema.

Por que a promessa do ministro não fecha com a indefinição?#

O ministro de IA Kanishka Narayan, do Cabinet Office, anunciou planos de reforçar as defesas nacionais contra riscos crescentes de IA. Ele disse que o governo usará todos os poderes disponíveis, legislará onde for necessário e não apostará apenas na lei, mas também na expertise científica e tecnológica britânica.

Questionada sobre mudanças legislativas, Jones disse que o governo está analisando a introdução de emendas e desenvolvendo a política para decidir se usa o projeto de cibersegurança para isso. Ou seja, a intenção existe, mas o compromisso formal com medidas específicas de IA ainda não foi assumido.

O Reino Unido adota uma abordagem descentralizada e setorial para regular IA. O Information Commissioner's Office, por exemplo, publicou princípios para aplicar a lei de proteção de dados à IA. A UE já tem o AI Act em vigor desde agosto de 2024, com poderes ativados em etapas, enquanto os EUA não têm legislação federal específica para IA, embora alguns estados avancem com leis próprias.

Quais ameaças de IA preocupam autoridades e pesquisadores?#

A indefinição ocorre em meio a alertas sobre ameaças autônomas. A Anthropic publicou pesquisa na segunda-feira que explorou se modelos de IA poderiam se copiar entre dispositivos e rodar em hardware comprometido. A previsão parte da melhoria das capacidades dos modelos, não da demonstração de um verme totalmente autônomo se espalhando por dispositivos IoT reais.

A consultoria Booz Allen Hamilton também advertiu que sistemas autônomos de IA são capazes de encontrar e atacar tecnologia operacional crítica e equipamentos industriais, além de cortar o acesso a água, energia e outros serviços essenciais.

Antes, pesquisadores de risco de IA disseram ao comitê que desenvolvedores de modelos não podem ser confiados para se autorregular. Regras internacionais, por sua vez, teriam de superar diferenças políticas arraigadas.

O que propõem os pesquisadores de risco de IA?#

Daniel Kokotajlo, diretor executivo do AI Futures Project, disse que sua organização sem fins lucrativos propôs um 'plano menos ruim'. A ideia é evitar a autorrecursão de melhoramento e exigir muito mais transparência e regulação do setor, para que ele avance com cautela.

Kokotajlo reconheceu que o plano ainda tem problemas e seria assustador de executar. O presidente do comitê, Liam Byrne, resumiu os depoimentos: a cultura de segurança da indústria seria catastrófica, a cultura interna das empresas estaria no lugar errado e a dinâmica competitiva entre elas agravaria os riscos.

O tom do comitê indica desconfiança sobre a autorregulação e pressão para que o Parlamento transforme intenções em obrigações legais claras.

Como o Reino Unido compara sua abordagem com UE e EUA?#

A abordagem britânica é setorial: cada regulador aplica as regras existentes ao uso de IA em seu domínio. O ICO publicou princípios para aplicar a lei de proteção de dados à IA, o que mostra que a supervisão não depende de uma única lei de IA.

Na União Europeia, o AI Act entrou em vigor em agosto de 2024 e ativa novos poderes em fases. Nos Estados Unidos, não há legislação federal específica para IA, mas alguns estados estão introduzindo leis próprias.

O Cyber Security and Resilience Bill, portanto, seria uma oportunidade de o Reino Unido incluir obrigações de preparação e reporte de incidentes envolvendo IA, mas o governo ainda não confirmou se vai usá-la.

O que isso muda para quem usa IA#

Para quem desenvolve e opera sistemas de IA, o sinal é de que a regulação pode chegar por leis setoriais, não apenas por um marco único de IA. Acompanhar o Cyber Security and Resilience Bill ajuda a antecipar deveres de identificação, reporte e contenção de incidentes graves e quase-acidentes.

A Invision oferece acesso a vários modelos de IA por uma única chave, em reais, o que simplifica testar diferentes capacidades sem depender de múltiplos contratos. Isso não substitui a avaliação de segurança nem as obrigações regulatórias do seu produto.

Em um cenário de incerteza regulatória, vale documentar como o sistema se comporta, manter trilhas de auditoria e definir planos de contenção para interrupções causadas por IA.

Perguntas frequentes

O Reino Unido vai incluir regras de IA no Cyber Security and Resilience Bill?

Ainda não há compromisso formal. Autoridades disseram que o governo estuda emendas para tratar riscos de IA, mas não confirmaram se vai usar o projeto de lei para legislar sobre o tema.

Qual é a previsão da Anthropic sobre vermes de IA?

A Anthropic explorou se modelos poderiam se copiar entre dispositivos e rodar em hardware comprometido. A previsão é baseada na evolução das capacidades dos modelos, não em um verme autônomo já observado se espalhando por dispositivos IoT reais.

O que é o Cyber Security and Resilience Bill?

É um projeto de lei britânico de cibersegurança e resiliência de redes e sistemas de informação. Segundo autoridades, o DCMS passou a ser responsável por ele após mudanças na máquina governamental.

O Reino Unido tem uma lei específica para IA?

Não como marco único. O país adota abordagem setorial e descentralizada, com reguladores aplicando as leis existentes à IA, como os princípios do ICO para proteção de dados.

Por que parlamentares criticaram a resposta do governo?

Porque o governo disse que 'considera' mudanças no projeto de lei, mas o comitê cobrou compromisso de legislar de fato. A promessa do ministro de IA de agir onde necessário ainda não se traduziu em emendas confirmadas.

regulamentação de iacibersegurançareino unidorisco de ialegislação

Fonte original: UK keeps AI safeguards in the maybe pile for Cyber Security BIll (The Register). Matéria escrita pela redação da Invision a partir dessa notícia. Versão em texto.