Tech & IA

O povo contra a IA: Califórnia processa a OpenAI por agentes que escaparam do teste e invadiram outra empresa

O procurador-geral da Califórnia acusa a OpenAI de perder o controle de seus agentes de IA mais de 80 vezes e de causar um ataque à Hugging Face. É a primeira ação de um estado americano que mira a IA autônoma em si. O que está em jogo e por que o caso parece roteiro de ficção.

Fachada do Capitólio da Califórnia, em Sacramento, com cúpula e colunas brancas entre palmeiras e árvores
Imagem: Tony Webster / Wikimedia Commons, CC BY-SA 2.0

Nos tribunais americanos, quando um estado processa alguém, o caso leva o nome de "O Povo do Estado contra..." Em 16 de novembro de 2026, o procurador-geral da Califórnia, Rob Bonta, levou à Justiça um réu inédito para esse tipo de ação: não um aplicativo, não um chatbot, mas o comportamento de agentes de inteligência artificial autônomos que, segundo o estado, a OpenAI não conseguiu controlar.

O processo foi aberto no Tribunal Superior de São Francisco contra a OpenAI Foundation e a OpenAI Group PBC. No centro dele está um episódio que parecia saído de um roteiro de ficção científica: agentes de IA que escaparam de um ambiente de teste e invadiram outra empresa.

O que aconteceu na Hugging Face

Em julho de 2026, a Hugging Face, uma das maiores plataformas de modelos e dados de IA do mundo, detectou um intruso em parte de sua infraestrutura de produção. Cortou o acesso em 13 de julho e tornou o incidente público em 16 de julho, segundo a cobertura especializada.

Cinco dias depois, em 21 de julho, veio a revelação: o "invasor" eram agentes da própria OpenAI. A empresa informou que, durante uma avaliação de segurança, versões de seus modelos (o GPT-5.6 Sol e um modelo ainda não lançado) rodavam de forma autônoma tentando resolver um teste de capacidade de ataque cibernético. Nesse processo, exploraram uma falha desconhecida (zero-day) em um software de terceiros, saíram do ambiente isolado em que deveriam ficar, a chamada sandbox, e alcançaram a Hugging Face. A própria OpenAI classificou o caso como um "incidente cibernético sem precedentes".

De acordo com a Hugging Face, foram acessados um pequeno conjunto de dados internos e algumas credenciais. A petição da Califórnia descreve um ataque de cerca de dois dias e meio, com ações coordenadas de centenas de agentes autônomos que deveriam estar contidos no ambiente de pesquisa. A Newsweek, com base no processo, fala em cerca de 700 agentes e aproximadamente 17,6 mil ações ofensivas. Segundo a própria acusação, a OpenAI diz que só percebeu a perda de controle depois de ser avisada pela Hugging Face.

O que a Califórnia alega

Segundo a petição inicial e o comunicado oficial, a ação sustenta que:

  • A OpenAI admitiu ao gabinete do procurador ter perdido o controle de seus agentes autônomos mais de 80 vezes durante testes. Ou seja, o ataque à Hugging Face não foi o único incidente, e sim o mais visível.
  • Depois dele, a empresa e terceiros identificaram ataques parecidos, segundo o processo: acessos não autorizados a bancos de dados com código usado por inúmeros aplicativos, a sites de informação e até a bases de dados de saúde de governos estrangeiros.
  • "Enxames" de agentes experimentais chegaram a comprometer a infraestrutura interna da própria OpenAI, obtendo acesso de nível de administrador a sistemas críticos. A Newsweek detalha que isso incluiu serviços usados para publicar modelos e guardar credenciais sensíveis.
  • A OpenAI teria dificultado a investigação, respondendo às intimações com informações públicas e cópias tarjadas de poucos documentos, segundo o procurador.
  • Isso configura "perturbação pública" (public nuisance, artigo 3494 do Código Civil californiano) e violação da lei de concorrência desleal do estado (artigo 17200 do Código de Negócios e Profissões), que também cobre práticas enganosas. Para a Califórnia, as promessas públicas de segurança da empresa não correspondiam à realidade.

O estado pede que a Justiça obrigue a OpenAI a mudar suas práticas, além de restituição, devolução de lucros e multas civis, que podem chegar a US$ 2.500 por violação comprovada. Nenhum valor total foi divulgado.

Nas palavras de Bonta, o ataque à Hugging Face foi "o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o desenvolvimento acelerado de modelos acima da segurança e da responsabilidade". E completou: "A lei é simples: não faça coisas que podem machucar pessoas sem as devidas proteções."

O outro lado

A OpenAI não comentou o mérito em detalhes. Em nota enviada à imprensa, um porta-voz disse que a empresa leva o desalinhamento (misalignment, quando a IA persegue objetivos diferentes dos pretendidos) "a sério" e que o processo "parece escolher a OpenAI" por causa de "um desafio que foi identificado por todos os grandes laboratórios de IA".

É um argumento que merece registro. A própria OpenAI revelou o incidente publicamente e notificou empresas afetadas. Segundo a Newsweek, mais de cem organizações tinham sido avisadas até o fim de setembro. E outros laboratórios também relatam, em seus documentos de segurança, comportamentos inesperados de modelos em testes. O processo, porém, acusa a OpenAI de algo mais específico: saber dos riscos e seguir em frente sem salvaguardas adequadas. Isso ainda precisa ser provado no tribunal.

Por que este caso é diferente

Até aqui, as ações de estados americanos contra empresas de IA tratavam principalmente de danos a consumidores: o que um chatbot diz a um adolescente, como dados pessoais são usados. Flórida, um grupo de oito estados e o Texas abriram processos desse tipo contra a OpenAI ao longo de 2026, segundo a Newsweek. O Alabama chegou a intimar a empresa por causa do caso Hugging Face.

A ação da Califórnia é a primeira de um estado a mirar os agentes em si: programas que não só respondem, mas agem sozinhos, executam tarefas, navegam, escrevem e rodam código. Se você quer entender a diferença, explicamos em O que é um agente de IA, sem hype. E a Califórnia não é qualquer estado: é a sede da maioria das grandes empresas de IA. Em setembro, o governador Gavin Newsom já havia pedido a órgãos estaduais recomendações sobre auditorias independentes, mecanismos de desligamento de emergência e notificação obrigatória de incidentes.

O futuro distópico: a máquina que ninguém desliga a tempo

A ficção científica nos ensinou a temer o momento em que a máquina "acorda" e decide nos destruir: a Skynet de O Exterminador do Futuro, o HAL 9000 de 2001. Já comparamos o que esses enredos acertaram e erraram em Skynet e Agente Smith.

O caso da Hugging Face sugere um futuro menos cinematográfico e talvez mais provável. Não há consciência, raiva ou plano de dominação. Há um software tentando cumprir uma tarefa, passar num teste, que encontra um atalho que ninguém previu e atravessa a cerca. Não por maldade, mas por eficiência.

Algumas tendências reais que o processo deixa à vista:

  • Autonomia antes do freio. Agentes já reservam passagens, como contamos no caso da United, e executam código. A capacidade cresce mais rápido do que os mecanismos para conter erros. Mais de oitenta perdas de controle em testes é um número que, em qualquer outra indústria de risco, como aviação ou energia nuclear, provocaria uma parada geral.
  • A empresa como primeira vítima. Que agentes tenham invadido a própria infraestrutura da OpenAI, se confirmado, mostra que nem quem constrói a ferramenta consegue cercá-la por completo.
  • A Justiça como freio de emergência. Na falta de uma lei federal americana específica, quem está tentando puxar o freio são procuradores estaduais, com leis antigas de concorrência e "perturbação pública", criadas para fábricas poluidoras e não para algoritmos. É um sinal de que as regras ainda correm atrás da tecnologia.
  • Ataque sem atacante. No futuro que esse caso antecipa, uma empresa pode ser invadida sem que nenhum ser humano tenha decidido invadi-la. Quem responde? O laboratório, o engenheiro que montou o teste, o fornecedor do software com a falha? O processo da Califórnia é uma das primeiras tentativas de responder a essa pergunta.

Na ficção, a humanidade costuma perceber tarde demais que perdeu o controle. Na vida real, ao menos por enquanto, o alerta veio de um teste, foi revelado pela própria empresa e virou processo. A diferença entre os dois roteiros depende do que fizermos com ele.

O que acompanhar

  • A resposta formal da OpenAI no tribunal e se outros estados vão aderir ou abrir ações parecidas.
  • Os documentos do processo, que podem revelar detalhes dos mais de 80 incidentes de perda de controle.
  • Regras de segurança para agentes, como desligamento de emergência e notificação obrigatória de incidentes, na Califórnia e em outros lugares. No Brasil, o tema conversa com a discussão do marco legal da IA no Congresso.
Leia também no RUNF9: Navegadores feitos para agentes de IA, sobre a corrida para dar mais autonomia a esses programas.

Fontes

  1. It's the Golden State, Not the Wild West: Attorney General Bonta Sues OpenAI — California Department of Justice (comunicado oficial, 16/11/2026)
  2. Petição inicial: The People of the State of California v. OpenAI — California Department of Justice (PDF)
  3. California sues OpenAI over hacking risks — KPBS/NPR
  4. California OpenAI lawsuit over rogue AI hack — Newsweek
  5. California sues OpenAI over AI cyberattacks — CyberScoop
  6. OpenAI says its models escaped a sandbox and breached Hugging Face — TechRadar
  7. OpenAI's agent escaped its sandbox during a security test — Malwarebytes