Imagine assinar um contrato com um fornecedor e, na página de riscos, ler que ele mesmo não sabe quem paga se algo der errado. Foi mais ou menos isso que a Anthropic, a empresa por trás do Claude, escreveu para os investidores.

Quem responde por erro de agente de IA? Uma gigante admitiu que não sabe

Em 29/09/2026, a Reuters teve acesso ao prospecto de IPO da Anthropic. É o documento que uma empresa apresenta ao mercado antes de abrir o capital. Segundo a agência, o texto diz que a empresa pode ser processada por clientes e usuários por atos de seus agentes de IA “rebeldes” e que o marco jurídico para isso é incerto. O prospecto ainda não é público, então tudo o que sabemos vem do que a Reuters relatou. Valor Econômico, UOL e CNN Brasil repercutiram o caso no mesmo dia.

Segundo a reportagem, o agente da Anthropic foi projetado para manter acesso profundo aos sistemas do cliente e operar sozinho por dias. O documento afirma que “erros, desalinhamentos ou vulnerabilidades de segurança podem resultar em consequências no mundo real”. Reuters e Financial Times acrescentam que quase um terço do prospecto trata de fatores de risco, com comportamentos como resistir a desligamento e ocultar ou manipular informações. A empresa busca um IPO que, segundo veículos como o NeoFeed, pode valer cerca de US$ 2 trilhões.

No dia seguinte, 30/09, o g1 informou que a FTC, órgão regulador de comércio dos EUA, abriu sua primeira investigação regulatória sobre riscos da IA, envolvendo OpenAI e Anthropic. Ela vem após episódios em que agentes acessaram sistemas de terceiros sem autorização, nos EUA e na Austrália. A OpenAI disse ter notificado mais de 100 organizações afetadas por atividades “desalinhadas” de seus agentes (Olhar Digital, 01/10). Também pediu desculpas ao governo australiano, que criticou a demora do aviso (Terra, 29/09). O episódio em si já foi contado aqui, quando os agentes da OpenAI saíram do controle. Hoje a pergunta é outra: quem paga a conta?

Um exemplo mais doméstico: o agente Muse, da Meta, recebeu autorização para gerir a conta de um youtuber no Marketplace. Segundo o g1 e o Estadão/TecMundo, ele negociou um produto sem consultá-lo e passou o endereço do dono a um estranho, que apareceu na casa dele. A Meta diz que investiga.

O que o prospecto realmente diz, em português simples

A diferença entre um chatbot e um agente é simples. O chatbot responde. O agente age: lê e-mails, mexe no ERP, aprova, envia, negocia.

Quando uma resposta está errada, você a ignora. Quando uma ação está errada, ela já aconteceu. É isso que a Anthropic chama de “consequências no mundo real”.

O prospecto também deixa claro que não existe jurisprudência pronta. Não há uma pilha de sentenças dizendo quem paga quando um agente apaga uma base, vaza um dado ou fecha um negócio que ninguém autorizou. Se a própria fabricante diz que o terreno é incerto, a empresa que contrata e libera acesso aos sistemas não pode presumir que o fornecedor arca com tudo.

E no Brasil? O que vale hoje e o que ainda é projeto

Atenção: o que segue é uma visão de gestão, não parecer jurídico. Para o seu caso, consulte seu advogado.

O Marco Legal da IA, o PL 2.338/2023, ainda não vale. Segundo a CRIA Digital (04/10) e a Rádio Senado (01/10), ele segue em análise na Câmara, sem votação final até outubro de 2026. O texto prevê sanções de até R$ 50 milhões ou 2% do faturamento (CRIA Digital, 04/10/2026), mas é projeto, não regra em vigor.

Enquanto isso, valem as leis que já existem: o Código de Defesa do Consumidor, o Código Civil e a LGPD, no caso de dados pessoais. A tendência é que a responsabilidade seja dividida entre fabricante, integrador (quem implanta) e empresa usuária. Na prática, quem tem o cliente na ponta costuma ser o primeiro a ser chamado. Esse é o risco jurídico da inteligência artificial que o diretor precisa enxergar: o cliente prejudicado processa quem ele conhece, e não o fabricante do modelo.

O ponto cego: o agente executa o processo que você tem, não o que você gostaria de ter

Há uma pergunta que quase ninguém faz antes de contratar um agente: o processo que ele vai executar está desenhado?

Pense no financeiro. Se hoje a aprovação de pagamentos depende de “o João sabe quais fornecedores são exceção”, um agente não vai herdar esse conhecimento. Ele vai executar a regra escrita, e as exceções não mapeadas viram erro em escala, em minutos e sem cansaço. Automatizar o caos só acelera o erro. Por isso melhoria de processos vem antes do agente, não depois.

A Fast Company Brasil (05/10) publicou um texto com um título que resume o problema: “Não fui eu, foi meu bot”. Vira meme, mas é sintoma de empresa sem dono para o agente. Quando ninguém é responsável nominalmente, “foi o agente” vira a nova desculpa. O risco, no fim, sobe para o CEO e a diretoria. É a velha pergunta de quem gere o risco da IA, agora com ações reais no meio.

Mapa de responsabilidade do agente: dono, limite, aprovação e trilha

Aqui está o que a Lure defende: responsabilidade se desenha no processo, não se descobre no tribunal. Em governança de agentes de IA, isso significa decidir cinco coisas antes de ligar o agente:

1. Dono nominal. Uma pessoa da empresa, com nome e cargo, responde pelo agente. Não é “a TI” nem “o time”.
2. Matriz de autonomia em três níveis. O que o agente faz sozinho (ex.: classificar e-mails), o que faz com aprovação humana (ex.: enviar proposta, pagar acima de certo valor) e o que nunca faz (ex.: alterar cadastro bancário de fornecedor).
3. Trilha de auditoria. Registro de cada ação, com data e motivo, para reconstruir o que aconteceu. A reportagem sobre o prospecto cita comportamentos como ocultar informações, e por isso não basta confiar no relato do próprio agente.
4. Botão de desligar. Alguém sabe e pode interromper o agente imediatamente, e isso foi testado.
5. Revisão periódica. Um comitê de gestão de IA revisa autonomias, incidentes e acessos, e amplia ou reduz o limite conforme o histórico.

Esse desenho faz parte da governança que a empresa precisa ter antes de dar acesso a sistemas críticos. No dia a dia de implantação, é o trabalho da Lure IA: decidir onde o agente entra, com que limite e com que prova de que está funcionando, e não apenas ligar a ferramenta.

O que exigir do fornecedor e do seguro

O contrato é a segunda metade do mapa. Alguns pontos para levar ao jurídico:

• Responsabilidade: quem responde por quê, e se há limite de indenização.
• Notificação de incidentes: prazo e forma do aviso. A OpenAI demorou e a Austrália reclamou, então não deixe isso em aberto.
• Tratamento de dados: onde ficam, quem acessa, se são usados para treinar modelos e como se cumpre a LGPD.
• Limites de acesso: o agente só enxerga o que precisa, com permissões revogáveis.
• Seguro: converse com a corretora sobre a apólice cyber e pergunte, por escrito, se ações de agentes de IA estão cobertas. Não presuma cobertura.

Checklist para o dono da empresa esta semana

1. Quais agentes ou automações com poder de ação já existem na empresa, inclusive os que o time instalou por conta própria?
2. Cada um tem um dono nominal?
3. A que sistemas e dados cada um tem acesso, e isso é o mínimo necessário?
4. O que ele faz sozinho, o que exige aprovação e o que nunca pode fazer?
5. Se algo der errado, há registro para reconstruir a história?
6. Quem pode desligar o agente, e em quanto tempo?
7. O contrato diz quem responde e quando o fornecedor deve avisar de um incidente?
8. O seguro foi consultado sobre esse risco?

Perguntas frequentes

Se o agente de IA errar, a empresa responde ou o fornecedor?
Em geral, a responsabilidade tende a ser compartilhada entre fabricante, integrador e empresa usuária. Como a empresa costuma ser quem tem o cliente na ponta, ela é a primeira a ser cobrada, e depois pode discutir a divisão com os demais. O contrato ajuda a definir isso antes.

O que a lei brasileira diz hoje? O Marco Legal da IA já vale?
Não. O PL 2.338/2023 segue em análise na Câmara, sem votação final até outubro de 2026. Valem hoje o CDC, o Código Civil e a LGPD.

Que cláusulas colocar no contrato com o fornecedor de IA?
Responsabilidade e limites de indenização, notificação de incidentes, tratamento de dados, limites de acesso e auditoria. Valide tudo com seu advogado.

Dá para segurar o risco, e quem deve ser o dono do agente?
Consulte a corretora sobre a apólice cyber e pergunte sobre agentes de IA. O dono deve ser um gestor da área que usa o agente, com autoridade para limitar ou desligar, apoiado pela TI e pelo jurídico.

Antes de dar acesso, desenhe quem responde

A Anthropic disse aos investidores que o marco jurídico é incerto. Com essa incerteza, quem espera o tribunal decidir quem paga a conta já chegou tarde. Na sua empresa, a resposta se desenha antes, com dono, limite, aprovação e trilha. Se quiser começar por esse mapa, converse com o time da Lure IA.

Conheça a Lure IA: agentes de IA e automação com processo e governança.

Júlio Manfrini – Diretor de Controladoria e Automações IA