Autonomia emprestada: por que os agentes de IA empresariais não podem simplesmente ser ativados
Há uma diferença entre um sistema que funciona em uma demonstração e um que não destrói valor quando ninguém está olhando. Com os agentes de IA, essa diferença se mede em registros modificados, pagamentos processados e decisões tomadas sem intervenção humana. O problema não é tecnológico. É de governança.
Uma análise publicada no Forbes Technology Council por um gerente sênior de IA generativa na Amazon Web Services situa o debate exatamente onde ele deve estar: não nas capacidades do modelo, mas na arquitetura de supervisão que envolve o agente. A questão operacional que ele propõe é brutalmente simples. Antes de implantar um sistema agêntico, é preciso saber se a organização consegue detectar seus erros depois que ocorrem, e se essa detecção pode mudar o que o sistema faz. Se a resposta a qualquer uma das duas perguntas for não, a decisão de conceder autonomia é prematura, independentemente dos benchmarks que o modelo tenha superado.
Isso pode soar conservador em um mercado em que a Grand View Research estima que o segmento global de IA agêntica alcançará 22,9 bilhões de dólares em 2026 e projeta 224,5 bilhões para 2033. Mas o tamanho do mercado não é argumento de segurança. É argumento de urgência para construir bem.
O modelo de reembolso que revela o problema de fundo
A análise usa um exemplo que parece mundano e acaba sendo preciso: um agente que gerencia reembolsos a clientes. A primeira distinção que estabelece é entre redigir uma resposta e emitir o reembolso. O primeiro produz texto que um humano pode revisar. O segundo modifica o estado de uma conta bancária.
Essa distinção não é semântica. Define o tipo de erro possível, sua reversibilidade e seu custo de detecção. Um texto mal redigido gera atrito. Um pagamento incorreto gera perda financeira, exposição regulatória e, dependendo do setor, consequências legais. A velocidade com que um agente pode gerar erros é exatamente proporcional à velocidade com que pode operar.
A abordagem proposta é estruturar a aprovação humana em torno de definições prévias: quais casos o agente pode tratar, que evidência deve ter antes de agir. Registros de pedidos incompletos, políticas ambíguas ou condições não especificadas devem disparar um escalonamento automático, não uma resposta improvisada pelo modelo. Isso transforma a supervisão humana de um conceito vago em um controle operacional com critérios explícitos.
O que torna essa arquitetura interessante é o que ela revela sobre o erro mais frequente nas implementações agênticas: presumir que uma alta taxa de conclusão equivale a resultados corretos. Um sistema pode concluir 95% dos casos e ainda assim produzir erros sistemáticos nos 5% restantes sem que ninguém saiba, porque ninguém está verificando os casos aparentemente bem-sucedidos. A recomendação é amostrar também as resoluções sem incidentes, não apenas os escalonamentos. Caso contrário, o agente decide quais partes do próprio trabalho recebem escrutínio, que é exatamente o oposto de supervisão.
Um estudo de 2026 que avaliou 15 modelos em dois benchmarks distintos constatou que as melhorias de capacidade vieram acompanhadas de ganhos modestos em confiabilidade. O dado importa porque rompe a intuição mais comum: a de que um modelo mais potente é proporcionalmente mais seguro de implantar. Potência e consistência não escalam na mesma velocidade.
A economia que os relatórios costumam ocultar
A análise propõe um cálculo hipotético com 1.000 casos de reembolso: 850 resolvidos pelo agente sem correção humana, 100 resolvidos por pessoas, 50 sem resolução. O software e a infraestrutura custam 400 dólares; a validação, a revisão e a recuperação custam 1.600 dólares. O resultado: 950 casos verificados por 2.000 dólares, aproximadamente 2,11 dólares por caso. O cálculo exclui custos de implementação inicial e consequências de erros não detectados.
A aritmética parece favorável. Mas a apresentação habitual desse mesmo caso seria reportar 95% de conclusão e atribuir a economia ao agente. O que esse relatório omite é a contribuição trabalhista humana, que no exemplo representa 80% do custo total do processo. Se esse custo é absorvido por outra equipe ou linha orçamentária, a decisão de escalar pode ser tomada sobre uma base de custos artificialmente reduzida.
Há uma pesquisa de 2024, "AI Agents That Matter", que argumenta exatamente isso: a maioria das práticas de avaliação de agentes concentra-se demasiadamente em precisão bruta e ignora o custo. Para uma decisão de implantação, o cálculo correto deve incluir o tempo que as pessoas dedicam a revisar, corrigir e completar o trabalho do agente. Esse tempo pode ser invisível no orçamento de engenharia se a equipe de operações absorve as exceções sem reportá-las como custo associado ao sistema.
O problema se amplifica quando se escala. Os casos fáceis, que são os primeiros a ser automatizados, geram a economia mais favorável. Estender a autonomia a transações disputadas ou casos complexos requer uma avaliação separada, porque a economia dos casos simples não prevê o tempo que os difíceis consumirão. Um agente que processa 850 reembolsos padrão a 0,47 dólares cada pode gerar exceções que custam 60 dólares em revisão humana por caso. A taxa de conclusão agregada continua parecendo boa. A margem operacional real, não.
Há um custo adicional que a análise menciona e que tende a desaparecer dos modelos de negócio: a fila de revisão precisa de um responsável. Os revisores precisam de evidência suficiente para entender o que ocorreu e de uma maneira de concluir o caso sem repetir todo o trabalho anterior. Se essa capacidade não está no plano de implantação, os casos aguardam aprovação enquanto o agente continua operando, e o cliente espera da mesma forma, independentemente da rapidez com que o sistema gerou sua resposta inicial.
A cadeia que converte erros em restrições
A IBM anunciou em 27 de outubro de 2026 atualizações à sua plataforma watsonx Orchestrate que incluem simulação de usuário, avaliação determinista, investigação de falhas em produção, geração de casos de teste e um "AgentOps Agent" projetado para melhorar a qualidade do agente antes de sua promoção ao ambiente de produção. A direção do produto é exatamente a que a análise do Forbes descreve pelo lado da governança: conectar o que ocorre em produção com o comportamento do sistema antes que se autorize uma expansão de autoridade.
Essa arquitetura — teste antes da implantação, mais observação em produção, mais atualização de restrições — é o ciclo que transforma um agente em algo que uma empresa pode gerir em vez de simplesmente monitorar. A diferença é que monitorar detecta falhas. Gerir as converte em ajustes de política, limites de autorização ou novos casos de teste que previnem a recorrência.
A abordagem que a análise propõe tem uma sequência concreta: começar com ações propostas, passar para aprovação humana, permitir a execução dentro de limites definidos uma vez que os resultados a justifiquem. Alguns casos podem exigir aprovação de forma permanente. Uma mudança de política, um backlog crescente ou erros descobertos a posteriori devem disparar uma revisão das permissões já concedidas, não uma revisão das permissões futuras.
O último passo dessa cadeia é o que mais facilmente se omite nas implementações reais: pedir ao responsável de negócio pelo processo que percorra os casos sem resolução e os erros detectados durante a revisão, e perguntar o que mudou como resultado dessa análise. A próxima decisão sobre autonomia deveria depender de se esses problemas foram resolvidos e de se a equipe que gerencia as exceções tem capacidade para absorver trabalho adicional. Se não há resposta a nenhuma dessas duas perguntas, ampliar a autoridade do agente é uma aposta, não uma decisão.
Antes de conceder permissões, defina quem absorve o custo do erro
O padrão que emerge desta análise não é novo na história da automação empresarial. Cada onda tecnológica — do ERP ao RPA — passou por uma fase em que a promessa de eficiência foi avaliada sobre os casos que o sistema tratava bem, e o custo real apareceu nos casos que não tratava. A diferença com os agentes de linguagem é que sua flexibilidade — que é precisamente o que os torna atraentes — também faz com que suas falhas sejam menos previsíveis do que as de uma regra determinista.
Um agente que opera com uma instrução em linguagem natural pode variar seu comportamento conforme o contexto, com dados ambíguos, com atualizações do modelo ou com ferramentas que respondem de forma diferente dependendo do estado do sistema. Isso significa que validá-lo contra um benchmark finito em pré-produção não garante consistência em produção. Garante que passou por aquele benchmark.
A pergunta que qualquer responsável de operações deveria se fazer antes de aprovar a expansão de autoridade de um agente não é quantos casos ele concluiu. É quantos dos casos que concluiu foram revisados por alguém com capacidade de detectar um erro, e o que a organização fez com os erros encontrados. Se ninguém revisou os casos bem-sucedidos, se os erros encontrados não modificaram as regras do sistema, ou se a equipe de revisão não tem visibilidade sobre o raciocínio do agente, a taxa de conclusão não mede o que parece medir.
Os mercados de IA agêntica crescerão com ou sem governança. O que determinará quais organizações escalam com controle e quais acumulam passivos silenciosos é exatamente isso: se o custo do erro está visível no orçamento correto, se os revisores têm as ferramentas para concluir o trabalho que o agente não terminou, e se alguém é responsável por converter cada falha em uma restrição que evite a próxima. A autonomia não se concede. Constrói-se com evidência operacional, e esse processo demora mais do que o calendário de implantação costuma admitir.
