IA no atendimento: governança, arquitetura e supervisão humana

Da euforia à governança

A adoção de agentes de IA no atendimento passou por uma virada em 2026. A discussão deixou de ser sobre automação total e chegou a uma pergunta mais útil: como garantir que o agente faz o que deveria, todos os dias, e o que acontece quando ele não faz?

Um exemplo do caminho: em setembro de 2026, a corretora de seguros alemã MRH Trowe liberou agentes de IA em autoatendimento para cerca de 400 funcionários no primeiro mês de produção — e o que definiu o projeto não foi o modelo escolhido, mas os requisitos de segurança, residência de dados e conformidade do setor financeiro, resolvidos antes de o agente ir ao ar.

Da explicabilidade à garantia

Durante muito tempo, "governar a IA" significou explicá-la: entender por que o agente tomou uma decisão. Isso continua útil, mas não basta para operar. O gestor de atendimento precisa de garantia — evidência de que o agente funciona como esperado antes de ser ligado, e de que continua funcionando depois.

Na prática, garantia é um ciclo:

1. Definir o que é sucesso para aquele agente: que perguntas ele responde, o que ele nunca deve fazer, quando ele deve passar para uma pessoa.
2. Testar com cenários representativos antes de pôr no ar — as perguntas reais da operação, inclusive as difíceis e as mal-intencionadas.
3. Medir em produção contra os mesmos critérios, e não contra o volume de mensagens atendidas.
4. Ajustar e testar de novo a cada mudança de conteúdo, de modelo ou de processo.

A confiança no agente deixa de ser uma promessa do fornecedor e passa a ser um dado da própria operação.

Arquitetura: um lugar para as regras, não uma por equipe

Agentes criados isoladamente por cada equipe repetem o mesmo trabalho — identidade, permissões, registro e regras de proteção — e cada cópia diverge das outras. Empresas que escalaram agentes com sucesso centralizaram esses requisitos numa camada compartilhada, para que nenhuma equipe precise recriá-los antes de colocar um agente em produção.

No atendimento, isso se traduz em regras que valem para toda a operação: quem pode ligar a resposta automática, o que a IA pode sugerir, o que só uma pessoa pode executar.

O que a IA consulta define o que ela responde

A qualidade da resposta depende menos do modelo e mais do que ele consulta. Em arquiteturas que buscam o conteúdo da empresa antes de responder, a organização dessa base é o que separa a resposta certa da resposta plausível.

Três cuidados fazem a diferença:

• Conhecimento aprovado. A IA consulta o que a empresa revisou, e não a internet.
• Isolamento. O conhecimento de uma empresa nunca aparece na resposta de outra.
• Atualização. Política que mudou precisa mudar na base no mesmo dia — ou a IA continuará respondendo a versão antiga com toda a segurança.

Supervisão humana, desenhada no sistema

Mesmo quando a IA estrutura processos complexos, a decisão final continua sendo de uma pessoa — e isso precisa estar no desenho do sistema, não na boa vontade de quem opera:

• a IA propõe; a equipe confirma. Mudar a situação da conversa, atribuir ou etiquetar só acontece com o clique de alguém com permissão para isso;
• os números que a IA apresenta ao gestor vêm do sistema, e não de uma estimativa do modelo;
• a resposta automática é uma configuração deliberada, e a IA se retira quando um atendente assume;
• casos financeiros, jurídicos e de cliente insatisfeito sempre escalam para uma pessoa, com o contexto preservado.

Governança também é cultura

A governança não é tarefa exclusiva de quem desenvolve. Como resumiu Gabriela Glinternik, diretora da ABRAREC, a inteligência artificial reflete a cultura da organização que a adota: a forma como a empresa testa, monitora e corrige seus agentes mostra o quanto ela leva a qualidade a sério.

Isso exige que tecnologia, operação e experiência do cliente decidam juntas os critérios de sucesso. Em operações de grande escala, é essa governança compartilhada que mantém a experiência consistente em milhões de contatos, qualquer que seja o canal.

Checklist para começar

• Os critérios de sucesso do agente estão escritos?
• Existem cenários de teste com as perguntas reais da operação?
• A IA consulta apenas conteúdo aprovado e isolado por empresa?
• Toda ação com consequência exige confirmação humana?
• A resposta automática está desligada onde o erro é caro?
• Os resultados em produção são medidos pelos mesmos critérios dos testes?

Conclusão

Governar a IA no atendimento é trocar a promessa pela evidência: testar antes, medir depois, controlar o que ela consulta e manter a decisão com a equipe. É esse o desenho da Ami, a inteligência da Amivu: ela propõe, a equipe confirma, e o sistema registra.