Human-in-the-loop em IA: quando exigir supervisão humana

Human-in-the-loop em IA é o desenho de processo em que uma pessoa com competência e autoridade revisa, corrige ou aprova a saída de um sistema de IA antes que ela produza efeito — e pode recusá-la. A palavra que importa é autoridade: um humano que apenas clica em "aprovar" sobre decisões que não consegue avaliar não é supervisão, é registro de responsabilidade. Este guia é para o executivo que precisa decidir onde a empresa exige supervisão humana, de que tipo e com qual evidência de que ela funciona. Ele complementa o pilar governança de IA na prática, que define política, papéis e estrutura geral; aqui está o controle específico que quase toda política cita e poucas empresas sabem operar.

Por que a supervisão humana virou exigência, não preferência

Supervisão humana deixou de ser boa prática e passou a ser requisito legal em alguns contextos. O Artigo 14 do AI Act europeu determina que sistemas de IA de alto risco sejam projetados para permitir supervisão humana efetiva. O texto não se contenta com "ter uma pessoa no processo": exige que quem supervisiona consiga, entre outros pontos (texto do Artigo 14, em português):

• compreender adequadamente as capacidades e limitações do sistema e detectar mau funcionamento;
• manter consciência da tendência de confiar demais nos resultados — o chamado viés de automação;
• interpretar corretamente as saídas;
• decidir não usar o sistema ou ignorar, anular ou reverter um resultado;
• intervir ou interromper o sistema por um botão de parada.

O cronograma das obrigações de alto risco foi adiado pelo pacote Digital Omnibus — detalhamos as datas em AI Act europeu e empresas brasileiras —, mas o critério do Artigo 14 já serve de régua de qualidade mesmo para quem ainda não está sujeito a ele. No Brasil, o tema aparece na discussão do marco legal da IA e o PL 2338, e a LGPD, no Artigo 20, já assegura ao titular o direito de pedir a revisão de decisões tomadas com base em tratamento automatizado de dados pessoais que afetem seus interesses. Resultado prático: para decisões sobre pessoas — crédito, contratação, avaliação de desempenho, saúde — a empresa que não consegue mostrar quem revisa e como revisa assume um risco jurídico e reputacional concreto.

Os três modelos: in, on e out of the loop

O termo "human-in-the-loop" costuma ser usado para tudo. Na prática, há três arranjos, com custos e riscos diferentes. Escolher o errado é o erro de desenho mais comum.

Modelo	Quem decide	Quando a pessoa age	Indicado para
Human-in-the-loop (no circuito)	A pessoa aprova cada saída	Antes do efeito	Decisões irreversíveis, de alto impacto sobre pessoas ou dinheiro
Human-on-the-loop (sobre o circuito)	A IA age; a pessoa monitora e pode intervir	Durante ou logo após o efeito	Alto volume, risco moderado, ação reversível
Human-out-of-the-loop (fora do circuito)	A IA decide e executa	Só em auditoria posterior	Baixo risco, alta reversibilidade, ex.: classificação interna de e-mails

Dois pontos de leitura. Primeiro: não existe modelo "mais seguro" em abstrato. Aprovação humana de cada item em um fluxo de milhares de itens por dia vira gargalo e, pior, vira carimbo. Segundo: o modelo pode mudar ao longo do tempo para o mesmo caso de uso — um agente novo começa in the loop e, com evidência de desempenho, migra para on the loop. Essa progressão, aliás, é a mesma lógica de governança de agentes de IA autônomos: autonomia concedida por degraus, com critério explícito para subir cada degrau.

Quando exigir supervisão humana: cinco critérios de decisão

Em vez de uma lista de casos de uso, use critérios aplicáveis a qualquer processo. Quanto mais critérios forem "sim", mais perto de in the loop o desenho deve ficar.

1. A decisão afeta direitos, renda, emprego, saúde ou acesso a serviço de uma pessoa? Se sim, exija revisão humana antes do efeito e canal de contestação.
2. O efeito é irreversível ou caro de reverter? Pagamento enviado, contrato assinado, e-mail ao cliente, deploy em produção. Quanto mais difícil desfazer, mais cedo a pessoa entra.
3. O sistema tem histórico medido de erro nesse tipo de caso? Sem taxa de erro conhecida, a empresa não sabe se pode relaxar o controle. Use o que já aprendeu em gestão de risco de modelo de IA.
4. A IA pode errar de forma plausível? IA generativa erra com fluência — o erro parece certo. Isso torna a revisão mais difícil e mais necessária; veja o mapa de falhas em riscos da IA generativa nas empresas.
5. Há obrigação regulatória ou contratual de revisão? Setores regulados e contratos com cláusula de supervisão não são opcionais.

Um exemplo de aplicação: uma triagem de currículos feita por IA falha nos critérios 1 e 3 — afeta emprego e, em muitas empresas, não tem taxa de erro medida. O desenho adequado é in the loop: a IA ordena e justifica, a pessoa decide, e a empresa registra quando discorda da sugestão. Já a classificação automática de chamados internos por categoria passa em quase todos os critérios e pode ficar on the loop com amostragem.

O problema real: supervisão que existe no papel

A maior parte das falhas de supervisão humana não vem da ausência de uma pessoa no processo, e sim da pessoa errada, sem tempo, sem informação ou sem coragem de discordar. Quatro padrões se repetem:

• Viés de automação. Quando o sistema acerta quase sempre, o revisor passa a aceitar tudo. O Artigo 14 nomeia explicitamente esse risco porque ele é previsível.
• Revisão sem contexto. O revisor recebe só a saída, sem as fontes, sem o nível de confiança e sem os dados usados. Não dá para corrigir o que não se consegue auditar.
• Carga incompatível. Se a meta é revisar 300 itens por turno, a revisão tem 90 segundos por item. Isso não é supervisão, é cadência de linha de produção.
• Custo de discordar. Se o revisor é cobrado por velocidade e a discordância gera retrabalho para ele, o sistema ensina a aprovar.

A saída não é mais um controle: é desenhar a revisão para ser possível. Isso significa dar ao revisor a evidência que sustenta a saída, tempo proporcional à complexidade, autoridade formal para recusar sem justificar além do necessário, e um indicador próprio — a taxa de discordância. Uma taxa de discordância de zero por meses não é sinal de IA perfeita; é sinal de supervisão que parou de funcionar. Do outro lado, uma taxa alta e estável diz que o modelo ou o processo precisa de revisão, e esse dado deve voltar para quem gerencia o risco do modelo.

Como desenhar a supervisão: um passo a passo

Este é o roteiro que recomendamos para cada caso de uso de IA que passa por revisão humana.

1. Mapeie a decisão. Descreva em uma frase o que a IA produz e o que acontece com essa saída. Se não cabe em uma frase, o processo ainda não está claro o bastante para ser supervisionado.
2. Classifique pelos cinco critérios e escolha o modelo (in, on ou out of the loop).
3. Nomeie o revisor por função, não por pessoa. Defina quem revisa, quem o substitui e que competência mínima ele precisa ter. Revisor que não entende o domínio não revisa.
4. Entregue evidência junto com a saída. Fontes, trechos, nível de incerteza, dados de entrada relevantes.
5. Dê autoridade e proteja a discordância. Defina que o revisor pode recusar, escalar e pausar o fluxo, e que isso não penaliza o desempenho dele.
6. Meça. Taxa de discordância, tempo de revisão por item, itens corrigidos, reversões posteriores. Revise o desenho a cada trimestre.
7. Garanta o botão de parada. Todo fluxo supervisionado precisa de um mecanismo de interrupção real — veja as camadas em kill switch para agentes de IA.

Capacitação: quem supervisa precisa saber o que está supervisionando

O Artigo 14 não pede só "um humano": pede alguém com competência para exercer a função. Isso coloca a supervisão no território da capacitação. Revisores precisam entender como o sistema erra, o que é viés de automação, quando escalar e como documentar a discordância. Na Jetpacks, esse é o tipo de conteúdo que entra nas trilhas por área do método Flight Plan — da capacitação dos times que operam a IA ao acompanhamento de métricas de adoção, no estágio Mission Control — e no programa Leadership, para os gestores que respondem pelas decisões tomadas com apoio de IA. Se você quer mapear em quais processos da sua empresa a supervisão humana deveria existir hoje, o ponto de partida é o diagnóstico gratuito.

FAQ

O que é human-in-the-loop em IA?

É o arranjo em que uma pessoa revisa, corrige ou aprova a saída de um sistema de IA antes que ela tenha efeito. Para valer como supervisão, a pessoa precisa de competência, informação, tempo e autoridade para recusar o resultado.

Qual a diferença entre human-in-the-loop e human-on-the-loop?

No in the loop, a pessoa aprova cada saída antes do efeito. No on the loop, a IA age e a pessoa monitora, podendo intervir durante ou logo depois. O primeiro serve a decisões irreversíveis ou de alto impacto; o segundo, a alto volume com risco moderado e ação reversível.

A supervisão humana é obrigatória por lei?

Depende do uso. O Artigo 14 do AI Act a exige para sistemas de alto risco, e a LGPD (Art. 20) garante ao titular o direito de pedir a revisão de decisões automatizadas. Mesmo quando não é obrigatória, é a forma mais direta de reduzir risco em decisões que afetam pessoas.

Ter uma pessoa no processo basta para cumprir a exigência?

Não. O Artigo 14 fala em supervisão efetiva: a pessoa precisa entender o sistema, interpretar as saídas, reconhecer o viés de automação e poder anular ou interromper. Aprovação em massa sem condições de avaliar é um carimbo, e carimbo não sustenta uma auditoria.

Como medir se a supervisão humana está funcionando?

Acompanhe a taxa de discordância do revisor, o tempo médio por item, o volume de correções e as reversões posteriores. Taxa de discordância sempre próxima de zero costuma indicar viés de automação, não perfeição do modelo.

IA agêntica exige mais ou menos supervisão humana?

Mais, e em outro formato. Agentes encadeiam ações e acessam sistemas, então a supervisão combina aprovação em pontos de risco, monitoramento contínuo e mecanismo de parada. Veja o detalhe em governança de agentes de IA autônomos.

Conclusão

Supervisão humana funciona quando é desenhada como controle — com critério, evidência, autoridade e métrica —, não quando é declarada em política. Comece pelos processos que afetam pessoas ou dinheiro, escolha o modelo certo para cada um e meça a taxa de discordância. Para mapear onde isso importa na sua empresa, agende o diagnóstico gratuito da Jetpacks.