IA explicável (XAI): o direito à explicação na prática

IA explicável (XAI, de Explainable AI) é o conjunto de técnicas que torna possível reconstruir por que um modelo de inteligência artificial chegou a uma decisão específica — não só o quê ele decidiu, mas os fatores que pesaram e o quanto cada um pesou. Deixou de ser tema acadêmico: até 2026, 65% dos CIOs vão considerar explicabilidade e transparência de IA um dos principais critérios na hora de contratar tecnologia, segundo o Gartner, citado pela Volcano Consultoria. No Brasil, o PL 2338/2023 (Marco Legal da IA) consagra um "direito à explicação" e a LGPD já exige, hoje, que decisão automatizada com dado pessoal seja revisável por um humano. Este guia é para quem decide onde investir em governança de IA e precisa responder, com evidência, à pergunta que reguladores, clientes e o próprio conselho vão fazer: por que o sistema decidiu assim?

O que é IA explicável (XAI), tecnicamente

XAI é a disciplina que produz explicações compreensíveis para as saídas de um modelo de machine learning — sem exigir que quem lê o resultado entenda a matemática por trás dele. A necessidade existe porque os modelos mais precisos hoje (redes neurais profundas, ensembles de árvores, LLMs) são também os menos transparentes por padrão: eles chegam a uma resposta correta sem deixar um rastro legível de como chegaram lá — o problema clássico da "caixa-preta".

Duas abordagens técnicas dominam o mercado:

• Modelos interpretáveis por design — regressão logística, árvores de decisão, modelos lineares. A relação entre entrada e saída é visível na própria estrutura do modelo, ao custo de, geralmente, menos poder preditivo.
• Explicação pós-hoc — técnicas aplicadas a um modelo já treinado, tipicamente uma caixa-preta, para gerar uma explicação aproximada da decisão sem alterar o modelo em si. SHAP (SHapley Additive exPlanations) atribui a cada variável de entrada um valor de contribuição para o resultado final, individualmente por caso; LIME (Local Interpretable Model-agnostic Explanations) aproxima o comportamento do modelo ao redor de uma decisão específica com um modelo mais simples, só para explicar aquele caso.

Na prática, a maioria das empresas usa as duas frentes: modelos interpretáveis onde o risco e a exigência regulatória são altos (crédito, saúde, RH), e explicação pós-hoc para justificar decisões de modelos mais complexos onde a perda de desempenho não compensa a troca.

Por que isso deixou de ser opcional em 2026

Três frentes empurram a explicabilidade de "boa prática" para "requisito":

O direito à explicação do PL 2338

O PL 2338/2023, aprovado no Senado em dezembro de 2024 e em tramitação na Câmara dos Deputados em 2026, estabelece no artigo 6º o direito de qualquer pessoa afetada por decisão, recomendação ou previsão de um sistema de IA obter explicação sobre os critérios e o processo que levaram àquele resultado, com direito adicional de contestação. O detalhamento completo da lei — classificação de risco, prazos e multas — está em Marco Legal da IA no Brasil (PL 2338): o que muda. Para sistemas classificados como de alto risco, a explicabilidade não é boa vontade: é requisito de conformidade.

A LGPD já exige isso hoje

Diferente do PL 2338 — ainda em tramitação —, o artigo 20 da LGPD já está em vigor e garante ao titular de dados o direito de solicitar revisão de decisão tomada unicamente com base em tratamento automatizado que afete seus interesses. Revisão humana pressupõe explicação: não dá para revisar o que ninguém consegue reconstruir. O tratamento completo de como isso se aplica a IA generativa, incluindo base legal e papel do DPO, está em LGPD e IA generativa: guia de conformidade para empresas.

A ANPD colocou IA na agenda de fiscalização 2026–2027

A Autoridade Nacional de Proteção de Dados definiu ao menos 75 ações de fiscalização para o biênio 2026–2027, distribuídas em quatro eixos estratégicos — um deles dedicado a sistemas de IA e tecnologias emergentes que tratam dado pessoal, com transparência (o titular sabe que está interagindo com IA), mitigação de viés e conformidade com o artigo 20 entre os critérios de avaliação, segundo o Teletime. Explicabilidade deixou de ser um argumento de venda de fornecedor de IA para virar item de checklist de fiscalização.

Onde a explicabilidade é mais crítica

Nem todo sistema de IA precisa do mesmo nível de explicabilidade — o critério é o impacto da decisão sobre a pessoa afetada:

Área	Decisão explicada	Por que importa
Crédito e score	Aprovação, limite, taxa de juros	Recusa sem explicação é discriminação não verificável e, no Brasil, já gera contestação via LGPD
RH e recrutamento	Triagem de currículo, ranking de candidatos	Viés não detectado em processo seletivo automatizado vira passivo trabalhista e reputacional
Saúde	Apoio a diagnóstico, priorização de atendimento	Decisão clínica sem explicação não sustenta responsabilidade médica nem confiança do paciente
Seguros	Precificação de apólice, negativa de cobertura	Regulador setorial e cliente exigem justificativa auditável da decisão
Moderação de conteúdo	Remoção, sinalização, restrição de alcance	Usuário afetado tem direito a saber o critério, sob pena de contestação judicial

Caso real: o NuScore do Nubank

Em abril de 2025, o Nubank lançou o NuScore, uma pontuação exposta diretamente ao cliente para que ele entenda como a fintech avalia seu perfil na hora de conceder limite de cartão e outros produtos de crédito — considerando fatores como relacionamento com o banco, movimentação de conta, uso de limite, estabilidade de renda e histórico de pagamentos. É um exemplo direto de explicabilidade como produto, não só como conformidade: o banco decidiu que mostrar o critério reduz atrito e reclamação, em vez de tratar o modelo de crédito como segredo. O mesmo raciocínio se aplica a qualquer empresa que usa IA para decidir sobre pessoas — cliente, candidato ou colaborador.

Explicabilidade vs. desempenho: o trade-off real

A objeção mais comum de quem lidera dados e modelos é que exigir explicabilidade reduz a acurácia do modelo. É parcialmente verdade — mas o trade-off é mais estreito do que parece:

1. Para decisões de alto risco, a lei já decide por você. Se o PL 2338 classifica o caso de uso como alto risco, a explicabilidade é requisito, não opção de engenharia — o ponto de discussão é qual técnica, não se aplicar alguma.
2. Explicação pós-hoc (SHAP, LIME) evita o trade-off na maioria dos casos. Em vez de trocar um modelo complexo por um mais simples, a explicação é gerada em cima do modelo original — a perda de desempenho por explicabilidade é, na prática, próxima de zero para a maior parte dos casos de uso corporativos.
3. Onde o trade-off é real (ex.: deep learning em imagem médica, onde a arquitetura mais precisa é também a mais opaca), a decisão precisa ser explícita e documentada: por que a empresa aceitou menos explicabilidade em troca de mais precisão, e que controle compensatório existe (revisão humana obrigatória, por exemplo).

Checklist: sua empresa está pronta para explicar suas decisões de IA?

1. Existe inventário dos sistemas de IA que tomam ou influenciam decisão sobre pessoas (crédito, emprego, atendimento, saúde)?
2. Para cada um, alguém sabe hoje, sem pesquisar, se o modelo é interpretável por design ou exige explicação pós-hoc?
3. Existe processo documentado para responder a um titular de dados que solicita explicação sob o artigo 20 da LGPD?
4. A explicação gerada (SHAP, LIME ou equivalente) é compreensível por alguém fora do time técnico — jurídico, atendimento, o próprio titular?
5. Existe registro de quando a empresa escolheu conscientemente menos explicabilidade em troca de desempenho, e por quê?

Se a resposta for "não sei" em duas ou mais perguntas, o próximo passo não é uma nova ferramenta — é auditoria. A explicabilidade é uma das cinco frentes técnicas que toda auditoria de IA precisa cobrir, ao lado de viés, drift, qualidade de dados e segurança adversarial; o processo completo está em auditoria de IA: guia técnico para C-level e compliance.

Explicabilidade não é só técnica — é governança

Explicabilidade sem estrutura organizacional que a sustente vira relatório que ninguém lê. Ela precisa estar amarrada a três peças que já compõem a governança de IA da empresa: a política que define quando exigir modelo interpretável, o comitê que decide o que é um trade-off aceitável de desempenho por transparência, e o framework de referência que documenta a decisão. Como estruturar essas três peças está em framework de governança de IA: guia de implementação e em comitê de ética de IA: como estruturar na empresa. O ponto de partida para quem ainda não tem nenhuma das duas é o pilar governança de IA na prática: política, segurança e LGPD.

Como a Jetpacks apoia a prática de explicabilidade

Dentro do método Flight Plan, explicabilidade entra no Launchpad como parte do diagnóstico — quais sistemas de IA decidem sobre pessoas e com que nível de transparência hoje —, e no Booster como capacitação prática para os times técnico e jurídico lerem e comunicarem uma explicação de SHAP ou LIME sem depender de um especialista em cada caso. Como parceira oficial da Replit no Brasil, a Jetpacks já aplicou esse tipo de diagnóstico em empresas como Hypera Pharma, Volvo, BMR Medical e C12 Brasil.

FAQ

O que é IA explicável (XAI)?

É o conjunto de técnicas — desde modelos interpretáveis por design até explicação pós-hoc como SHAP e LIME — que permite reconstruir os fatores que levaram um sistema de IA a uma decisão específica, de forma compreensível para quem não é especialista técnico.

Qual a diferença entre SHAP e LIME?

SHAP atribui a cada variável um valor de contribuição matematicamente consistente para a decisão, individual e globalmente; é mais preciso, mas mais custoso computacionalmente. LIME aproxima o comportamento do modelo ao redor de um caso específico com um modelo mais simples, mais rápido de rodar, com explicação um pouco menos rigorosa.

O PL 2338 obriga empresas a usar IA explicável?

Para sistemas classificados como de alto risco, sim — o artigo 6º garante à pessoa afetada o direito de obter explicação sobre a decisão e de contestá-la. Para os demais, ainda não é obrigação legal explícita, mas a LGPD já exige explicabilidade suficiente para sustentar revisão humana de decisão automatizada (art. 20).

Explicabilidade reduz a precisão do modelo de IA?

Só em parte dos casos. Explicação pós-hoc (SHAP, LIME) é aplicada sobre o modelo original, sem troca de arquitetura — a perda de desempenho costuma ser próxima de zero. O trade-off real aparece só quando a empresa opta por um modelo interpretável por design em vez de uma arquitetura mais complexa; nesse caso, a decisão precisa ser documentada e compensada com controle adicional.

Que sistemas de IA precisam de explicabilidade com mais urgência?

Os que decidem ou influenciam diretamente a vida de uma pessoa: crédito e score, triagem de currículo e contratação, apoio a diagnóstico em saúde, precificação de seguro e moderação de conteúdo. Quanto maior o impacto sobre o indivíduo, maior a exigência regulatória e reputacional de explicação.

Como uma empresa começa a implementar IA explicável?

Primeiro, inventariando quais sistemas de IA tomam decisão sobre pessoas. Depois, classificando cada um como interpretável por design ou caixa-preta que precisa de explicação pós-hoc. Por fim, formalizando o processo de resposta a pedidos de explicação — interno, para auditoria, e externo, para o titular de dados que solicita revisão.

Conclusão: explicar a decisão é parte da decisão

Um sistema de IA que decide bem, mas que ninguém na empresa consegue explicar, não é um ativo — é um passivo represado, que só aparece quando um cliente contesta, um regulador fiscaliza ou um processo seletivo vira notícia. A explicabilidade deixou de ser escolha técnica isolada: é requisito legal crescente, critério de compra do mercado e, como mostra o exemplo do NuScore, pode virar diferencial competitivo quando a empresa decide tratar transparência como produto, não como obrigação.

Se sua empresa já usa IA para decidir sobre crédito, contratação, atendimento ou qualquer processo que afete pessoas diretamente, o diagnóstico gratuito da Jetpacks mapeia, em 30 a 45 minutos, quais desses sistemas já têm explicabilidade suficiente e quais precisam de atenção antes que um regulador — ou um cliente — pergunte primeiro.