Viés algorítmico em IA: como identificar e mitigar

Viés algorítmico em IA é a tendência sistemática de um modelo produzir resultados que favorecem ou prejudicam um grupo de pessoas de forma desproporcional — não por acaso estatístico, mas porque o dado de treinamento, a variável usada como proxy ou o próprio processo de decisão reproduz uma desigualdade que já existia antes do algoritmo. Não é um bug que se corrige com um patch: é um risco estrutural que precisa ser medido, testado e mitigado em cada fase do ciclo de vida do modelo. Para C-level e jurídico/compliance, o ponto central é este: o Marco Legal da IA no Brasil (PL 2338/2023) trata a não discriminação como direito fundamental, não como boa prática opcional — e já exige avaliação de impacto algorítmico com mitigação de viés como obrigação. Este guia é o passo a passo de como identificar e mitigar viés algorítmico na prática, com a metodologia e os casos que sustentam cada etapa.

Como o viés entra no modelo: as três origens mais comuns

Viés algorítmico raramente nasce de má intenção de quem programa. Ele entra pelo caminho dos dados e da forma como o problema é modelado — e tende a se manifestar de três formas recorrentes.

Origem	O que é	Exemplo típico
Dado de treinamento enviesado	O histórico usado para treinar o modelo já reflete uma desigualdade social ou uma sub-representação de grupos	Um modelo de recrutamento treinado majoritariamente com currículos de homens aprende que "homem" é sinônimo de "candidato forte"
Proxy discriminatório	Uma variável aparentemente neutra funciona, na prática, como substituta de um atributo protegido (raça, gênero, origem)	CEP ou bairro de residência usados em modelo de crédito acabam correlacionados com raça, dado o padrão de segregação residencial no Brasil
Feedback loop	O próprio uso do modelo em produção gera os dados que vão retreiná-lo, reforçando o viés inicial	Um sistema de policiamento preditivo manda mais policiamento para uma região, gera mais prisões ali, e usa esse volume de prisões como "prova" de que a região é de fato mais perigosa

O caso mais citado sobre proxy discriminatório sem acesso direto ao atributo protegido é brasileiro: um estudo acadêmico de 2020 sobre scoring de crédito com aprendizado de máquina mostrou como o uso de informação geográfica introduz viés racial mesmo quando o modelo nunca recebe a variável raça como input — os autores descrevem o achado como o primeiro caso documentado de viés racial algorítmico em credit scoring no Brasil (Vilarino & Vicente, arXiv, 2020). A variável é neutra no papel, mas correlacionada o suficiente com um atributo protegido para produzir o mesmo efeito prático de discriminação direta.

Casos que mostram o custo de não identificar o viés a tempo

Viés algorítmico não é um risco teórico — é um risco com histórico documentado, em domínios que qualquer grande empresa brasileira já automatiza hoje: recrutamento, crédito, saúde e justiça.

• Recrutamento — Amazon (2014–2017). A Amazon construiu um sistema experimental para pontuar currículos de um a cinco. Treinado com dez anos de currículos submetidos majoritariamente por homens, o modelo aprendeu a penalizar currículos com a palavra "women's" (como em "women's chess club") e a rebaixar formadas em faculdades exclusivamente femininas. A empresa abandonou o projeto ao não conseguir garantir que o viés não voltaria a aparecer de outra forma (Reuters/Dastin, 2018, via Euronews).
• Justiça criminal — COMPAS (EUA). A ProPublica analisou o algoritmo COMPAS, usado para prever risco de reincidência em decisões judiciais, e encontrou que réus negros eram rotulados "alto risco" quase duas vezes mais que réus brancos com o mesmo perfil de reincidência real, enquanto réus brancos de alto risco real eram classificados como baixo risco com mais frequência (ProPublica, "Machine Bias", 2016). O caso virou referência mundial por mostrar que um modelo pode ter acurácia geral parecida entre grupos e, ainda assim, errar de forma sistematicamente diferente para cada um — a distinção exata entre acurácia e fairness.
• Saúde — algoritmo de gestão populacional (EUA). Um estudo na revista Science encontrou viés racial em um algoritmo usado por sistemas de saúde americanos para decidir quem recebia cuidado extra: o modelo usava custo histórico de tratamento como proxy para necessidade de saúde e, como historicamente se gasta menos com pacientes negros, concluía que eles eram "mais saudáveis" do que realmente eram. Corrigir a proxy — trocar custo por indicadores clínicos diretos — teria quase triplicado a proporção de pacientes negros identificados para cuidado adicional, de 17,7% para 46,5% (Obermeyer et al., Science, 2019).

Os três casos têm um padrão em comum: o viés não estava em uma linha de código escrita com má intenção — estava numa escolha de proxy ou numa distribuição de dado histórico que ninguém testou antes de colocar o sistema em produção, o mesmo ponto cego que detalhamos em riscos da IA generativa nas empresas.

Como identificar viés algorítmico: métricas de fairness e teste com grupos protegidos

Identificar viés exige comparar o comportamento do modelo entre grupos — não apenas medir acurácia geral. As três famílias de métrica mais usadas na prática, formalizadas em toolkits como o AI Fairness 360, da IBM, são:

Métrica	O que mede	Pergunta que responde
Paridade demográfica (demographic parity)	Se a taxa de resultado positivo (aprovação, contratação, score alto) é igual entre grupos	"Grupos diferentes têm a mesma chance de receber um resultado favorável?"
Odds equalizadas (equalized odds)	Se as taxas de falso positivo e falso negativo são iguais entre grupos	"O modelo erra na mesma proporção para todos os grupos, nas duas direções?"
Igualdade de oportunidade (equal opportunity)	Se a taxa de verdadeiro positivo é igual entre grupos, entre quem de fato deveria receber o resultado favorável	"Quem merece o resultado positivo tem a mesma chance de recebê-lo, independente do grupo?"
Regra dos quatro quintos (disparate impact)	Se a taxa de seleção do grupo com pior desempenho é pelo menos 80% da taxa do grupo com melhor desempenho	Herdada do direito trabalhista americano (EEOC); usada como limiar prático de alerta em auditorias de contratação

Nenhuma dessas métricas é "a métrica certa" universal — elas competem entre si (otimizar uma pode piorar outra), e a escolha depende do contexto de risco. O que não é opcional é medir pelo menos uma delas antes de colocar em produção qualquer sistema que decida sobre pessoas.

Na prática, um processo de identificação de viés cobre: definir os grupos protegidos relevantes ao caso de uso (gênero, raça/cor, idade, região, deficiência, conforme o domínio); testar com dado real segmentado por grupo, não agregado — a maioria dos vieses só aparece ao cruzar resultado por subgrupo; procurar proxies antes de procurar causa direta — como no caso brasileiro de crédito, o atributo protegido pode nunca aparecer como input; e documentar o teste e o resultado, mesmo sem viés detectado — é essa documentação que vira evidência em auditoria interna ou regulatória.

Esse teste é uma peça de um exercício mais amplo — a auditoria técnica completa do sistema de IA, que cobre também segurança, robustez e documentação. O passo a passo integral está em auditoria de IA.

Como mitigar viés algorítmico: técnicas por fase do pipeline

Mitigação de viés não é uma ação única — é um conjunto de intervenções possíveis em cada fase do pipeline, e a fase certa depende do quanto de acesso a empresa tem ao modelo (próprio versus licenciado de terceiros).

Fase	Técnica	Quando usar
Pré-processamento	Reponderar ou reamostrar o dado de treinamento para corrigir sub-representação de grupos; remover ou transformar variáveis proxy identificadas	Quando a empresa tem acesso e controle sobre o dado de treinamento
In-processing	Adicionar restrição de fairness diretamente na função de otimização do modelo durante o treinamento	Quando a empresa desenvolve o modelo internamente ou tem acesso ao processo de treinamento
Pós-processamento	Ajustar o limiar de decisão por grupo depois que o modelo já gerou o score, para equalizar a métrica de fairness escolhida	Quando o modelo é uma caixa-preta de terceiros e não pode ser retreinado
Supervisão humana	Revisão obrigatória de decisões de alto impacto por uma pessoa com poder real de reverter o resultado do modelo	Sempre que a decisão afeta acesso a crédito, emprego, saúde ou justiça — é a exigência mais citada nas regulações de risco alto
Monitoramento contínuo	Reexecutar as métricas de fairness em produção, periodicamente, não só antes do lançamento	Sempre — viés pode surgir depois do lançamento por drift de dado ou por feedback loop

Um ponto subestimado por times técnicos: mitigar viés em um único ponto do pipeline raramente resolve o problema sozinho. Reponderar dado sem monitoramento contínuo deixa a empresa vulnerável a viés que reaparece por drift; ajustar limiar por grupo sem supervisão humana documentada deixa a empresa sem defesa se um regulador perguntar "quem decidiu isso e por quê". O programa de compliance que amarra essas peças — inventário, classificação de risco, trilha documental, papéis definidos — está detalhado em compliance e IA, e o framework de referência que orienta decisão técnica e decisão de negócio ao mesmo tempo está em framework de governança de IA.

A obrigação legal no Brasil: PL 2338, LGPD e o vácuo de jurisprudência

O ponto que muda o cálculo de risco para C-level e jurídico é que mitigar viés algorítmico no Brasil deixou de ser só boa prática técnica — está a caminho de virar obrigação legal explícita, e uma parte já é exigível hoje por outra via.

• PL 2338/2023. O texto consagra a não discriminação como um dos direitos garantidos a toda pessoa afetada por sistema de IA, e proíbe discriminação direta, indireta ou por viés algorítmico com base em raça, gênero, orientação sexual, religião, convicção política, condição socioeconômica ou deficiência. Para sistemas de alto risco, o texto exige avaliação de impacto algorítmico: processo contínuo, ao longo de todo o ciclo de vida do sistema, que inclui a aplicação de medidas de combate a viés discriminatório dentro da documentação de testes de segurança (LEC — Avaliação de Impacto Algorítmico no PL 2338/23; texto do PL 2338, Senado Federal). O panorama completo do projeto — tramitação, classificação de risco, multas — está em Marco Legal da IA no Brasil (PL 2338); este artigo aprofunda especificamente como cumprir, na prática, a obrigação de não discriminação e mitigação de viés que o PL 2338 exige.
• LGPD, art. 20 (já em vigor). Mesmo sem o PL 2338 sancionado, quem toma decisão automatizada sobre crédito, emprego ou perfil de consumo já responde à LGPD hoje: o art. 20 garante ao titular o direito de revisão de decisão tomada unicamente por tratamento automatizado, e a ANPD pode auditar o sistema se houver suspeita de discriminação — mesmo quando a empresa alega segredo comercial sobre o algoritmo (LGPD, art. 20 — texto e comentário).
• Jurisprudência brasileira ainda incipiente. Diferente dos EUA, o Brasil ainda não tem caso judicial consolidado que declare discriminação algorítmica em sistema comercial. Mas o tema já entrou na pauta do Judiciário — a Justiça do Trabalho da 8ª Região promoveu debate específico sobre IA e discriminação de gênero (CNJ, 2024) — e a produção acadêmica brasileira já documenta caso técnico real de viés racial em crédito, como visto acima. Ausência de jurisprudência não é sinal de baixo risco: significa apenas que ainda não houve o primeiro caso que vira precedente.

O padrão internacional de referência para estruturar esse trabalho, hoje voluntário no Brasil, vem de dois lugares: o NIST AI Risk Management Framework, que trata teste e mitigação de viés como parte central da função "Measure" (NIST AI RMF), e os Princípios de IA da OCDE, que colocam a prevenção de dano alocativo (distribuição desigual de oportunidades) e dano representacional (reforço de estereótipos) como parte do pilar de fairness (OCDE — Human-centred values and fairness). Empresas que já adotam a ISO/IEC 42001 como referência de sistema de gestão de IA cobrem boa parte dessa exigência antes mesmo de ela virar lei — guia completo em ISO/IEC 42001.

Como montar um programa de mitigação de viés (para C-level e board)

Um programa de mitigação de viés algorítmico não é um projeto de ciência de dados isolado — precisa de patrocínio executivo, porque a decisão sobre qual métrica de fairness priorizar envolve trade-off de negócio, não só matemática. Cinco frentes concretas:

1. Inventarie os sistemas que decidem sobre pessoas — crédito, recrutamento, precificação de seguro, priorização de atendimento.
2. Classifique por risco antes de testar — sistemas que afetam crédito, emprego, saúde ou justiça entram na régua de alto risco do PL 2338 e merecem teste de fairness prioritário.
3. Exija evidência de teste de viés do fornecedor, não só do time interno — a maioria dos sistemas de IA usados por grandes empresas brasileiras é licenciada de terceiros, e a responsabilidade civil por viés não se transfere integralmente a quem forneceu.
4. Formalize a supervisão humana com poder real de reverter decisão — e documente isso: é o primeiro item que um auditor ou o Judiciário vai pedir se houver reclamação.
5. Leve o relatório de viés ao board com a mesma regularidade de um relatório financeiro — o papel da liderança nessa supervisão está em o papel do conselho de administração na governança de IA.

Essas cinco frentes se apoiam na estrutura maior de governança de IA — viés algorítmico é o risco mais concreto e mais citado dentro dela, porque é o que mais rápido vira processo judicial, multa regulatória ou manchete.

FAQ

O que é viés algorítmico em IA?

É a tendência sistemática de um modelo de IA produzir resultados que favorecem ou prejudicam um grupo de pessoas de forma desproporcional, geralmente porque o dado de treinamento, uma variável proxy ou o próprio uso do sistema em produção reproduz uma desigualdade social já existente. Não é um erro aleatório — é um padrão consistente e mensurável.

Qual a diferença entre viés algorítmico e discriminação algorítmica?

Viés algorítmico é o fenômeno técnico — a diferença de tratamento mensurável entre grupos. Discriminação algorítmica é a consequência jurídica quando esse viés atinge um atributo protegido (raça, gênero, deficiência, entre outros) e causa prejuízo real a uma pessoa. Nem todo viés medido chega ao patamar de discriminação ilegal — depende do contexto e do impacto.

Como saber se um modelo de IA tem viés?

Testando as métricas de fairness (paridade demográfica, odds equalizadas, igualdade de oportunidade ou a regra dos quatro quintos) com o resultado do modelo segmentado por grupo protegido — nunca só olhando a acurácia geral. Ferramentas como o AI Fairness 360, da IBM, automatizam esse cálculo a partir de previsões rotuladas e atribuição de grupo.

É possível ter viés algorítmico mesmo sem usar dado de raça ou gênero no modelo?

Sim — é o mecanismo de proxy discriminatório, documentado inclusive em estudo brasileiro sobre credit scoring: variáveis como CEP, bairro ou sobrenome podem carregar correlação suficiente com um atributo protegido para produzir o mesmo efeito prático de discriminação direta, mesmo que o atributo nunca seja usado como input.

O PL 2338 já obriga empresas a mitigar viés algorítmico?

O PL 2338 ainda está em tramitação na Câmara dos Deputados, não é lei sancionada. Mas o texto já consagra a não discriminação como direito fundamental e já prevê avaliação de impacto algorítmico com mitigação de viés como obrigação para sistemas de alto risco — e a LGPD, já em vigor, garante hoje o direito de revisão de decisão automatizada via art. 20.

Quais setores têm mais risco de viés algorítmico no Brasil?

Recrutamento e seleção, avaliação de crédito e scoring financeiro, precificação de seguro e saúde são os domínios com mais casos documentados internacionalmente e maior exposição regulatória — coincidem, não por acaso, com os setores que o PL 2338 já classifica como alto risco por padrão.

Existe caso julgado de discriminação algorítmica no Brasil?

Ainda não há caso judicial consolidado que declare discriminação algorítmica em sistema comercial no Brasil. Mas o tema já entrou na pauta do Judiciário — a Justiça do Trabalho da 8ª Região debateu especificamente IA e discriminação de gênero — e há evidência técnica documentada de viés racial em crédito por IA no país. Ausência de jurisprudência não é sinônimo de ausência de risco.

Mitigação de viés reduz a acurácia do modelo?

Pode reduzir uma métrica de desempenho geral em troca de reduzir a disparidade entre grupos — é o trade-off central de fairness em machine learning, e nenhuma técnica o elimina por completo. Decidir quanto desempenho trocar por quanto equidade é decisão de negócio e de risco jurídico, não só técnica — por isso precisa chegar ao C-level e ao board.

Conclusão

Viés algorítmico deixou de ser um debate acadêmico e virou linha de risco jurídico e reputacional com metodologia conhecida de identificação e mitigação — o problema não é falta de técnica, é falta de processo formalizado antes que o sistema entre em produção. O PL 2338 vai tornar obrigatório o que hoje já é boa prática documentada: testar com métricas de fairness, mitigar em cada fase do pipeline e manter supervisão humana com poder real de reverter decisão. Empresas que tratam isso como projeto de compliance a partir de agora chegam à lei prontas; as que esperam vão descobrir o passivo depois que ele já afetou uma pessoa real. Se quiser um diagnóstico de onde os sistemas de IA da sua empresa estão expostos a risco de viés e o que priorizar primeiro, agende um diagnóstico gratuito com a Jetpacks — uma conversa de 30–45 minutos para mapear exposição e prioridades.