Alucinações de IA nas empresas: como reduzir o risco

Alucinação de IA é quando um modelo gera uma resposta fluente, confiante e factualmente errada — uma citação que não existe, uma política que a empresa nunca teve, um número inventado. Nas empresas, o problema não é o erro em si, e sim o erro entregue sem sinal de alerta a um cliente, a um regulador ou a uma decisão de diretoria. Este guia explica por que as alucinações acontecem, mostra o que elas já custaram a empresas reais e propõe um modelo de controles proporcional à criticidade — para quem decide quanto risco aceitar, sem proibir a ferramenta. Ele complementa o pilar de governança de IA na prática e o mapa de riscos da IA generativa nas empresas.

Por que a IA generativa alucina

Modelos de linguagem preveem a próxima palavra mais provável; não consultam uma base de fatos verificados. Quando falta informação, o modelo tende a completar a lacuna com algo plausível em vez de dizer "não sei".

Um artigo de pesquisadores da OpenAI e do Georgia Tech, publicado em setembro de 2025, argumenta que isso não é só limitação técnica: os processos de treino e, sobretudo, de avaliação premiam o palpite sobre a admissão de incerteza. Um modelo que chuta acerta de vez em quando e pontua melhor em benchmarks do que um que responde "não sei" (Kalai et al., "Why Language Models Hallucinate", arXiv). A consequência prática para a empresa: não espere que a próxima versão do modelo resolva o problema sozinha. O controle precisa estar no processo, não só no fornecedor.

Há quatro situações em que o risco sobe:

• Pergunta fora do que o modelo "sabe": dados internos, normas recentes, nomes próprios, números específicos.
• Pedido de citação ou referência: o modelo fabrica fontes com aparência de reais.
• Contexto longo ou ambíguo: instruções contraditórias aumentam a chance de invenção.
• Pressão por resposta: prompts que proíbem "não sei" ou exigem formato fechado.

O que as alucinações já custaram a empresas reais

Três casos documentados mostram que o dano é jurídico, financeiro e reputacional — e que a responsabilidade fica com a empresa, não com o modelo.

Air Canada (2024). O chatbot da companhia informou a um cliente que ele poderia pedir retroativamente a tarifa de luto, o que contrariava a política publicada no próprio site. O tribunal civil da Colúmbia Britânica rejeitou a defesa da empresa e a responsabilizou por todas as informações do site, inclusive as do chatbot (McCarthy Tétrault, análise de Moffatt v. Air Canada).

Deloitte Austrália (2025). Um relatório encomendado pelo governo australiano continha referências acadêmicas inexistentes e uma citação inventada de decisão judicial. A consultoria devolveu parte dos 440 mil dólares australianos pagos e acrescentou ao relatório a declaração de que usou um modelo generativo na metodologia (OECD.AI, registro do incidente).

Pesquisa jurídica com IA especializada. Um estudo de Stanford testou ferramentas de pesquisa jurídica com IA de grandes fornecedores e encontrou taxas de alucinação entre 17% e 33% — apesar de elas serem vendidas como mitigadas por recuperação de documentos (Stanford HAI). O dado importa porque desmonta um atalho comum: comprar uma ferramenta "corporativa" não elimina o risco.

Nenhum desses casos envolve má-fé. Envolvem um fluxo em que ninguém verificou a saída antes de ela sair da empresa — e o desenho do fluxo é uma decisão de governança. No Brasil, o ângulo de responsabilidade é detalhado em responsabilidade civil por decisões de IA.

Como classificar o risco de alucinação por caso de uso

A primeira decisão de governança é calibrar o controle à consequência do erro. Uma alucinação num rascunho de e-mail interno custa minutos; numa resposta a cliente ou num parecer, pode custar processo. Uma classificação simples em três faixas funciona:

Faixa	Exemplo de uso	Consequência do erro	Controle mínimo
Baixa	Rascunho interno, brainstorming, resumo para uso próprio	Retrabalho	Revisão pessoal do autor
Média	Comunicação externa, relatório gerencial, análise de mercado	Reputação, decisão mal informada	Checagem de fatos e fontes por pessoa responsável + registro de uso
Alta	Resposta automática a cliente, texto jurídico/regulatório, dado financeiro divulgado	Responsabilidade legal, multa, dano ao cliente	Fonte controlada (recuperação) + revisão humana obrigatória + trilha de auditoria

Essa lógica é a mesma da matriz de classificação de risco usada em uso seguro de IA no trabalho e deve estar escrita na política de uso de IA da empresa, para que a faixa de cada caso de uso não seja decidida na hora, por quem está com pressa.

Seis controles que reduzem alucinações na prática

Nenhum controle zera o risco. A combinação reduz a probabilidade e, mais importante, reduz a chance de o erro chegar ao destino final.

1. Ancorar a resposta em fonte controlada. Em vez de deixar o modelo responder de memória, forneça os documentos relevantes (política, contrato, base de conhecimento) e instrua-o a responder só com base neles. É a técnica conhecida como RAG (geração aumentada por recuperação). Reduz alucinações, mas não as elimina — o estudo de Stanford acima mostra isso.
2. Exigir citação verificável. Peça trecho e localização da fonte, e confira ao menos uma amostra. Referência sem link ou número de página é sinal de alerta.
3. Permitir o "não sei". Prompts de sistema que autorizam e incentivam o modelo a declarar incerteza reduzem a invenção induzida por pressão de formato.
4. Revisão humana proporcional à faixa de risco. Para a faixa alta, a revisão é etapa obrigatória do fluxo, com nome do revisor registrado; para a baixa, é responsabilidade do autor.
5. Limitar o escopo do agente. Um assistente de atendimento que só responde sobre três temas, com fonte definida, alucina menos do que um generalista aberto. Para agentes com autonomia de ação, veja governança de agentes de IA autônomos.
6. Medir e testar. Monte um conjunto de perguntas com resposta conhecida, rode antes de cada mudança de modelo ou prompt e acompanhe a taxa de erro ao longo do tempo. A prática se conecta a auditoria de IA e red teaming de IA.

O fator humano: capacitação é um controle

A maioria das alucinações que chegam a um cliente passou por uma pessoa que confiou demais na resposta. Isso é problema de capacitação tanto quanto de tecnologia. Colaboradores precisam saber três coisas: que a fluência do texto não indica correção, quais tipos de pedido têm maior risco (citações, números, nomes, normas) e como checar rapidamente. Esse conteúdo cabe na alfabetização em IA e no programa de capacitação em IA para colaboradores. Na prática da Jetpacks, o módulo de verificação de saídas é parte do que o método Flight Plan chama de Booster: o time treina com os casos de uso reais da própria área, não com exemplos genéricos.

Quem responde quando a IA erra

A pergunta que o conselho e o jurídico fazem é objetiva: se a IA errou, de quem é a conta? A resposta de tribunais, como no caso Air Canada, tem sido que a empresa responde pelo que publica, sem importar a origem do texto. Isso implica três decisões de governança:

• Dono por caso de uso. Todo fluxo com IA que toca cliente ou regulador tem uma pessoa nomeada como responsável pela exatidão da saída.
• Registro. Guardar entrada, saída e revisão permite reconstruir o que aconteceu — e provar diligência.
• Plano de resposta. Saber quem corrige, comunica e remedia quando um erro é descoberto. Veja o plano de resposta a incidentes de IA.

Um roteiro de 30 dias para começar

1. Semana 1 — inventário. Liste onde a IA generativa já é usada na empresa, inclusive o uso não oficial.
2. Semana 2 — classificação. Atribua faixa de risco (baixa, média, alta) a cada caso de uso.
3. Semana 3 — controles. Defina o controle mínimo por faixa e nomeie o dono dos casos de faixa alta.
4. Semana 4 — teste e treino. Monte o conjunto de teste para os casos críticos e treine as áreas afetadas.

Começar pela faixa alta evita o erro comum de dedicar meses a regras para rascunhos internos enquanto o chatbot de atendimento segue sem revisão.

FAQ

O que são alucinações de IA?

São respostas geradas por um modelo de IA que parecem corretas, mas contêm informação falsa ou inventada — como fatos, números, citações ou fontes que não existem. Ocorrem porque o modelo prevê texto plausível, não consulta fatos verificados.

É possível eliminar as alucinações de IA?

Não com a tecnologia atual. É possível reduzi-las com fonte controlada, escopo limitado, instruções que permitem o "não sei" e revisão humana. O estudo de Stanford sobre ferramentas jurídicas mostra que mesmo sistemas com recuperação de documentos erram em 17% a 33% dos casos testados.

A empresa é responsável por erros do chatbot?

Em casos já julgados, sim. No caso Moffatt v. Air Canada (2024), o tribunal rejeitou a tese de que o chatbot seria uma entidade separada e responsabilizou a empresa pela informação errada. Em cada jurisdição o enquadramento muda; consulte o jurídico para o seu caso.

O RAG resolve o problema de alucinação?

Reduz, mas não resolve. O RAG limita o modelo a responder a partir de documentos fornecidos, o que diminui a invenção, mas o modelo ainda pode interpretar mal um trecho ou misturar fontes. Por isso, em casos de alta criticidade, o RAG precisa vir acompanhado de revisão humana.

Como detectar uma alucinação?

Desconfie de citações sem link ou número de página, de números muito precisos sem fonte, de nomes de leis ou casos que você não consegue localizar e de respostas excessivamente seguras sobre temas recentes. Confira ao menos uma amostra na fonte original antes de usar.

Quais áreas da empresa correm mais risco?

As que produzem conteúdo com consequência externa: atendimento ao cliente, jurídico, financeiro, compliance e comunicação. A classificação por faixa de risco ajuda a decidir onde o controle precisa ser mais rígido.

Conclusão: o risco é gerenciável, não ignorável

Alucinação não é motivo para proibir a IA generativa, e sim para decidir, caso de uso a caso de uso, quanto de verificação cada saída merece. Empresas que tratam o assunto como processo — classificação, controle mínimo, dono nomeado, registro — conseguem escalar o uso com o risco sob controle. Se você quer mapear onde a sua empresa está exposta e quais controles priorizar, agende o diagnóstico gratuito da Jetpacks: uma conversa de 30–45 minutos para sair com a lista de casos de uso e a faixa de risco de cada um.