Um AI gateway é uma camada única entre os aplicativos e agentes da empresa e os provedores de modelos de linguagem (LLMs). Todo pedido a um modelo passa por ele, e é ali que a empresa autentica quem pergunta, aplica política, limita custo e registra o que aconteceu. Este texto é para quem decide ou aprova o investimento em IA e precisa saber se esse componente resolve o problema de governança que a política de papel não resolve.
O que é um AI gateway (e o que ele não é)
AI gateway, ou LLM gateway, é um ponto central de passagem do tráfego de IA da empresa: autentica o consumidor, decide o que ele pode usar, aplica controles e gera registro. Os fornecedores da categoria descrevem o mesmo núcleo: a documentação do Kong AI Gateway fala em governança e observabilidade centralizadas sobre dados e uso de IA, com gestão central das credenciais dos provedores.
O que ele não é:
- Não é uma política de uso. A política de uso de IA na empresa diz o que é permitido; o gateway é um dos controles técnicos que faz essa regra valer onde o tráfego passa.
- Não é uma certificação. Ele gera evidência e reduz risco, mas não torna a empresa "conforme" sozinho.
- Não cobre o que não passa por ele. Se o colaborador abre uma conta pessoal em outro site, o gateway não vê. Esse caso é o de shadow AI e exige outros controles.
- Não é obrigatório para todo mundo. Veja mais abaixo quando ele não compensa.
Por que o tema chegou à diretoria
Enquanto a IA era um chat aberto numa aba do navegador, a governança cabia em um documento e em treinamento. Dois movimentos mudaram isso:
- Aplicações e agentes chamam modelos por API. Cada equipe cria sua integração, com sua chave, seu provedor e seu jeito de registrar (ou não) o que enviou. O resultado é um risco fragmentado: segurança, conformidade e custo espalhados em dezenas de integrações isoladas, o oposto de uma governança de IA na prática.
- Agentes executam ações, não só respondem. A governança de agentes de IA autônomos exige saber quais ferramentas cada agente pode chamar, com qual identidade e com qual limite.
O gateway concentra essa decisão num lugar em vez de pedir que cada time a reimplemente.
O que um AI gateway controla
A lista abaixo resume as funções que a documentação de fornecedores e artigos técnicos da categoria repetem. Trate-a como menu de requisitos, não como garantia de que um produto específico entrega tudo.
| Função | O que faz | Pergunta de governança que responde |
|---|---|---|
| Autenticação e identidade | Liga cada chamada a um usuário, time ou aplicação (por SSO ou chave por consumidor) | Quem usou? Veja gestão de identidade para agentes de IA |
| Autorização | Define quais modelos, provedores e ferramentas cada consumidor acessa | Quem pode usar o quê? Veja controle de acesso por perfil |
| Cotas e orçamento | Limita requisições e gasto por time, aplicação ou chave | Quanto estamos gastando e quem estourou? Veja FinOps para IA |
| Registro e auditoria | Guarda quem, quando, qual modelo e qual categoria de dado | Como provamos o que aconteceu? Veja retenção de logs de IA generativa |
| Filtros de conteúdo | Detecta e mascara dados pessoais e segredos antes de sair da empresa | Estamos vazando dado? Veja DLP para IA generativa |
| Roteamento e continuidade | Troca de provedor em falha; bloqueia provedores para certas classes de dado | E se o fornecedor cair ou o dado for restrito? Veja vendor lock-in em fornecedores de IA |
Chaves por consumidor: o ganho mais subestimado
O padrão que mais aparece nas descrições técnicas é a chave virtual por consumidor: cada time ou aplicação recebe uma credencial própria do gateway, com permissões e limites, e as chaves reais dos provedores ficam guardadas só dentro dele (descrito, por exemplo, no material da Maxim sobre governança com gateway, um fornecedor da categoria, portanto com viés comercial). Na prática isso resolve três dores comuns: chave de provedor colada em código ou planilha, impossibilidade de revogar o acesso de um único projeto e fatura única sem atribuição por área.
Registro: o que guardar e o que não guardar
Um log de auditoria útil responde a "quem, quando, qual modelo e qual categoria de dado". Cuidado com o excesso: registrar o conteúdo integral de cada conversa cria um novo repositório de dados pessoais e sensíveis. O desenho mais seguro registra metadados e eventos de mascaramento, e só guarda conteúdo quando há base legal e prazo de retenção definidos com o encarregado de dados. Esse equilíbrio é tratado em retenção de logs de IA generativa e no papel do DPO na governança de IA.
Quando um AI gateway vale a pena
Use estes quatro critérios antes de comprar ou construir:
- Mais de um time chama modelos por API. Com uma única integração, o gateway é custo sem retorno claro.
- Há dados sensíveis na rota. Se dados de clientes, saúde, finanças ou RH podem chegar ao modelo, o ponto central de filtro e registro tem valor direto. A classificação de dados diz o que pode passar.
- Há agentes com acesso a ferramentas. Cada ferramenta liberada é uma superfície de risco; veja também a segurança do MCP em apps vibe coded.
- A conta de IA é opaca. Se ninguém sabe quanto cada área gasta com tokens, o gateway é o caminho mais curto até a atribuição de custo.
Quando não compensa (ainda): empresa com poucos casos de uso, todos dentro de um único produto SaaS de IA já contratado com controles administrativos próprios. Nesse cenário, comece pela gestão do portfólio de ferramentas de IA e pelo inventário de sistemas.
Construir, comprar ou usar o que a nuvem já oferece
| Caminho | Quando faz sentido | Risco principal |
|---|---|---|
| Recurso nativo do provedor de nuvem | A empresa já concentra IA num único provedor | Cobre só aquele provedor; difícil rotear entre vários |
| Plataforma de gateway de mercado (comercial ou de código aberto) | Vários provedores, necessidade de auditoria e cotas | Custo de licença e operação; avaliar a segurança do próprio gateway como fornecedor de IA |
| Construir internamente | Requisitos muito específicos e time de plataforma maduro | Manutenção contínua; o gateway vira um produto interno |
Seja qual for o caminho, o próprio gateway entra na sua lista de sistemas críticos: é um ponto único de falha e um alvo atraente, já que concentra credenciais e tráfego. Exija alta disponibilidade, gestão de segredos e acesso administrativo restrito.
Como implantar sem travar quem já usa IA
O erro clássico é bloquear primeiro e oferecer alternativa depois: o uso migra para contas pessoais e a visibilidade piora. Uma sequência que respeita a adoção:
- Mapeie o tráfego atual. Levante quais aplicações, times e agentes chamam modelos e por qual provedor. Use o inventário de sistemas de IA como base.
- Comece em modo observação. Passe o tráfego pelo gateway só registrando, sem bloquear. Em poucas semanas você sabe quem usa o quê e quanto custa.
- Ative controles por risco. Primeiro chaves por consumidor e cotas; depois filtros de dados pessoais; por último restrições de modelo e de ferramenta por perfil.
- Defina responsáveis. Quem aprova um novo modelo, quem revisa os alertas e quem responde a incidente. Ligue ao plano de resposta a incidentes de IA e à observabilidade de agentes em produção.
- Meça. Acompanhe cobertura (que fração do tráfego passa pelo gateway), custo por área, bloqueios e incidentes. Sem esse número, o projeto vira infraestrutura sem prova de valor.
Gateway e pessoas: o controle técnico não substitui capacitação
O gateway filtra o que passa por ele; não ensina ninguém a decidir o que enviar. A maior parte do risco cotidiano continua sendo comportamento: colar dado de cliente num chat público, confiar numa resposta sem conferir. Por isso o controle técnico precisa andar junto com uso seguro de IA no trabalho e com a capacitação em IA para colaboradores.
Esse é o desenho que a Jetpacks aplica no método Flight Plan: o Launchpad (diagnóstico) mapeia onde a IA já está sendo usada e quais riscos existem, e o Mission Control (acompanhamento) mede adoção depois. Governança que ninguém consegue usar vira atalho; adoção sem governança vira incidente.
FAQ
O que é um AI gateway?
É uma camada central entre aplicações e provedores de LLM. Ela autentica quem faz a chamada, aplica regras de acesso, limites de custo e filtros de conteúdo, e registra o uso para auditoria.
Qual a diferença entre AI gateway e API gateway?
Um API gateway tradicional controla tráfego de APIs em geral (autenticação, limite de taxa, roteamento). O AI gateway acrescenta preocupações específicas de IA: cota por token, escolha de modelo e provedor, mascaramento de dados pessoais no prompt e controle de ferramentas usadas por agentes. Alguns fornecedores oferecem o recurso de IA como extensão do gateway de APIs.
O AI gateway garante conformidade com a LGPD?
Não. Ele ajuda com controles técnicos, como filtros de dados pessoais e registro, mas conformidade depende de base legal, finalidade, retenção e processos. Veja LGPD e IA generativa e envolva o encarregado de dados.
Preciso de um AI gateway se uso só ChatGPT, Copilot ou Gemini corporativos?
Provavelmente não como primeiro passo. Esses produtos têm controles administrativos próprios. O gateway ganha sentido quando há aplicações e agentes próprios chamando modelos por API, ou vários provedores ao mesmo tempo.
O gateway impede o shadow AI?
Só para o tráfego que passa por ele. Ferramentas acessadas direto pelo navegador em contas pessoais exigem outros controles, como DLP, filtros de rede e, principalmente, alternativas aprovadas que as pessoas queiram usar.
Quanto tempo leva para implantar?
Depende do número de integrações e do caminho escolhido. Um piloto em modo observação, cobrindo poucas aplicações, é uma meta realista de curto prazo; a cobertura total e os controles mais finos são um trabalho gradual.
Quem deve ser o dono do AI gateway?
Em geral, a área de plataforma ou segurança opera, e o comitê ou responsável por governança de IA define as regras. Deixar a decisão só com TI ou só com jurídico costuma gerar lacunas; veja o framework de governança de IA.
Conclusão: governança que funciona onde o tráfego passa
O AI gateway não resolve toda a governança de IA, mas resolve a parte mais difícil de fazer na mão: ter um ponto único para saber quem usa qual modelo, com quais dados e a que custo. Para a diretoria, a decisão é simples de enquadrar: se vários times já chamam modelos por API e há dados sensíveis na rota, o custo de não ter esse ponto de controle já está sendo pago em risco e em fatura.
O ponto de partida é o diagnóstico: onde a IA está sendo usada, por quem e com que dados. A Jetpacks conduz essa leitura em uma conversa de 30 a 45 minutos. Agende o diagnóstico gratuito ou veja como estruturamos o business case para a liderança. Para o panorama completo do tema, comece pelo artigo-pilar sobre governança de IA.
Descubra onde a IA gera mais resultado na sua empresa.
Comece com um diagnóstico gratuito: mapa de impacto por área e o desenho de um primeiro piloto medível, sem compromisso.