Arquitetura de referência para IA corporativa: camadas, contratos e perímetro

Publicamos no blog executivo que "o ChatGPT da sua empresa não é uma estratégia de IA". Aqui está a contraparte técnica: o desenho de arquitetura que transforma essa afirmação em algo construível, testável e portável entre fornecedores.

O problema que a arquitetura resolve

Assinar um plano corporativo de um provedor de modelo não cria uma plataforma de IA — cria uma dependência. Sem camadas explícitas, cada equipe acopla sua lógica de negócio diretamente à API de um fornecedor específico, ao formato de prompt dele e ao seu modelo de custo. Trocar de fornecedor, adicionar um segundo modelo para um caso de uso específico, ou simplesmente auditar o que foi decidido e por quê, vira um projeto de meses.

A arquitetura de referência a seguir separa essas responsabilidades em camadas com contratos estáveis entre si.

As sete camadas

Aplicações e agentes
        │
   Orquestração
        │
  Gateway de modelos ── Recuperação (RAG) ── Memória/Acervo
        │
     Identidade
        │
 Observabilidade e trilha de auditoria

1. Gateway de modelos

Ponto único de saída para qualquer chamada a um LLM, interno ou externo. Responsabilidades:

• Normalizar a interface (um contrato interno, não o SDK de um fornecedor).
• Rotear por caso de uso, custo e latência entre múltiplos modelos.
• Aplicar limites de taxa, timeouts e políticas de retry.
• Registrar cada chamada (prompt, resposta, tokens, custo, modelo) antes de sair do perímetro.

Sem essa camada, a portabilidade entre provedores é teórica: existe no contrato do fornecedor, não no seu código.

2. Orquestração

Coordena sequências de chamadas — a um modelo, a ferramentas, a outros serviços — para cumprir uma tarefa. É aqui que vivem agentes, cadeias de raciocínio e máquinas de estado. A orquestração não deve conhecer detalhes do fornecedor de modelo; ela fala apenas com o gateway.

3. Recuperação (RAG)

Busca de contexto relevante em fontes internas antes de montar o prompt final. Envolve indexação, chunking, busca híbrida (vetorial + lexical) e reranking. A qualidade da recuperação costuma pesar mais no resultado final do que a escolha do modelo.

4. Memória e acervo

Estado persistente entre interações: histórico de conversa, preferências, decisões anteriores. Deve ser tratado como dado corporativo — com dono, política de retenção e controle de acesso — não como cache descartável do provedor de IA.

5. Identidade

Toda chamada de IA carrega identidade: de usuário, de aplicação, de agente. Isso permite autorização por escopo (quem pode acessar qual fonte, qual ferramenta, qual modelo) e é pré-requisito para qualquer trilha de auditoria com sentido.

6. Observabilidade

Métricas de latência, custo, taxa de erro e qualidade por rota, modelo e caso de uso. Sem isso, trocar de modelo é uma aposta, não uma decisão.

7. Trilha de auditoria

Registro imutável de quem pediu o quê, qual contexto foi usado, qual modelo respondeu e o que foi decidido a partir disso. É o artefato que sustenta explicabilidade e conformidade quando alguém pergunta "por que o sistema decidiu isso".

Portabilidade entre provedores

Portabilidade real acontece em duas frentes:

Trocar de modelo deve ser uma mudança de configuração no gateway, seguida de um ciclo de avaliação — não uma reescrita de aplicação.

O que fica dentro do perímetro da empresa

Uma regra prática: tudo que representa propriedade intelectual, dado de cliente ou lógica de decisão de negócio deve residir em infraestrutura sob controle da empresa — banco vetorial, acervo de memória, logs de auditoria, definições de prompt. O que pode atravessar o perímetro, sob contrato e com DLP na saída, é o mínimo necessário para a inferência: o prompt final e o contexto estritamente relevante para aquela chamada.

Erros comuns de implementação

1. 1.Orquestração falando direto com a API do fornecedor. Elimina a possibilidade de trocar de modelo sem tocar em código de negócio.
2. 2.Prompt embutido no código da aplicação. Impede versionamento, revisão e testes independentes (tema do próximo artigo desta série).
3. 3.RAG sem controle de acesso por fonte. Um índice único que mistura documentos públicos e confidenciais devolve o que não deveria, para quem não deveria.
4. 4.Observabilidade tratada como logging genérico. Sem métricas específicas de custo por token e qualidade por rota, decisões de arquitetura viram opinião.

O que fazer na segunda-feira

• Mapeie, para cada integração de IA existente, se ela passa por um gateway central ou fala direto com o provedor.
• Liste onde vivem hoje seus prompts de produção: código, planilha, painel do fornecedor. Se não estão em um repositório versionado, essa é a próxima prioridade.
• Verifique se existe algum registro de "quem pediu o quê" para as chamadas de IA em produção. Se não existe, a trilha de auditoria é o gap mais urgente.
• Escolha um caso de uso de baixo risco para testar a troca de modelo através do gateway, sem alterar código de aplicação, e meça o esforço real.

Leitura complementar

Trilha executiva:

• O ChatGPT da sua empresa não é uma estratégia de IA — a leitura de negócio deste mesmo tema.