AI Gateway + kill switch: o controle que farma precisa

Por que farma não pode chamar OpenAI direto do eQMS, o que um AI Gateway controlado faz, e por que kill switch é exigência prática em sistema GxP.

Toda farma que começa a usar IA tem o mesmo impulso inicial: integrar direto. Cliente OpenAI/Anthropic no código do eQMS, chamada direta, resposta retorna. Funciona — mas vira passivo regulatório em meses. Falha de DLP, vazamento de dados de cliente, sem audit trail proprietário, sem capacidade de desligar rápido.

A resposta arquitetural é AI Gateway proprietário com kill switch. Esse artigo destila o que ele faz, por que é exigência prática, e como o NOAH implementa.

O problema da chamada direta

Quando o eQMS chama LLM externo diretamente:

• Conteúdo pode incluir dados regulados (PII, dados de produto, info de batch)
• Fornecedor (OpenAI/Anthropic/etc) pode logar, treinar, ou armazenar (depende dos termos)
• Sem controle de DLP — o que sai, sai
• Sem audit trail interno — não tem como reproduzir invocação
• Sem kill switch — pra parar a IA, precisa redeployar código
• Custo descontrolado — qualquer usuário pode gastar API key da empresa

Em sistema GxP isso é incompatível com expectativa regulatória de controle.

O que o AI Gateway resolve

AI Gateway é a camada que intermedeia toda chamada de IA do sistema. Componentes essenciais:

1. DLP (Data Loss Prevention)

• Redaction de PII antes do prompt sair (CPF, nomes, dados sensíveis)
• Bloqueio de campos marcados como sigilosos
• Log do que foi enviado vs. o que era o input original

2. Rate-limit e cost control

• Limite de tokens por usuário, por tenant, por hora
• Alerta quando consumo se desvia do baseline
• Bloqueio de runaway (loop infinito ou prompt anormal)

3. Multi-provider routing

• Roteamento entre fornecedores (OpenAI, Anthropic, Bedrock, Vertex) por política
• Failover se um fornecedor cair
• Escolha de modelo por tipo de tarefa (cheap pra summary, premium pra análise)

4. Audit trail proprietário

• Toda invocação registrada com prompt + resposta + modelo + custo + usuário
• Hash-chain SHA-256 garante integridade do log
• Auditor pode reproduzir e contestar

5. Validação de output

• Checagem de saída contra schema esperado
• Rejeição de resposta com marca de alucinação detectável
• Fallback pra resposta default em caso de erro

O kill switch — não é paranoia

Kill switch é a capacidade de desligar IA imediatamente sem deploy. Por que isso importa:

• Incidente de DLP: descobre-se que prompt está vazando dado de paciente. Precisa parar agora.
• Hallucination crítica: modelo passou a produzir output errado de forma sistemática.
• Fornecedor caiu: OpenAI/Anthropic com outage. Sistema precisa cair gracefully em modo sem-IA.
• Custo descontrolado: alguém disparou loop que consome U$ 5k/hora. Stop.
• Pedido regulatório: inspetor pede desligamento temporário pra análise. Precisa cumprir agora.

Sem kill switch, qualquer um dos 5 vira incidente prolongado. Com kill switch, é decisão de admin em 10 segundos.

Onde o kill switch precisa morar

3 níveis recomendados:

1. Global: desliga IA pra toda plataforma. Usado em incidente sistêmico.
2. Por tenant: desliga pra cliente específico. Usado quando cliente pede.
3. Por feature: desliga uma capacidade IA específica (ex: "revisão de SOP") mas mantém outras (ex: "tradução").

Todos os 3 devem ser controláveis por admin sem deploy, com audit trail do quem-desligou-quando-e-por-quê.

Como o NOAH implementa

NOAH OS tem AI Gateway próprio (módulo "Inteligência" — Tier 3, sob consulta). Características:

• Provider routing entre Anthropic Claude + fallbacks
• DLP nativo: PII strip antes do prompt sair
• Tabela ai_invocation com hash-chain
• Kill switch global / per-tenant / per-feature exposto no /operator (painel do dono)
• Painel admin de IA com KPIs (uso, custo, alertas)
• Validação Cat 5 do código do gateway e Cat 4 dos prompts versionados

Não é IA "ligada na ponta". É IA integrada com a mesma disciplina do resto do sistema GxP.

O que evitar

• "Vamos fazer prompt direto no Microsoft Copilot 365 e usar nos documentos" — sem DLP, sem audit trail próprio, vínculo com fornecedor único, kill switch dependente do fornecedor
• "Vamos comprar plugin de IA do nosso eQMS" — depende de como o vendor implementou. Verifique se tem AI Gateway próprio ou se é só wrapper
• "Vamos esperar a regulação amadurecer" — EU AI Act já está em vigor desde 2024. Esperar é arriscado

Veja a leitura dedicada da governança.