Proteja chamadas MCP contra jailbreak no Unity Gateway

O Databricks agora permite inspecionar chamadas e respostas de ferramentas MCP (Model Context Protocol) no Unity Gateway contra tentativas de jailbreak e injeção de prompt. Essa proteção nativa pode ser associada a serviços MCP para analisar a entrada, a saída ou ambas as etapas.

Para ativar o recurso pela interface, acesse o menu AI Gateway na barra lateral, selecione o serviço na aba MCPs, abra a aba Policies e crie uma nova política selecionando o guardrail Jailbreak.

Para que serve

Imagine que você mantém um agente de IA conectado a ferramentas corporativas via MCP, como consultas a bancos ou integrações externas. Um usuário mal-intencionado (ou dados externos não confiáveis retornados por uma ferramenta) pode tentar burlar as instruções do modelo por meio de técnicas de prompt injection. Com essa proteção, você pode:

• Bloquear argumentos maliciosos enviados para ferramentas MCP antes de sua execução (fase de entrada).
• Filtrar o retorno recebido de ferramentas externas antes que seja entregue ao modelo ou ao usuário (fase de saída).
• Aplicar barreiras de segurança nativas sem escrever regras ou código customizado de validação.

Limitações e requisitos

• Estágio: Beta. O recurso depende da habilitação do preview de políticas de serviço do Unity AI Gateway pelo administrador do workspace.
• Permissões: requer o privilégio MANAGE sobre o serviço securable MCP para anexar a política. Caso utilize um modelo avaliador diferente do padrão, é necessário ter EXECUTE no modelo, além de USE CATALOG e USE SCHEMA no catálogo e schema onde ele reside.
• Efeitos colaterais em ferramentas: a avaliação de saída roda após a ferramenta ter sido executada. O bloqueio impede que o resultado chegue ao modelo, mas não desfaz operações já executadas no sistema de destino; para barrar a chamada previamente, ative a verificação na fase de entrada (ON CALL).