Modelo Anthropic Claude Sonnet 5.5 em Preview no Snowflake Cortex AI

O modelo Claude Sonnet 5.5 chegou ao Snowflake Cortex AI em estágio de Public Preview. É possível utilizá-lo tanto através das funções nativas quanto pela Cortex REST API, com suporte a inferência entre regiões.

Para que serve

Imagine que você precisa integrar um modelo avançado de linguagem da Anthropic aos seus fluxos de dados sem sair do ambiente seguro do Snowflake.

• Executar chamadas para o Claude Sonnet 5.5 via API REST usando o ecossistema do Snowflake.
• Aproveitar inferência entre regiões configurando o parâmetro adequado.
• Monitorar o consumo de tokens e créditos diretamente no Account Usage.

Como usar

A autenticação e o uso seguem o padrão da API de Mensagens da Anthropic adaptada para o Snowflake.

import httpx
import anthropic

PAT = "<SNOWFLAKE_PAT>"

http_client = httpx.Client(
  headers={"Authorization": f"Bearer {PAT}"},
)

client = anthropic.Anthropic(
  api_key="not-used",
  base_url="https://<account-identifier>.snowflakecomputing.com/api/v2/cortex",
  http_client=http_client,
  default_headers={"Authorization": f"Bearer {PAT}"},
)

response = client.messages.create(
  model="claude-sonnet-5-5",
  max_tokens=1024,
  messages=[
    {"role": "user", "content": "Como funciona a inferência no Snowflake?"}
  ],
)

print(response.content[0].text)

O que acontece nesse código:

1. Inicializa o cliente HTTP configurando o token de acesso programático (PAT) do Snowflake no cabeçalho de autorização.
2. Configura o cliente da Anthropic apontando a URL base para o endpoint do Cortex REST API no Snowflake.
3. Envia uma mensagem para o modelo claude-sonnet-5-5 solicitando uma resposta com limite de tokens.
4. Imprime no console o texto retornado pelo modelo.

Limitações e requisitos

• O modelo está em Public Preview e não é recomendado para cargas de trabalho de produção críticas.
• Requer que o parâmetro de inferência entre regiões esteja configurado como AWS_GLOBAL ou ANY_REGION quando necessário.
• É preciso possuir as permissões adequadas de acesso ao Cortex, como a role SNOWFLAKE.CORTEX_USER ou SNOWFLAKE.CORTEX_REST_API_USER.