Modelo OpenAI GPT-6.1 Sol disponível em Public Preview no Cortex AI

O modelo de linguagem openai-gpt-6.1-sol foi integrado ao Snowflake Cortex AI em Public Preview. Ele permite realizar inferências mantendo os dados dentro do perímetro de segurança da plataforma.

Para que serve

Imagine que você precisa integrar um modelo avançado da OpenAI aos seus fluxos de aplicações dentro do Snowflake, garantindo governança e segurança.

• Executar chamadas de chat utilizando a API compatível com o ecossistema da OpenAI.
• Realizar inferências com suporte a múltiplas regiões usando configurações de infraestrutura cruzada.

Como usar

Você pode consumir o novo modelo utilizando o SDK oficial da OpenAI apontando para o endpoint do Cortex AI.

from openai import OpenAI

client = OpenAI(
  api_key="<SNOWFLAKE_PAT>",
  base_url="https://<account-identifier>.snowflakecomputing.com/api/v2/cortex/v1"
)

response = client.chat.completions.create(
  model="openai-gpt-6.1-sol",
  messages=[
    {"role": "system", "content": "Você é um assistente útil."},
    {"role": "user", "content": "Explique o que é engenharia de dados em uma frase."}
  ]
)

print(response.choices[0].message.content)

O que acontece nesse código:

1. Inicializa o cliente da OpenAI apontando o base_url para o endpoint do Cortex AI no Snowflake.
2. Passa o token de acesso programático (PAT) para autenticação.
3. Envia uma requisição de chat definindo o modelo openai-gpt-6.1-sol e as mensagens de contexto.
4. Imprime no console a resposta gerada pelo modelo.

Limitações e requisitos

• O modelo está em estágio de Public Preview e não é recomendado para cargas de trabalho críticas de produção.
• Requer que o parâmetro de inferência entre regiões esteja configurado para AWS_US, AWS_GLOBAL ou ANY_REGION conforme a disponibilidade.