OpenAI GPT-6 Luna disponível nas Foundation Model APIs

Para que serve

Imagine que você precisa de um modelo rápido e eficiente para tarefas de raciocínio e agentes, sem gastar com os modelos mais pesados da categoria. O GPT-6 Luna oferece:

• Capacidades de raciocínio rápido e agentes com menor custo na linha GPT-6.
• Suporte a entradas multimodais (texto e imagem).
• Acesso via endpoints pay-per-token no seu workspace.

Como usar

Você pode consultar o modelo usando o nome de serviço do sistema em suas requisições de API.

from databricks.sdk import WorkspaceClient

w = WorkspaceClient()

response = w.serving_endpoints.query(
    name="databricks-gpt-6-luna",
    messages=[
        {
            "role": "user",
            "content": "Explique este diagrama em uma frase."
        }
    ]
)
print(response)

O que acontece nesse código:

1. Inicializa o cliente do workspace do Databricks.
2. Envia uma requisição de consulta para o endpoint do modelo GPT-6 Luna.
3. Passa uma mensagem de texto contendo a solicitação do usuário.
4. Imprime a resposta gerada pelo modelo.

Limitações e requisitos

• O modelo não tem suporte no AI Playground; utilize a Responses API para interagir com ele.
• Os clientes são responsáveis por garantir a conformidade com os termos de uso aplicáveis dos modelos.
• Disponível no modo pay-per-token.