c.AI.Chat(ctx, request) chama o AI Gateway, um endpoint de chat completions compatível com OpenAI. Requer o escopo ai:chat e um plano Standard ou superior.
Requisição
Campos desquarecloud.ChatRequest, com seus nomes em JSON:
A resposta é um
ChatCompletion no formato da OpenAI: ID, Object, Created, Model, Choices (Index, Message, FinishReason) e Usage (PromptTokens, CompletionTokens, TotalTokens).
Sem streaming
AI.Chat não faz streaming: ele retorna a completion inteira. ChatRequest não tem campo stream; a API responde 400 stream_not_supported a stream: true.
Timeout
O gateway dá a cada requisição 90 segundos no total e então responde 503server_overloaded. Sem um prazo no ctx, o SDK espera pelo menos 2 minutos antes de expirar, então você recebe a resposta do gateway.
Erros
Os erros de IA usam o formato da OpenAI, então seus códigos são em minúsculas. Eles ainda são retornados como um*APIError, com Code definido como o código da OpenAI (ou seu type quando não há código):
O SDK nunca tenta novamente erros de IA: a requisição é um
POST não idempotente. Veja a referência do AI Gateway para os limites dos planos.
