c.AI.Chat(ctx, request) llama al AI Gateway, un endpoint de chat completions compatible con OpenAI. Necesita el scope ai:chat y un plan Standard o superior.
Petición
Campos desquarecloud.ChatRequest, con sus nombres JSON:
La respuesta es un
ChatCompletion con la forma de OpenAI: ID, Object, Created, Model, Choices (Index, Message, FinishReason) y Usage (PromptTokens, CompletionTokens, TotalTokens).
Sin streaming
AI.Chat no hace streaming: devuelve la respuesta completa. ChatRequest no tiene campo stream; la API responde 400 stream_not_supported a stream: true.
Timeout
El gateway concede a cada petición 90 segundos en total y después responde 503server_overloaded. Sin un deadline en ctx, el SDK espera al menos 2 minutos antes de agotar el tiempo, así que recibes la respuesta del gateway.
Errores
Los errores de IA usan el formato de OpenAI, así que sus códigos están en minúsculas. Aun así se devuelven como un*APIError, con Code igual al código de OpenAI (o a su type cuando no hay código):
El SDK nunca reintenta los errores de IA: la petición es un
POST no idempotente. Consulta la referencia del AI Gateway para ver los límites de cada plan.
