Alla officiella OpenAI-bibliotek fungerar; bara base_url ändras. Exemplen använder gpt-5.6-sol; för Astra-paketet, använd gpt-astra.
Chat Completions
base_url måste inkludera /v1 och får inte sluta med /. Biblioteket lägger till /chat/completions självt.
Svaren följer OpenAI-schemat exakt: id är chatcmpl-..., usage har prompt_tokens, completion_tokens och completion_tokens_details.reasoning_tokens. Kvoten debiteras exakt usage.total_tokens.
Responses API
Codex och nyare SDK:er använder detta protokoll. Resonemangsinställningen finns i reasoning.effort.
Resonemangsnivå
Med Chat Completions, använd reasoning_effort (low, medium, high). Utan inställning använder gatewayen high. För enkla uppgifter, ange low för att spara tokens:
reasoning_effort gäller bara Chat Completions. Med Responses API, använd reasoning: {"effort": ...}; att skicka reasoning_effort till /v1/responses avvisas med “Unsupported parameter”.
Streaming
På svåra frågor kan modellen tänka en stund innan den första token. Använd stream: true så att anslutningen inte avbryts. stream_options.include_usage gör att det sista segmentet bär usage så att du kan stämma av kvoten själv.
Skicka bilder (vision)
Bilder placeras i content-arrayen, som en offentlig URL eller base64 för lokala filer.
Bilder kostar tokens beroende på storlek. Beskär till den relevanta delen istället för att skicka en hel 4K-skärmdump.
Modeller och kvot via API
subscription returnerar totalen i hard_limit_usd; usage returnerar vad som använts i total_usage, i cent (dividera med 100 innan jämförelse). Kontrollsidan gör detta åt dig.