Alle offisielle OpenAI-biblioteker fungerer; bare base_url endres. Eksemplene bruker gpt-5.6-sol; for Astra-pakken bruk gpt-astra.
Chat Completions
base_url må inkludere /v1 og må ikke slutte med /. Biblioteket legger til /chat/completions selv.
Svar følger OpenAI-skjemaet nøyaktig: id er chatcmpl-..., usage har prompt_tokens, completion_tokens og completion_tokens_details.reasoning_tokens. Kvoten belastes nøyaktig usage.total_tokens.
Responses API
Codex og nyere SDK-er bruker denne protokollen. Resonnerings-innstillingen bor i reasoning.effort.
Resonnerings-nivå
Med Chat Completions bruk reasoning_effort (low, medium, high). Uten innstilling bruker gatewayen high. For enkle oppgaver sett low for å spare tokens:
reasoning_effort gjelder bare Chat Completions. Med Responses API bruk reasoning: {"effort": ...}; å sende reasoning_effort til /v1/responses avvises med “Unsupported parameter”.
Streaming
På vanskelige spørsmål kan modellen tenke en stund før det første token. Bruk stream: true slik at tilkoblingen ikke brytes. stream_options.include_usage gjør at det siste segmentet bærer usage slik at du kan avstemme kvoten selv.
Sende bilder (vision)
Bilder plasseres i content-arrayen, som en offentlig URL eller base64 for lokale filer.
Bilder koster tokens etter størrelse. Beskjær til den relevante delen i stedet for å sende et helt 4K-skjermbilde.
Modeller og kvote via API
subscription returnerer totalen i hard_limit_usd; usage returnerer det som er brukt i total_usage, i cent (divider med 100 før sammenligning). Sjekksiden gjør dette for deg.