Skip to main content
Alle officielle OpenAI-biblioteker virker; kun base_url ændres. Eksemplerne bruger gpt-5.6-sol; til Astra-pakken brug gpt-astra.

Chat Completions

base_url skal inkludere /v1 og må ikke slutte med /. Biblioteket tilføjer /chat/completions selv.
Svar følger OpenAI-skemaet præcist: id er chatcmpl-..., usage har prompt_tokens, completion_tokens og completion_tokens_details.reasoning_tokens. Kvoten debiteres præcist usage.total_tokens.

Responses API

Codex og nyere SDK’er bruger denne protokol. Ræsonneringsindstillingen bor i reasoning.effort.

Ræsonneringsniveau

Med Chat Completions brug reasoning_effort (low, medium, high). Uden indstilling bruger gatewayen high. Til enkle opgaver sæt low for at spare tokens:
reasoning_effort gælder kun Chat Completions. Med Responses API brug reasoning: {"effort": ...}; at sende reasoning_effort til /v1/responses afvises med “Unsupported parameter”.

Streaming

På svære spørgsmål kan modellen tænke et stykke tid inden det første token. Brug stream: true så forbindelsen ikke afbrydes. stream_options.include_usage får det sidste segment til at bære usage, så du selv kan afstemme kvoten.

Send billeder (vision)

Billeder placeres i content-arrayet, som en offentlig URL eller base64 til lokale filer.
Billeder koster tokens efter størrelse. Beskær til den relevante del i stedet for at sende et helt 4K-skærmbillede.

Modeller og kvote via API

subscription returnerer totalen i hard_limit_usd; usage returnerer det brugte i total_usage, i cent (divider med 100 inden sammenligning). Tjeksiden gør dette for dig.