Elke officiële OpenAI-bibliotheek werkt; alleen base_url verandert. Voorbeelden gebruiken gpt-5.6-sol; voor het Astra-pakket gebruik gpt-astra.
Chat Completions
base_url moet /v1 bevatten en mag niet eindigen met /. De bibliotheek voegt /chat/completions zelf toe.
Antwoorden volgen het OpenAI-schema exact: id is chatcmpl-..., usage heeft prompt_tokens, completion_tokens en completion_tokens_details.reasoning_tokens. Quota wordt precies usage.total_tokens in rekening gebracht.
Responses API
Codex en nieuwere SDK’s gebruiken dit protocol. De reasoning-instelling staat in reasoning.effort.
Reasoning effort
Met Chat Completions gebruik reasoning_effort (low, medium, high). Niet ingesteld, gebruikt de gateway high. Voor eenvoudige taken stel low in om tokens te besparen:
reasoning_effort geldt alleen voor Chat Completions. Met de Responses API gebruik reasoning: {"effort": ...}; reasoning_effort sturen naar /v1/responses wordt geweigerd met “Unsupported parameter”.
Streaming
Bij moeilijke vragen kan het model even nadenken voor het eerste token. Gebruik stream: true zodat de verbinding niet wordt verbroken. stream_options.include_usage laat het laatste chunk usage bevatten zodat je quota zelf kunt reconciliëren.
Afbeeldingen sturen (vision)
Afbeeldingen gaan in de content-array, als een openbare URL of base64 voor lokale bestanden.
Afbeeldingen kosten tokens op basis van grootte. Crop naar het relevante deel in plaats van een volledige 4K-screenshot te sturen.
Modellen en quota via API
subscription geeft het totaal terug in hard_limit_usd; usage geeft wat gebruikt is terug in total_usage, in centen (deel door 100 voor vergelijking). De controlpagina doet dit voor je.