Jede offizielle OpenAI-Bibliothek funktioniert; nur base_url ändert sich. Beispiele verwenden gpt-5.6-sol; für das Astra-Paket verwende gpt-astra.
Chat Completions
base_url muss /v1 enthalten und darf nicht mit / enden. Die Bibliothek hängt /chat/completions selbst an.
Antworten folgen dem OpenAI-Schema exakt: id ist chatcmpl-..., usage hat prompt_tokens, completion_tokens und completion_tokens_details.reasoning_tokens. Kontingent wird exakt usage.total_tokens berechnet.
Responses API
Codex und neuere SDKs verwenden dieses Protokoll. Die Reasoning-Einstellung liegt in reasoning.effort.
Reasoning Effort
Mit Chat Completions verwende reasoning_effort (low, medium, high). Nicht gesetzt, verwendet das Gateway high. Für einfache Aufgaben setze low, um Tokens zu sparen:
reasoning_effort gilt nur für Chat Completions. Mit der Responses API verwende reasoning: {"effort": ...}; reasoning_effort an /v1/responses zu senden wird mit “Unsupported parameter” abgelehnt.
Streaming
Bei schwierigen Fragen kann das Modell eine Weile denken, bevor der erste Token kommt. Verwende stream: true, damit die Verbindung nicht unterbrochen wird. stream_options.include_usage lässt den letzten Chunk usage tragen, damit du das Kontingent selbst abgleichen kannst.
Bilder senden (Vision)
Bilder werden im content-Array übergeben, als öffentliche URL oder base64 für lokale Dateien.
Bilder kosten Tokens je nach Größe. Schneide auf den relevanten Teil zu, statt einen vollständigen 4K-Screenshot zu senden.
Modelle und Kontingent per API
subscription gibt das Gesamtlimit in hard_limit_usd zurück; usage gibt das Verbrauchte in total_usage zurück, in Cent (vor dem Vergleich durch 100 teilen). Die Prüfseite macht das für dich.