हर official OpenAI library काम करती है; केवल base_url बदलती है। Examples gpt-5.6-sol उपयोग करते हैं; Astra package के लिए gpt-astra use करें।
Chat Completions
base_url में /v1 शामिल होना चाहिए और / से खत्म नहीं होनी चाहिए। Library खुद /chat/completions जोड़ती है।
Responses OpenAI schema को बिल्कुल follow करती हैं: id है chatcmpl-..., usage में prompt_tokens, completion_tokens और completion_tokens_details.reasoning_tokens हैं। Quota ठीक usage.total_tokens से लिया जाता है।
Responses API
Codex और नए SDKs इस protocol का उपयोग करते हैं। Reasoning setting reasoning.effort में है।
Reasoning effort
Chat Completions के साथ reasoning_effort (low, medium, high) use करें। Set न होने पर gateway high use करता है। Simple tasks के लिए token बचाने हेतु low set करें:
reasoning_effort केवल Chat Completions के लिए है। Responses API के साथ reasoning: {"effort": ...} use करें; /v1/responses को reasoning_effort भेजने पर “Unsupported parameter” से reject होगा।
Streaming
कठिन सवालों पर model पहले token से पहले थोड़ा सोच सकता है। Connection drop न हो इसलिए stream: true use करें। stream_options.include_usage आखिरी chunk में usage शामिल करता है ताकि आप खुद quota reconcile कर सकें।
Images भेजना (vision)
Images content array में जाती हैं, public URL या local files के लिए base64 के रूप में।
Images size के हिसाब से tokens खर्च करती हैं। पूरा 4K screenshot भेजने की बजाय relevant part crop करें।
API के ज़रिए Models और quota
subscription hard_limit_usd में total return करता है; usage total_usage में use किया गया cents में return करता है (compare करने से पहले 100 से divide करें)। Check page यह आपके लिए करता है।