Setiap library OpenAI resmi berfungsi; hanya base_url yang berubah. Contoh menggunakan gpt-5.6-sol; untuk paket Astra gunakan gpt-astra.
Chat Completions
base_url harus menyertakan /v1 dan tidak boleh diakhiri dengan /. Library menambahkan /chat/completions sendiri.
Respons mengikuti skema OpenAI persis: id adalah chatcmpl-..., usage memiliki prompt_tokens, completion_tokens, dan completion_tokens_details.reasoning_tokens. Kuota dikenakan persis usage.total_tokens.
Responses API
Codex dan SDK terbaru menggunakan protokol ini. Pengaturan reasoning ada di reasoning.effort.
Reasoning effort
Dengan Chat Completions gunakan reasoning_effort (low, medium, high). Jika tidak diset, gateway menggunakan high. Untuk tugas sederhana set low untuk menghemat token:
reasoning_effort hanya untuk Chat Completions. Dengan Responses API gunakan reasoning: {"effort": ...}; mengirim reasoning_effort ke /v1/responses ditolak dengan “Unsupported parameter”.
Streaming
Pada pertanyaan sulit model mungkin berpikir sebentar sebelum token pertama. Gunakan stream: true agar koneksi tidak terputus. stream_options.include_usage membuat chunk terakhir membawa usage sehingga Anda bisa merekonsiliasi kuota sendiri.
Mengirim gambar (vision)
Gambar masuk dalam array content, sebagai URL publik atau base64 untuk file lokal.
Gambar menghabiskan token berdasarkan ukuran. Potong bagian yang relevan daripada mengirim tangkapan layar 4K penuh.
Model dan kuota melalui API
subscription mengembalikan total di hard_limit_usd; usage mengembalikan yang telah digunakan di total_usage, dalam sen (bagi 100 sebelum membandingkan). Halaman cek melakukan ini untuk Anda.