Skip to main content
Mọi thư viện OpenAI chính thức đều dùng được, chỉ cần đổi base_url. Ví dụ dưới dùng gpt-5.6-sol; gói Astra thay bằng gpt-astra.

Chat Completions

base_url phải có /v1 và không có dấu / ở cuối. Thư viện tự nối /chat/completions vào sau.
Phản hồi đúng chuẩn OpenAI: id dạng chatcmpl-..., usage có prompt_tokens, completion_tokens, completion_tokens_details.reasoning_tokens. Hạn mức trừ đúng bằng usage.total_tokens.

Responses API

Codex và các SDK mới dùng giao thức này. Tham số suy luận nằm trong reasoning.effort.

Chỉnh mức suy luận

Với Chat Completions dùng reasoning_effort (low, medium, high). Không chỉ định thì gateway dùng high. Việc đơn giản đặt low để tiết kiệm token:
reasoning_effort chỉ dùng với Chat Completions. Với Responses API dùng reasoning: {"effort": ...}, gửi reasoning_effort vào /v1/responses sẽ bị từ chối “Unsupported parameter”.

Streaming

Với câu hỏi khó, model có thể suy nghĩ khá lâu trước khi trả chữ đầu tiên. Bật stream: true để không bị ngắt kết nối giữa chừng. stream_options.include_usage cho chunk cuối chứa usage để bạn tự đối chiếu hạn mức.

Gửi ảnh (vision)

Ảnh nằm trong mảng content. Dùng URL công khai hoặc nhúng base64 cho ảnh trong máy.
Ảnh tốn token theo kích thước. Cắt lấy phần cần hỏi thay vì gửi nguyên màn hình 4K.

Danh sách model và hạn mức bằng API

subscription trả tổng hạn mức trong hard_limit_usd, usage trả phần đã dùng trong total_usage tính bằng cent (chia 100 trước khi so). Không muốn tự tính thì dùng trang kiểm tra key.