關於 token 與計費
大模型按 token 計量輸入和輸出。瞭解 token 的計算方式,能幫你更準確地預估成本。
token 是什麼
token 是模型讀寫文本的最小單位。請求發出後,文本先由模型的分詞器(tokenizer)切成一個個 token,再按 token 數計費。
不同廠商、不同代際的模型分詞器不同,同一段文字在不同模型上的 token 數可能相差不少。最準確的數字是介面返回的 usage 欄位。
中英文大致換算
下表是常見的經驗值,只用於粗略估算,實際視模型的分詞器而定。程式碼、數字、生僻字和表情符號通常更「費」token。
| 內容 | 大致 token 數 |
|---|---|
| 1 個英文單詞 | 約 1.3 個 |
| 1,000 個英文字元 | 約 250 個 |
| 1 個漢字 | 約 0.6 – 1.5 個,視分詞器而定 |
| 1,000 個漢字 | 約 600 – 1,500 個 |
輸入、輸出與快取如何計費
按 token 計費的模型,一次請求的費用由幾部分相加,單價都按「每百萬 tokens」標註:
- 輸入(prompt tokens):系統提示、歷史訊息、工具定義、上傳的檔案內容都算輸入,按輸入價計費。
- 輸出(completion tokens):模型生成的內容,按輸出價計費,通常比輸入貴數倍。
- 快取讀取:輸入中命中上下文快取的部分按快取讀取價計費,一般只有輸入價的一小部分。
- 快取寫入:部分模型(如 Claude)首次把內容寫入快取時,按快取寫入價計費。
- 按次計費的模型(多見於影像、影片)每次請求固定價格,與 token 數無關。
費用 = 輸入 × 輸入價 + 輸出 × 輸出價 + 快取讀取 × 快取讀取價 + 快取寫入 × 快取寫入價
本模型按次計費:「OpenAI 官方」分組每次請求 ¥4.5,與輸入輸出長度無關。
推理 token 計入輸出
推理(思考)模型在給出答案前會先生成一段內部推理。這部分 token 雖然不一定返回給你,但會計入輸出(usage 中的 reasoning tokens),按輸出價計費。
所以同一個問題,推理模型的輸出 token 往往明顯更多。不需要深度推理的任務,可以調低推理強度,或換用非推理模型。
圖片和音訊也會折算成 token
多模態模型會把圖片按解析度折算成一定數量的輸入 token,尺寸越大、細節檔位越高,token 越多;音訊通常按時長折算。具體折算方式各模型不同,以介面返回的 usage 為準。
在哪裡檢視每次扣費
登入控制台,在「操作日誌」裡可以看到每次呼叫的模型、分組、輸入 / 輸出 / 快取 token 數和實際扣費金額,並支援篩選和匯出。
在程式碼裡,介面返回的 usage 欄位也會給出本次的 token 數;流式請求記得開啟 include_usage。
降低成本的幾個辦法
- 按需選分組:同一模型在不同分組價格不同,在「價格」標籤頁可以按省錢、均衡或穩定挑選。
- 用好快取:把固定不變的系統提示、參考文件放在訊息開頭,提高快取命中率。
- 控制輸出:設定 max_tokens,並在提示裡要求簡潔的輸出格式。
- 精簡上下文:長對話定期做摘要,避免每輪都發送完整歷史。
- 大小模型搭配:分類、抽取等簡單任務交給更便宜的模型,複雜任務再用旗艦模型。
- 推理模型按需調低推理強度。