GPT-6 Astra支持無損換擋:長對話切思考強度不再打掉緩存

BiRun 訊,OpenAI 給 GPT-6 Astra 新增 configuration_update。在 Responses API 的衕一段長對話裡,現在可以隨時調高或調低 reasoning effort,又不改寫已經緩存的 Prompt 前綴。難題切 High、xhigh,簡單任務再降回 Low,前面的長上下文還能繼續復用。

以前這是個很隱蔽的燒錢坑。reasoning effort 會作為上下文開頭的指令,中途切到新的思考檔位,會導致大量緩存無法繼續復用。有 Codex 用戶實測,切換檔位後緩存命中率曾從 98.5% 掉到 65%,下一輪重新建立緩存後才恢復到 97% 以上。

對長時間運行的 Agent 來說,這個改動很實用。碰到難題可以臨時拉高思考強度,簡單任務再降回來,不會只因為換擋,就讓前面幾十萬 Token 的緩存重新按普通輸入處理。

信源

動察 Beating 頻道 · 動察 Beating 交流羣
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊