Vitalik 實測本地模型:上下文拉到十萬,輸出速度掉三成

據鏈新聞發布,Vitalik Buterin 在搭載 AMD Strix Halo 的筆電上以 llama.cpp 跑 Qwen 3.8 flash,公佈十組實測:短上下文輸出每秒 28 至 33 個 token,上下文拉到 10 萬時降到 18 至 21。他認為本地模型調度雲端査詢、避免提問外流的工作流程開始可行。 這篇文章 Vitalik 實測本地模型:上下文拉到十萬,輸出速度掉三成最早出現於鏈新聞 ABMedia 。
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊