Vitalik 實測本地模型:上下文拉到十萬,輸出速度掉三成
據鏈新聞發布,Vitalik Buterin 在搭載 AMD Strix Halo 的筆電上以 llama.cpp 跑 Qwen 3.8 flash,公佈十組實測:短上下文輸出每秒 28 至 33 個 token,上下文拉到 10 萬時降到 18 至 21。他認為本地模型調度雲端査詢、避免提問外流的工作流程開始可行。 這篇文章 Vitalik 實測本地模型:上下文拉到十萬,輸出速度掉三成最早出現於鏈新聞 ABMedia 。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊