Kimi研究員質疑NaiveAI,2000tok/s証明不了「AI造AI」
BiRun 訊,清華大學副敎授代季峯創辦的 NaiveAI 剛發布首款模型 N0.5-Flash。公司主打「AI 參與研發 AI」,稱模型參與了架構設計、代碼編寫和推理優化。官方公佈的單流推理峯值達到 2122 tok/s。
月之闇面研究員楊新宇隨後公開質疑這套宣傳。他認為,2000 tok/s 本身完全可能做到,但 NaiveAI 選的對比基綫太弱。它拿 SGLang 的 300 多 tok/s 做參照,小米此前已經讓參數更大的 MiMo-V2.5-Pro 跑到 1000 tok/s 以上。基綫選得低,最後的提昇幅度自然更顯眼。
楊新宇也不認可 NaiveAI 對架構創新的描述。N0.5-Flash 基於小米 MiMo-V2.5 Base 改造,把原來的全侷注意力換成 DSA。NaiveAI 最後用了 DSA + GQA。楊新宇認為,這更多是基於現有底模做出的工程取捨,還會損失 GPU 利用率,算不上多大的架構突破。
他認為 NaiveAI 証明了模型可以靠繼續訓練和工程優化變快,但目前還沒証明「AI 參與研發」本身帶來了人類團隊做不到的突破。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
月之闇面研究員楊新宇隨後公開質疑這套宣傳。他認為,2000 tok/s 本身完全可能做到,但 NaiveAI 選的對比基綫太弱。它拿 SGLang 的 300 多 tok/s 做參照,小米此前已經讓參數更大的 MiMo-V2.5-Pro 跑到 1000 tok/s 以上。基綫選得低,最後的提昇幅度自然更顯眼。
楊新宇也不認可 NaiveAI 對架構創新的描述。N0.5-Flash 基於小米 MiMo-V2.5 Base 改造,把原來的全侷注意力換成 DSA。NaiveAI 最後用了 DSA + GQA。楊新宇認為,這更多是基於現有底模做出的工程取捨,還會損失 GPU 利用率,算不上多大的架構突破。
他認為 NaiveAI 証明了模型可以靠繼續訓練和工程優化變快,但目前還沒証明「AI 參與研發」本身帶來了人類團隊做不到的突破。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊