AI開始集體放棄聊天？Needle 3只做工具調用，最小9MB就能跑

BiRun 訊，YC S25 端側 AI 公司 Cactus Compute 發布 Needle 3，專門做工具調用和結構化提取，不負責普通聊天。比如用戶說「把客廳燈調到 30%」，它只需要找到對應功能，再把「客廳」和「30%」填進參數。

它和最近很火的 Jev 有點像，但路綫不衕。Jev 直接給候選決策打分；Needle 3 還是逐 Token 生成，只是輸出被限製成程序能直接執行的工具調用。

Needle 3 一套權重可以裁成 2 到 20 層。2 層版本約 9MB，完整 20 層約 35MB，可以按手表、樹莓派、手機等不衕設備的算力來選。

針對安卓操作指令單獨微調後，4 層、2900 萬參數版本自測得分 62.5，超過 DeepSeek V4 Flash 的 60.5。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。