【23 Daily 綜合報導】JustVugg 推出名為 colibri 的開源尖端 Mixture of Experts (MoE) 模型引擎,於 2026 年 11 月 2 日登上 GitHub Trending 榜單。這個以純 C 語言編寫且零依賴的輕量引擎,允許使用者在現有硬體上執行規模達數千億參數的前沿 MoE 模型,並於官方專案頁提供免費下載和使用(根據專案說明)。
colibri 支援龐大模型動態載入專家子模型,提高硬體利用率
colibri 的設計理念是利用 MoE 模型的特性——每個字詞只需使用模型中部分專家(Experts),讓大量參數的專家模型不必全部載入記憶體。colibri 在執行時將固定部分長駐 RAM,需使用的專家則依需求從硬碟動態讀取,達成龐大模型可在一般消費級電腦上運行,最低需求為 8GB 記憶體及約 22GB 硬碟空間。
目前 colibri 支援十三種引擎,其中十款為語言模型,包括 GLM-5.2/5.3(同時支援 Mistral-Large-4)、Qwen 系列(Qwen3.8-Flash-Next、Qwen3.6、Qwen3-Coder 等)、以及 DeepSeek、Inkling、OLMoE 等。除語言模型外,還有 Qwen-Image-2.1 圖像生成引擎與決策引擎 Laya、GLiNER2.5-Decide 和 Clef。
多平台多後端支援與簡易安裝流程
colibri 支援 CPU、Vulkan GPU 以及 NVIDIA CUDA GPU,其中若符合條件會優先編譯 GPU 版本提升運算效能。安裝流程簡便:下載 ZIP 壓縮檔解壓後,執行批次或 shell 腳本,按指示選擇適合硬體的模型,引擎會自動偵測硬體資源,推薦最適模型,並自動下載與編譯所需組件。即使中斷下載,系統亦能自動續傳。
使用者也可利用包含在文件中的 AI 程式助理腳本自動完成配置與安裝;或自行選擇模型版本、後端和資料夾路徑等更加彈性。所有操作均透過命令列和瀏覽器介面,提供不同層級的使用者體驗。
編輯觀點:colibri開放高階MoE模型的本地運行契機與驗證方式
colibri 以輕量且零依賴的純 C 實作、利用硬碟動態載入專家模型,極大地降低了使用者體驗前沿大模型的硬體門檻,讓擁有常見桌機或筆電的創業者也能部署龐大且彈性的 MoE AI 模型。其支援多種硬體後端增加了跨平台使用自由度。
創業者可藉由下載並安裝 colibri,在已有設備上實測模型運行表現與回應速度,進一步評估在產品中利用先進 MoE 模型進行語言、圖像和決策任務的可行性。透過命令列工具監控資源使用狀態,也方便做性能調優。此專案的普及與活躍開發態勢(GitHub 超過4萬6千星)更證明了這類解決方案的市場需求與發展潛力。