【23 Daily 綜合報導】據 github.com 報導，一位15歲少年開發了一款名為LaplacesScissors的工具，能直接編輯大型語言模型（LLM）的權重。此工具透過旋轉語言模型的輸出矩陣，實現對模型特定答案的保護性修改，為模型定制與微調提供了新手段。

LaplacesScissors的技術原理與功能

LaplacesScissors通過計算原始輸出矩陣的旋轉來實現權重編輯。其核心過程包括“probe”階段，該階段從模型權重構建數值輸入，追蹤在多層中弱輸出區分度及互相抵消的方向，以及權重座標。接著，“diagnose”階段會使用預期答案字串的案例，找到可修正失敗答案同時保護成功答案的平面或聯合旋轉。所有目標與保護條件均由GPU實際輸出檢查確認。最後透過對多個檢查點套用相同旋轉策略進行規模分析，評估偏差與恢復量。

使用環境與操作方式

LaplacesScissors依賴Rust工具鏈、能調用Triton 3.8的Python環境以及CUDA或HIP驅動。Python負責Triton編譯橋接，Rust則處理模型加載、斷詞、執行、編輯計算與結果存儲。用戶可指定模型來源，如Hugging Face上的組織/模型及版本，或本地safetensors模型目錄。編輯過程基於JSONL格式的測試案例，指定期望答案選項與提示。工具可檢視原始模型對答案的準確度，並在保護成功回答的前提下，定位並修正失敗回答的權重問題。

精細的權重調整與輸出保護機制

該工具依據數值探查結果，計算讀出旋轉，保護原始輸出矩陣的行Gram矩陣、兩個隱藏層狀態中點及參考與控制狀態。用戶可通過設定旋轉角度、權重變動量與輸出容差限制，平衡修改強度與回答保護效果。編輯過程會實際執行GPU旋轉並驗證候選修改，確保提升損失度同時不超越保護閾值。最終產出包括多份JSON格式的報告與調整方案，方便用戶回放並驗證修改準確性。

編輯觀點：該工具對創業者的啟示與應用價值

LaplacesScissors代表了對大型語言模型深度微調的新途徑，尤其是在無需重新訓練整體模型的情況下，可針對特定錯誤進行精準權重調整。對於致力於打造定制化AI應用的初創企業，這種技術能顯著縮短開發週期與降低計算成本。驗證此工具的有效方法包括通過自有測試集執行案例，對比編輯前後模型對目標回答的準確度與保護回答的穩定性。從技術角度看，該工具的開源架構及與Rust、Triton、CUDA等技術棧的結合，為AI模型操作提供了可擴展且靈活的平台，大有助益於創業生態的創新推進。