【23 Daily】github.com の報道によると、15歳の少年が大型言語モデル（LLM）の重みを直接編集できるツール『LaplacesScissors』を開発した。このツールはLLMの出力行列を回転させ、特定の答えを保護しつつ修正することで、モデルのカスタマイズと微調整に新たな手法を提供する。

LaplacesScissorsの技術的特徴と機能

LaplacesScissorsは元の出力行列の回転を計算することで重み編集を実現する。プローブ段階でモデル重みから数値的入力を構成し、層間で出力差別化が弱く相殺される方向と関連する重み座標を追跡する。診断段階では期待される答え文字列を用い、失敗した答えを修正し成功した答えを保護する平面または結合回転を見つける。すべての目的と保護条件はGPUの実際の出力で検証される。スケーリング分析は同じ編集方針を複数チェックポイントに適用し、偏差と回復量を評価する。

使用環境と利用方法

Rustツールチェーン、Triton 3.8をインポート可能なPython環境、CUDAまたはHIPドライバを準備する必要がある。PythonはTritonのコンパイル橋渡しを行い、Rustがモデルの読み込み、トークン化、実行、編集計算、結果保存を担う。モデル入力は組織名/モデル名やリビジョン、Hugging FaceのモデルURL、ローカルのsafetensorsディレクトリが指定可能。編集はJSONL形式のケースで行い、正解インデックスやプロンプトを指定する。オリジナルモデルの回答を検証しつつ、正確さを保ったまま失敗回答を修正するための重み編集を行う。

精密な重み調整と出力保護の仕組み

数値プローブに基づき、元の出力行列の行Gram行列、二つの隠れ状態の中間点、参照および制御状態を保護する読取回転を計算する。回転角度、編集ノルム、出力許容誤差の上限を設定でき、編集強度と回答の保護を両立する。GPU上での実際の回転適用により、候補編集が発散度を上げつつ保護閾値を満たすか検証する。結果は複数のJSON形式レポートおよび承認提案書として出力され、再現と検証が可能。

編集部の視点：起業家にとっての示唆と活用可能性

LaplacesScissorsは大型言語モデルの深い微調整に対し、モデル全体の再訓練なしで個別の重み編集を可能にする手法を示した。カスタムAIアプリ開発を目指すスタートアップにとって、開発期間短縮とコスト削減に寄与しうる技術である。効果検証は自社のテストセットを用い、編集前後での対象回答の正確度および保護回答の安定性を比較することが有効である。オープンソースかつRust、Triton、CUDA、HIPとの連携により、柔軟かつ拡張性のあるAIモデル操作プラットフォームとして、イノベーション促進に貢献する可能性が高い。