研究ダイジェスト、2026年11月10日の週
LoRAの容量、エッジ向けの重み圧縮、RAGの引用の出所、プロンプトインジェクション防御、データ不要のモデルマージ、小さなパーサー向けの出力形式、SFT対RL、CUDAカーネルに関するarXiv論文8本。
今週の論文には、人々が当然と思っていたことを測るという共通の気分があります。そのうち2本はファインチューニングに関する通説を解体します。LoRAの容量に関する論文は、アダプタが設定されたランクをめったに使い切らないことを見いだし、使い切らせる正則化項を提案します。一方、SFT対RLに関するNeurIPS論文は、RLの汎化の評判の多くは比較対象だったSFTデータの産物だと論じます。
さらに2本はエージェントと検索システムの信頼に関するものです。RAGの出所に関する研究は、引用された文章はモデルがそれを使った弱い証拠にしかならず、自然言語推論によるチェックはその違いを捕まえるのに偶然と変わらないことを示します。CapLiteは、小さなモデルのエージェントに自分のセキュリティポリシーを書かせることは信頼できないことを示し、スキーマから導出する代替案を提示して、それはAgentDojoで持ちこたえました。
残りはすぐに手に取れるツールです。LazyWeightsは既存の量子化済みの重みをさらに圧縮し、新しいハードウェアを代償に必要に応じて復号します。結合零空間射影はデータなしでチェックポイントをマージします。意味解析の論文は、出力形式だけで10億未満のパーサーのサイレントエラー率が変わることを示します。KernelMosaicは、PyTorchのeagerに勝るCUDAカーネルを書くよう小さなモデルを学習させるためのデータセットを提供します。
Maximizing Capacity Utilization of LoRA Adapters for Mitigating the Learning-Forgetting Trade-off #
著者らは、混合ドメインや継続学習の設定におけるLoRAとフルファインチューニングの差は、アダプタが与えられたランクを使い切っていないことに一因があると主張します。学習済みアダプタの実効ランクは設定したランクをかなり下回ります。そこで、微分可能でSVD不要のRényi-2実効ランク正則化項を言語モデリング損失に加え、アダプタが更新をより多くの方向に広げるよう促します。3つのモデルでの混合ドメイン実験では、ペナルティ重み0.01により、設定ランク16以上のすべてで平均Wikipediaパープレキシティが素のLoRAより下がり、複数のLoRA変種で同じ使い残しが見られました。結果は1つの保留指標でのパープレキシティ改善なので、採用前にタスク精度を確認すべきですが、この正則化項は既存のPEFTの実行に安価に追加できます。コードは要旨からリンクされています。
LazyWeights: Decode-on-Demand Edge LLMs #
新しい量子化形式を発明する代わりに、この論文はGPTQ、AWQ、llama.cppのK-quantとI-quantをそのまま使い、整数コードがよく圧縮されるようGPTQを調整し、それらを可逆にHuffman符号化して、DRAMとL2の間にある小さなハードウェアユニットで必要に応じて復号します。GPUカーネルには手を加えません。パープレキシティ予算1%と3.5%において、符号化したPhi-3-mini、Mistral-7B、SmolLM-1.7Bは最良のllama.cpp形式より5.7から31.4%小さくなります。7 nmプロセスで1 GHz動作のビット厳密な0.21平方ミリメートルのデコーダは、Jetson Orin Nano Superでのトークンあたりレイテンシとエネルギーを最大36%と38%削減し、4 GBのJetson Nanoは1重みあたり3.89ビットでストリーミングされるMistral-7Bを6.6倍速く実行します。ハードウェアユニットはZynq UltraScale+ FPGAで検証された提案なので、この利得を実現するには新しいシリコンかFPGAのコンパニオンが必要です。
Cited but Unused: Parametric Provenance in Retrieval-Augmented Generation #
RAGシステムは、実際には記憶から回答しながら文章を引用することがあります。この論文は、検索されたテキスト中の事実を偽のものに差し替え、回答が変わるかを確認することで、それがどの程度の頻度で起きるかを測定します。1つのモデルファミリーの5つのサイズと比較用ファミリーにわたり、引用可能な主張の1.2から15.7%がコンテキストではなくパラメトリックな記憶に由来していました。自然言語推論によるチェックは、引用された文章に限定しても偶然と同じ水準でした。記憶から回答するモデルは、それに合致する引用を選ぶ傾向があるからです。コンテキストの有無での出力分布の比較が10の帰属手法の中で出所を最もよく分離しましたが、その信号に基づいて対処しても、この基準率では出所は改善しませんでした。実務上の教訓は、引用の一致は根拠づけの証拠にはならず、現在の検出器はいずれもゲートとして使えるほど正確ではないということです。
CapLite: Prompt-Injection Defense for Small Language Model Agents without Model-Written Security Artifacts #
プロンプトインジェクションに対する既存の強制型防御（CaMeL、Progent、IPIGuard、DRIFT）は、エージェント自身のモデルにプログラム、ポリシー、依存グラフを書かせ、それを強制します。15のオープンウェイトモデル（うち13は1.7 Bから12 Bパラメータ）をテストした著者らは、小さなモデルはそれ自体が攻撃されうる成果物を書き、CaMeLが生成したプログラムはしばしば動かないことを見いだしました。CapLiteは代わりにツールのスキーマからポリシーを導出し、ツールの結果を読む前にすべての書き込み呼び出しを確定させ、対象を決定するすべての引数がユーザーの要求に明示されている場合にのみ書き込みを許可します。AgentDojoでは、攻撃を受けた13,935エピソードで成功した攻撃はなく、攻撃下の有用性は29.0%でCaMeLの27.2%に対し、トークンコストはCaMeLの約18%でした。この設計は、信頼できない内容を読んだ後にエージェントができることを制限するものであり、それが狙いですが、正当な読んでから書くフローも排除してしまいます。
Joint Null-Space Projection for Data-Free Model Merging #
複数のファインチューニング済みチェックポイントを1つのマルチタスクモデルにマージする問題を、部分空間の干渉として扱います。各タスクの重み更新について、表現を最も変化させる入力方向を見つけ、他のタスクの部分空間と重なる成分を射影で取り除きます。この手法は閉形式で、順序に依存せず、データもラベルも勾配ステップも必要としません。ViT-B/16のエキスパートを使った8つのCLIP画像分類タスクで平均精度約89.45%に達し、TIES-Mergingの77.57、WUDIのデータ不要マージの88.47を上回ります。この利得は、3つのバックボーンにわたって独立に学習されたTALLチェックポイントでも保たれます。タスクごとの部分空間の代わりに1つの共有部分空間を使うと約2.9ポイント下がり、逐次的な変種は69.6%まで崩れます。RoBERTa-largeでは素のタスク算術を下回り、論文はこれを率直に報告しているので、ビジョンでの結果はテキストには持ち越せないかもしれません。
Parsed, Plausible, Wrong: Output Format Controls Silent Errors in Small-Model Semantic Parsing #
著者らは10億未満のモデル2つ（Qwen3.5-0.8BとLFM2.5-350M）を、同じPIZZA注文の構文木を可逆に符号化した6つの形式（注文あたり44.3トークンから10.9トークンまで）でLoRAによりファインチューニングし、学習セットのサイズとシードを変えて300の実験を階層ブートストラップとHolm補正付きで行いました。出力を短くするだけでは決して改善しませんでしたが、目標を通常の単語で書くことは効きました。単語による符号化は両モデルで最も正確で、しかもネイティブのS式より4.1倍少ないトークンしか出力しません。出力は構文解析できるが間違っているというサイレントエラー率を、Qwenで2.3倍、LFM2で1.8倍削減し、利得の多くは否定表現にありました。すべてのモデルがメニュー外の入力を拒否することを学びましたが、厳格な拒否は実際の、多くは丁寧な注文の2.1から10.1%も拒否しました。この研究は1つのドメインと2つの小さなモデルに限られますが、そのレシピ（モデルが言語として読める目標形式を選ぶ）は構造化出力の仕事にそのまま移せます。
Rethinking "RL Generalizes, SFT Memorizes": The Role of SFT Data #
強化学習は汎化し教師ありファインチューニングは記憶するという通説は、この論文の証拠によれば、主に使われたSFTデータについての言明です。Qwen2.5とQwen3のモデルで著者らは、慎重に混合したSFTセットは単一の大きなモデルが生成したデータに勝ること、SFTとRLの間で正解ロールアウトの数を揃えるとSFTの汎化が改善すること、総ロールアウト予算を揃えるとSFTがRLと同水準になることを示します。両方を組み合わせるとSFTはRLを上回ります。大きなデータセットは裾にある解法をより多くカバーし、著者らはそこに汎化可能な推論の信号があると主張しており、両方の学習方式における浅いTransformerの理論解析もこの見方を支持します。実験は1つのモデルファミリーに限られるので、RLの段階を捨ててSFTデータを増やす前に、予算を揃えた場合の結果を他で確認すべきです。
KernelMosaic: An Open Dataset and Agentic Framework for CUDA Kernel Generation #
KernelMosaicは、検証済みの解法とそれを生み出した推論の軌跡を対にしたCUDAタスクのオープンなデータセットで、人間のレビューと多様性を考慮した選択によって整備されています。エージェント型のフレームワークが強力なLLMを実装、正しさの修正、性能チューニングへと導いて軌跡を生成します。このデータセットで小さなオープンソースモデルをファインチューニングすると、KernelBenchのLevel 1、2、3での正答率が大幅に上がり、PyTorchのeager実行に勝る生成カーネルの割合が増えます。著者らはまた、軌跡を教師とするほうが最終回答だけを教師とするより優れると報告しています。要旨には絶対的な数値がなく、公開はCC BY-NC-ND 4.0の下で行われており、データの商用再利用が制限されます。