Microsoft、重みの更新なしで学習するLLMエージェント向けEvoLibをリリース

Why it matters

EvoLib gives agent builders a way to reuse lessons across tasks when model weights are inaccessible, but its value depends on reliable self-evaluation and production testing. ([github.com](https://github.com/microsoft/EvoLib))

Microsoft Researchは7月30日にEvoLibをリリースした。EvoLibは、基盤となる重みを変更することなく、大規模言語モデルがタスクを横断して改善できるよう支援するテスト時学習フレームワークである。この発表は5月14日に最初に投稿された論文（7月14日に改訂）に続くもので、Microsoftは技術解説とEvoLibのコードも公開した。(microsoft.com)

https://x.com/msftresearch/status/2082860019016438152?s=46

論文の共著者7名は Weijia Xu、Alessandro Sordoni、Chandan Singh、Zelalem Gero、Michel Galley、Xingdi Yuan、Jianfeng Gao である。最初の著者であるWeijia Xuは Microsoft Research Redmond のシニアリサーチャーで、University of Maryland, College Park で計算機科学の博士号を取得している。彼女の研究は、目標が変化する状況下で計画し、行動し、相互作用できる言語モデルに焦点を当てている。Jianfeng Gao、Microsoft の technical fellow であり corporate vice president は、Bing、Azure AI、Microsoft 365、Copilot を含む製品群で使用されるAIモデルに関する社内全体の方向性を設定している。(microsoft.com)

エージェントの履歴を再利用可能な知識へ変える

EvoLibは多くのエージェントメモリシステムにある弱点に対処する。トランスクリプト、推論トレース、または過去の行動を保存しても、モデルがそこから有用な教訓を抽出できるとは限らない。類似した、古くなった、または狭い適用範囲の記録が蓄積されると、大規模なアーカイブは検索を難しくすることもある。

このフレームワークはモデルの推論軌跡を2種類の知識に処理する。「モジュール化されたスキル」は再利用可能な手続きで、コーディング用の関数やエージェントのサブタスクワークフローなどが該当する。「反省的な洞察」は失敗した試行から蒸留された自然言語のルールである。ライブラリは問題インスタンス間で共有され、あるタスクで抽出された知識が後のタスクに影響を与えることを可能にする。(microsoft.com)

EvoLibはライブラリを構造化されていないログのまま拡大させるのではなく、類似エントリを統合する。また、Information Gain と Future Information Gain を用いてエントリに重みを割り当てる。最初のスコアは抽象化が現在のタスクに役立つかどうかを測り、二つ目は後に他の有用な知識を生み出す抽象化に報酬を与える。より大きな価値が測定されたエントリは、以後のプロンプトに現れる可能性が高くなる。(github.com)

このアーキテクチャは、API経由で閉じたモデルを利用する開発者にとって重要である。EvoLibはモデルのパラメータや勾配更新へのアクセスを必要としないため、MicrosoftはブラックボックスのLLMsの周りで動作できると述べている。その自己教師あり評価は、ラベル付き訓練データの代わりに実行可能なテスト、過半数決定、またはLLMジャッジを使用できる。公開実装には Azure OpenAI chat wrapper が含まれている一方、研究者たちはこのフレームワークは一般にブラックボックスモデルと互換性があると説明している。(github.com)

Microsoftは数学、コード、エージェントタスクでの改善を報告

研究チームは EvoLib を、2025年と2026年の Harvard-MIT Mathematics Tournament の93問、148の BigCodeBench Hard タスク、80の LiveCodeBench v6 Hard 問題、90の ScienceWorld タスク、60の PDDL 計画タスクで評価した。実験では BigCodeBench に GPT-4o、その他のベンチマーク群には o4-mini を使用した。(arxiv.org)

論文によれば、静的なベンチマーク設定で EvoLib はベースのサンプリングに対して11%〜20%の改善を示した。HMMT では報告された正答率が77.4%に達し、ベースモデルの57%や Best-of-N sampling の74.2%を上回った。BigCodeBench のパス率は40.8%で、ベースモデルの29.7%および Best-of-N の37.2%と比較して高かった。EvoLib は LiveCodeBench で Recursive Self-Aggregation と70%のパス率で並んだ。(arxiv.org)

Microsoftはまた、比較対象の中で最も強力なテスト時学習ベースラインである Dynamic Cheatsheet を三つのベンチマークで5%〜10%上回ったと報告している。研究者たちはコストを、出力トークンを入力トークンの4倍のコストとして扱う加重トークン数で測定しており、これは典型的なプロプライエタリモデルの価格設定を反映している。計算予算を削減した場合でも、EvoLib はコーディングテストにおいてテスト時スケーリングベースラインよりも大きな利得を維持した。(arxiv.org)

これらの結果は EvoLib の著者らによって選択・実行された制御されたベンチマークから得られたものであり、実運用の長期デプロイメント中にエージェントが安全に改善されることを立証するものではない。EvoLib はモデル自身の評価が有用なシグナルを生成することに依存している。著者らは、コードのテスト実行のように答えを検証するほうが生成するより容易な場合に最もよく機能すると述べている。オープンエンドな回答は別の検証器を必要とする場合があり、本論文は数学、コーディング、および評価されたエージェント環境外での性能を示していない。(arxiv.org)

GitHubのリリースは MIT license の下で公開されており、数学、コード、ScienceWorld、PDDL タスクの評価パスを含んでいる。Microsoft はこれを研究用コードとラベル付けし、追加のテストなしに商用、実環境、または高リスクなデプロイを行うことは推奨していない。警告は中心的な運用リスクを指摘している：自身の作業を誤判断するモデルは悪い教訓を保存し、それを再適用してエラーを時間とともに増幅させる可能性がある。(github.com)