Lilian Wengが再帰的自己改善の研究のためにOpenAIに復帰

Why it matters

OpenAI is reclaiming a third Thinking Machines cofounder and assigning Weng to research that could shorten the cycle for designing, training and evaluating successor models.

Lilian Weng (@lilianweng) は、水曜日の The Information の報道によれば、AI システムを使って新しいモデルを開発する作業に取り組むために OpenAI に復帰するという。

今回の動きは、Weng をロボティクス、応用AI、モデルの安全性にわたってほぼ7年間働いたあの研究所に戻す。彼女は2024年11月に OpenAI を離れ、研究・安全担当バイスプレジデントになってから数か月後に、元 OpenAI の最高技術責任者 Mira Murati と共に Thinking Machines Lab を共同設立した。

Weng の復帰は、今週彼女が Thinking Machines Lab を去る決断をしたことに続く。彼女は持続的なストレスや度重なる病気を含むスタートアップ業務による健康への影響を理由に挙げ、7月29日が最終日になると述べた。Thinking Machines Lab は創業者に幅広い責任と不確かなスケジュールを求めており、Weng はより明確な境界線と予測可能な労働環境を望んでいたと述べている。

OpenAI は彼女に技術的に野心的な任務を与えている。Stephanie Palazzolo (@steph_palazzolo) は Amir Efrati と共にこの動きを報じ、その仕事を再帰的自己改善（recursive self-improvement）と説明した：AI を使ってより良い AI モデルを作るのを助けることだ。

Weng はすでにその研究アジェンダの詳細な版を示している。彼女は7月4日付のテクニカルブログでのエッセイで、再帰的自己改善はモデルが自分自身の重みを書き換えることを直接行うことを超えて広がり得ると書いた。AI システムは代わりに、後継モデルを生成するために使われるトレーニング・パイプライン、ツール、評価手法、デプロイメント用ソフトウェアを改善することができる。

その枠組みは、周辺のエンジニアリングシステム、しばしば "harness" と呼ばれるものを作業の中心に据える。ハーネスはモデルがどのように計画し、ツールを使い、コンテキストを管理し、結果を記録し、自らの試行を評価するかを制御する。そのループの一部を自動化すれば、研究者はより多くの実験を行いトレーニング手法をより速く洗練させることが可能になり、一方で目的、評価、計算資源の配分については人が責任を持ち続けることができる。

Weng の経歴はその作業に必要な複数の分野にまたがっている。彼女は OpenAI の Dactyl 研究、ルービックキューブを解くロボットハンドを訓練したプロジェクトを含む取り組みに貢献した後、モデル安全性の分野に深く移った。彼女はその後 OpenAI の Safety Systems 組織を構築・率い、展開されたモデルの評価と安全策に取り組んだ。彼女の Lil'Log 技術エッセイは、強化学習、報酬ハッキング、自律エージェント、スケーリング則、テスト時の推論なども扱っている。

この採用は、Thinking Machines Lab の立ち上げに参加するために去った人材を OpenAI が再び採用する動きを続けるものだ。1月には Thinking Machines Lab の共同設立者である Barret Zoph と Luke Metz が研究者 Sam Schoenholz とともに OpenAI に戻った。Weng は2026年にその道を戻る3人目の Thinking Machines Lab 共同設立者である。

この人材の流出入が重要なのは、Thinking Machines Lab が主に Murati と彼女の周りの元 OpenAI 研究者たちの実績に基づいて資金調達されていたためだ。Thinking Machines Lab は2025年にモデルや製品をリリースする前に、$2 billion のシードラウンドを $12 billion の評価額で調達した。この資金は、主な資産がスタッフである AI 研究グループに対する、初期段階の最大級の賭けの一つだった。

Thinking Machines Lab はその賭けを製品で支え始め、モデルカスタマイズプラットフォームの Tinker と、7月15日にリリースされたオープンウェイトのモデル Inkling を投入した。Thinking Machines Lab は、汎用ベンチマークのトップスコアを単独で競うのではなく、カスタマイズ可能なモデルと人間とAIの協調を中心に研究を位置づけている。

Weng の退任は、最初のモデルリリース直後にモデル開発、安全システム、研究管理にまたがる経験を持つ創業者を失わせる。行き先がその損失をさらに大きくしている：OpenAI は部分的に OpenAI 出身者の代替的な拠り所として設立されたラボから研究者を引き戻している。

OpenAI にとって、この採用は、フロンティアラボがモデル開発を加速する手段と見なすことが増えている分野に経験豊富な研究リーダーを加えることになる。OpenAI は最近、自己対戦（self-play）を用いて自動化されたセーフティ・レッドチーマーを訓練する研究を公開しており、これは AI システムが生成・評価した成果がその後のトレーニングにフィードバックされる別の例である。

The Information の報道は Weng の役職、報告体制、開始日を特定していない。ただし公表された任務内容は、彼女が公に発展させてきた技術的方向性と密接に一致している：評価、メモリ、報酬設計の問題に直面しつつ、AI によってモデル開発のループのより多くを閉じることによって、自動化された改善が信頼できないものになり得る課題に取り組むということだ。