カーパシーの自律研究プロジェクト：AIエージェントが夜通しLLM学習実験を実行

カーパシーの自動研究プロジェクトの概要

アンドレイ・カーパシーは、「AI研究者イン・ザ・ループ」の概念を示す「autoresearch」という小さなリポジトリを公開しました。このシステムは、AIエージェントを使用して、一晩中単一のGPUでLLM学習実験を自律的に実行します。

仕組み

エージェントは次のワークフローに従います：

• train.pyファイルを継続的に編集する
• 5分間のナノチャット学習実験を実行する
• 検証ビット・パー・バイト（val_bpb）メトリックが改善したかどうかを確認する
• このサイクルを睡眠中に繰り返す

セットアップと構成

このプロジェクトは非常に最小限のセットアップです：

• ハードウェア： 1つのGPU
• ファイル： 1つのメインファイル
• メトリック： 1つの主要メトリック（val_bpb）

人間はprogram.mdに研究組織のプロンプトを書き、エージェントがコードの反復を処理します。

実験のスループット

実験ごとに固定の5分の予算で、システムは1時間あたり約12回の実験を実行できます。

このアプローチは、AIエージェントがパラメータ空間と学習構成を自律的に探索できる自動化された研究の実用的な実装を示しており、言語モデルを扱う開発者の実験サイクルを加速させる可能性があります。