CerebrasがStep-3.5-Flash-REAPモデルをリリース、メモリ使用量を40%削減
概要
Cerebrasは、大規模モデルのメモリ効率の良い圧縮版であるStep-3.5-Flash-REAPモデルをリリースしました。これらは「ポテトセットアップ」と呼ばれる環境向けに設計された小型バージョンですが、121Bパラメータモデルでも依然として相当なリソースが必要です。
主な詳細
モデルはHugging Faceで利用可能です：
Step-3.5-Flash-REAP-121B-A11Bモデルは、196Bから121Bパラメータに圧縮されており、フルモデルとほぼ同等の性能を維持しながら40％のメモリ削減を実現しています。
圧縮にはREAP（Router-weighted Expert Activation Pruning）が使用されており、「冗長なエキスパートを選択的に削除しながら、残りのエキスパートに対するルーターの独立した制御を維持する新しいエキスパート剪定手法」と説明されています。
特徴と機能
- ほぼロスレスな性能： コード生成、エージェント型コーディング、関数呼び出しタスクにおいて、完全な196Bモデルとほぼ同等の精度を維持
- 40％のメモリ削減： 196Bから121Bパラメータに圧縮され、導入コストとメモリ要件を低減
- 機能の維持： コード生成、数学と推論、ツール呼び出しを含むすべてのコア機能を保持
- ドロップイン互換性： 標準のvLLMと動作 - ソースの変更やカスタムパッチは不要
- 実世界での使用に最適化： リソースが限られた環境、ローカル導入、学術研究に特に効果的
情報源では、これらが「小型バージョン」である一方、121Bモデルでも圧縮後もかなり強力なセットアップが必要であると指摘されています。
📖 詳細情報： r/LocalLLaMA
👀 See Also
Anthropic、Claudeの利用制限を緩和し、SpaceXの計算能力を追加
AnthropicはClaudeの利用制限を引き上げ、SpaceXとのコンピューティング契約を獲得しました。Redditの議論では、これは単なるインフラ拡張なのか、それともClaudeをエージェントワークに適したプラットフォームにするための戦略的動きなのかが検討されています。
Anthropic、Claude Code用リモートコントロールをリリース
AnthropicはClaude Codeのリモートコントロール機能を導入し、ユーザーがモバイルデバイスからコーディングセッションを継続できるようにしました。この機能の詳細はcode.claude.com/docs/en/remote-controlで確認できます。
鳥のスキルリポジトリが削除されました — X/Twitterアクセスを今すぐバックアップしてください
人気のbirdスキル（@steipete作）がGitHubから削除されました。ユーザーはすぐにインストールをバックアップする必要があります。
卒業式でAIの激励演説に学生がブーイング、開発者の心情を反映
今シーズンの複数の大学の卒業式で、卒業生たちがAIへの熱意を語るスピーカーにブーイングを浴びせ、AIの雇用や社会への影響に対する広範な不安を反映した。