スタンフォード大学CS25トランスフォーマー講座、一般公開へ ライブ配信も実施

スタンフォード大学のCS 25 Transformersコースは、トランスフォーマーアーキテクチャの研究に焦点を当てたセミナーで、ライブストリーミングと聴講オプションを通じて一般公開されています。
コース詳細
コースは毎週木曜日、2025年1月23日から午後4時30分から5時50分(PDT)に開催されます。セッションはスタンフォード大学のSkilling Auditoriumで行われ、遠隔参加者は同時にZoomでアクセスできます。すべての講義は録画され、オンラインで公開されます。
コース内容
毎週、研究者がトランスフォーマーのブレークスルーについて議論します。内容には以下が含まれます:
- GPTやGeminiなどのLLMアーキテクチャ
- アート生成(DALL-E、Sora)における創造的な応用
- 生物学と神経科学への応用
- ロボティクスでの実装
講演者ラインナップ
過去および今後の講演者には以下が含まれます:
- アンドレイ・カーパシー(元テスラAIディレクター)
- ジェフリー・ヒントン(ディープラーニングの先駆者)
- ジム・ファン(NVIDIA AI研究者)
- アシッシュ・ヴァスワニ(「Attention Is All You Need」の共著者)
- OpenAI、Anthropic、Google、NVIDIAの研究者
アクセス情報
コースのウェブサイトはhttps://web.stanford.edu/class/cs25/です。過去の講義はYouTubeで数百万回再生されており、アンドレイ・カーパシーのセッションは2023年のスタンフォード大学のYouTube動画で2番目に人気がありました。ウェブサイトのリンクから、6000人以上のメンバーがいるDiscordサーバーにアクセスできます。
今回のCS 25は、Modal、AGI House、MongoDBがスポンサーを務めています。
📖 Read the full source: r/LocalLLaMA
👀 See Also

UmbrelOSでのOpenClawテスト:知っておくべきこと
OpenClawとUmbrelOSの統合が検討されており、AI強化型コーディングツールの新たな環境を提供する可能性があります。

AI支援による創作における二重基準:コーディング対ライティング
Redditでの議論は、AI支援コーディング(バイブコーディング)とAI支援ライティングの受け入れられ方の対照性を浮き彫りにしており、同一のワークフローにもかかわらず文化的な認識が異なることを指摘しています。

NVIDIA、Nemotron-3-Ultra-550Bをリリース:550億のアクティブパラメータ、100万トークンのコンテキスト、LatentMoEハイブリッド
NVIDIAがNemotron-3-Ultra-550B-A55B-BF16を公開。550Bパラメータ、55Bアクティブ、100万トークンのコンテキスト、ハイブリッドLatentMoEアーキテクチャ(Mamba-2 + MoE + Attention + MTP)、設定可能な推論機能を搭載。

原始人対「簡潔に」プロンプト:Claude向け圧縮プロンプトのベンチマーク
5つのアームにわたる24プロンプトのベンチマークによれば、2語のプロンプト「簡潔に。」は、トークン数と出力品質の両方でキャブマン圧縮に匹敵するものの、キャブマンは構造的一貫性と安全エスケープ機能を提供します。