Le cours CS25 sur les Transformers de Stanford s'ouvre au public avec diffusion en direct
Le cours CS 25 Transformers de l'Université de Stanford, un séminaire axé sur la recherche en architecture de transformateurs, est désormais ouvert à la participation du public via des options de diffusion en direct et d'audit.
Détails du cours
Le cours a lieu les jeudis de 16h30 à 17h50 PDT, à partir du 23 janvier 2025. Les sessions se déroulent au Skilling Auditorium de Stanford avec un accès simultané via Zoom pour les participants à distance. Toutes les conférences seront enregistrées et mises à disposition en ligne.
Contenu du cours
Chaque semaine, des chercheurs discutent des avancées en matière de transformateurs, notamment :
- Les architectures de LLM comme GPT et Gemini
- Les applications créatives dans la génération d'art (DALL-E, Sora)
- Les applications en biologie et neurosciences
- Les implémentations en robotique
Intervenants
Les intervenants précédents et à venir incluent :
- Andrej Karpathy (ancien directeur de l'IA chez Tesla)
- Geoffrey Hinton (pionnier de l'apprentissage profond)
- Jim Fan (chercheur en IA chez NVIDIA)
- Ashish Vaswani (co-auteur de "Attention Is All You Need")
- Des chercheurs d'OpenAI, Anthropic, Google et NVIDIA
Informations d'accès
Le site web du cours est https://web.stanford.edu/class/cs25/. Les conférences précédentes ont accumulé des millions de vues sur YouTube, la session d'Andrej Karpathy étant classée comme la deuxième vidéo YouTube la plus populaire de Stanford en 2023. Un serveur Discord avec plus de 6000 membres est disponible via le lien du site web.
Cette édition de CS 25 est sponsorisée par Modal, AGI House et MongoDB.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Mise à jour d'OpenClaw v3.22 provoque des problèmes de tableau de bord et WhatsApp
OpenClaw v3.22 présente des dysfonctionnements du tableau de bord et de l'intégration WhatsApp, avec deux problèmes GitHub (#52808 et #52813) documentant ces problèmes. Il est conseillé aux utilisateurs de ne pas mettre à jour vers cette version.
Le service VM de CoWork échoue sur Windows 11 en raison d'une entrée de registre DCOM manquante
Un utilisateur a diagnostiqué un bug de Cowork où le service VM ne démarre pas sur Windows 11 Pro mis à niveau depuis la version Home. L'APPID DCOM manquant {15C20B67-12E7-4BB6-92BB-7AFF07997402} empêche la communication avec Hyper-V, nécessitant un correctif d'Anthropic.
Les employés d'Amazon se moquent de l'IA de l'entreprise sur Slack et l'appellent « Sloppenheimer »
Les employés d'Amazon ont un canal Slack dédié aux mèmes où ils se moquent du produit d'IA de codage défectueux de l'entreprise, qualifiant ses résultats de « bouillie » et plaisantant sur les efforts de motivation IA ratés.
Analyyser la consommation de jetons de la fenêtre de contexte de 1 million de Claude : les données révèlent une croissance illimitée et un effet cumulatif des défauts de cache
L'analyse de la fenêtre de contexte de 1M de Claude révèle deux facteurs cumulatifs entraînant une consommation rapide de tokens : une croissance de contexte non limitée sans compactage automatique et des défauts de cache coûteux pour des contextes plus grands. L'auteur fournit un script Python pour analyser l'utilisation personnelle de tokens à partir de fichiers de session JSONL.