Transformer-Sprachmodell läuft lokal auf handelsüblichem Game Boy Color
Ein Entwickler hat ein echtes Transformer-Sprachmodell auf einem handelsüblichen Game Boy Color (GBC) zum Laufen gebracht – ohne Telefon, PC, WLAN oder Cloud-Inferenz. Die gesamte Inferenz-Pipeline läuft lokal auf der Handheld-Hardware.
Wichtige Details
- Modell: Andrej Karpathys TinyStories-260K, konvertiert auf INT8-Gewichte mit Festkommaarithmetik – keine Gleitkommaunterstützung erforderlich.
- Hardware: Handelsüblicher Game Boy Color + EZ Flash Junior Flash-Cartridge + microSD-Karte.
- Build-Toolchain: GBDK-2020, erzeugt eine MBC5 Game Boy ROM.
- Speicherarchitektur: Modellgewichte liegen im bankgeschalteten Cartridge-ROM. Der KV-Cache wird im Cartridge-SRAM gespeichert, da der Arbeitsspeicher des GBC winzig ist.
- Eingabe des Prompts: Auf dem Gerät über D-Pad/Tasten und ein Bildschirmtastatur.
- Inferenz-Pipeline: Prompt-Tokenisierung auf dem GBC, dann Transformer-Prefill + autoregressive Generierung mit KV-Caching.
- Leistung: Extrem langsam; die Ausgabe ist aufgrund starker Quantisierung und mathematischer Näherungen Kauderwelsch, aber die grundlegende Transformer-Schleife funktioniert.
- Quellcode: Verfügbar auf GitHub unter github.com/maddiedreese/gbc-transformer. Ein großer Teil des Codes wurde mit Codex AI erstellt.
Das Projekt zeigt, dass selbst extrem ressourcenbeschränkte Hardware Transformer-Inferenz mit aggressiver Quantisierung und Speicherverwaltungstricks ausführen kann. Es ist ein Proof-of-Concept, kein praktisches LLM, aber eine technische Kuriosität, die einen Blick wert ist.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Navigieren des OpenClaw 2026.2.6-3 und des OpenRouter-Integrationsproblems
Nutzer von OpenClaw 2026.2.6-3 in Verbindung mit OpenRouter sehen sich hartnäckigen '401 Benutzer nicht gefunden'-Fehlern gegenüber. Nehmen Sie an der Gemeinschaftsdiskussion teil, während sie Lösungen erkunden und Tipps zur Fehlersuche austauschen.
Grenz-KI-Zugang wird strenger: Anthropics Mythos und der strukturelle Wandel zu selektiven Ausrollungen
Anthropics Mythos-Cybersicherheitsmodell und OpenAIs Daybreak-Initiative läuten eine neue Ära ein, in der wirtschaftliche und sicherheitspolitische Zwänge die Spitzen-KI auf ausgewählte US-Unternehmen beschränken – angetrieben durch Missbrauchsrisiken, Destillationsbedrohungen und aufkommende staatliche Kontrollen.
OpenAIs 10-Milliarden-Dollar-Private-Equity-Joint-Venture: Was es für die KI-Bereitstellung bedeutet
OpenAI schließt ein Joint Venture im Wert von 10 Milliarden Dollar mit Private-Equity-Firmen ab, um die KI-Infrastruktur zu skalieren und den Unternehmenseinsatz voranzutreiben, wie Bloomberg berichtet.
Nvidia investiert 26 Milliarden Dollar in Open-Weight-KI-Modelle und veröffentlicht Nemotron 3 Super
Nvidia wird in den nächsten fünf Jahren 26 Milliarden Dollar für die Entwicklung von Open-Weight-KI-Modellen ausgeben, wie aus den Finanzunterlagen von 2025 hervorgeht. Das Unternehmen hat auch Nemotron 3 Super veröffentlicht, ein Modell mit 128 Milliarden Parametern, das GPT-OSS in Benchmarks übertrifft und auf PinchBench für OpenClaw-Steuerung den ersten Platz belegt.