TinyWorldFormer betreibt ein gelooptes Weltmodell und einen RL-Actor auf einem Raspberry Pi Pico 2 W

tinyworldformer ist ein Open-Source-Projekt von SheepSeb, das zwei kleine neuronale Netze auf einem Raspberry Pi Pico 2 W ausführt: ein Weltmodell, das Spielbilder erzeugt, und einen vorab trainierten Akteur, der sie spielt. Keines der Netze sieht das echte Spiel auf dem Chip – der Akteur liest nur die vom Weltmodell erzeugten Frames, und das Weltmodell erhält nur Aktionen vom Akteur.

Architektur

• Weltmodell: geloopter Transformer mit int8-Quantisierung. 26k–131k Parameter, 2–8M Multiply-Adds pro Frame. Eingabe ist aktueller Frame + Aktion; Ausgabe ist nächster Frame + Belohnung.
• Akteur: MLP mit zwei versteckten Schichten, float32. 9k–16k Parameter, 9k–16k Multiply-Adds pro Frame. Eingabe ist Frame; Ausgabe ist Aktion.
• Beide laufen auf Kern 1 des RP2350; Kern 0 übernimmt USB und das Display.
• Ein vorab trainierter Akteur kann durch einen frischen stream-x-RL-Agenten ersetzt werden, der von Grund auf auf der Platine lernt. Tastendrücke übergeben die Steuerung an einen menschlichen Spieler.

Spiele und Benchmark-Ergebnisse

Jedes Spiel besteht aus ein paar hundert Zeilen NumPy in src/tinyworldformer/games/ und rendert auf ein kleines Raster von Token-IDs. Ein Frame enthält den gesamten Spielzustand, sodass versteckter Zustand in den Frame gezeichnet wird (die Ballrichtung ist Teil seines Tokens; Doom-lite hat eine Minimap).

• Breakout — 20×16-Frame, 26k Parameter, 4,3M MACs, 99,99 % exakte Frames.
• Doom-lite — 32×32-Raycast-Ansicht eines 8×8-Labyrinths, 55k Parameter, 4,2M MACs, 83,6 % exakte Frames (ein einzelnes schattiertes Wandpixel zählt den ganzen Frame als falsch).
• Flappy Bird — 24×24-Frame, 46k Parameter, 2,0M MACs, 100 % exakte Frames.
• Pong — 20×32-Frame, 46k Parameter, 2,3M MACs, 99,45 % exakte Frames.
• Pac-Man lite — 48×48-Frame, 23×21-Labyrinth, 249 Pellets, 131k Parameter, 8,2M MACs, 86,4 % exakte Frames.

„Exakte Frames“ ist der Anteil der zurückgehaltenen Übergänge, bei denen jede Zelle des vorhergesagten Frames mit dem echten Spiel übereinstimmt (Frames direkt nach zufälligen Ereignissen sind ausgeschlossen).

Wie das Weltmodell funktioniert

Frames werden in quadratische Patches aufgeteilt (2×2 Zellen bei Breakout, 4×4 bei Doom-lite, Flappy Bird und Pong, 6×6 bei Pac-Man), was 36–80 Token pro Spiel ergibt. Jede Patch-Einbettung summiert einen gelernten Vektor pro Zelle mit einer separaten Tabelle pro Position innerhalb des Patches sowie Positions- und Aktionsvektoren. Das Modell ist ein einzelner Transformer-Block (Attention + ReLU-MLP) mit einem Satz Gewichte, der mehrfach angewendet wird – ein geloopter Transformer –, was den Speicherbedarf niedrig genug für einen Mikrocontroller hält.

Die echten Spiele ausführen

uv run python -m tinyworldformer.games.play --game pacman

Ersetzen Sie breakout, doomlite, flappy oder pong. Das Repo enthält außerdem tinyworldformer-rs, Dokumentation, Tests und eine Browser-Demo.

Für Entwickler, die an Edge-Inferenz oder kleinen Weltmodellen arbeiten, ist die praktische Erkenntnis der Kompromiss zwischen Speicher und Rechenleistung: Die Wiederverwendung der Gewichte eines Transformer-Blocks ermöglicht es einem Modell mit 26k Parametern, in wenigen Millionen MACs pro Frame zu laufen und dabei unter den Grenzen des Pico 2 W zu bleiben.