Modelo de Linguagem Transformer Executado Localmente em Game Boy Color Padrão

Um desenvolvedor conseguiu rodar um modelo de linguagem transformer real em um Game Boy Color (GBC) original — sem telefone, PC, Wi-Fi ou inferência em nuvem. Todo o pipeline de inferência é executado localmente no hardware portátil.

Detalhes Principais

• Modelo: TinyStories-260K de Andrej Karpathy, convertido para pesos INT8 com matemática de ponto fixo — sem necessidade de suporte a ponto flutuante.
• Hardware: Game Boy Color original + flash cart EZ Flash Junior + cartão microSD.
• Toolchain de construção: GBDK-2020, produzindo um ROM MBC5 Game Boy.
• Arquitetura de memória: Os pesos do modelo ficam na ROM do cartucho com comutação de bancos. O cache KV é armazenado na SRAM do cartucho porque a RAM de trabalho do GBC é minúscula.
• Entrada de prompt: No próprio dispositivo usando D-pad/botões e um teclado na tela.
• Pipeline de inferência: Tokenização do prompt no GBC, depois preenchimento do transformer + geração autoregressiva com cache KV.
• Desempenho: Extremamente lento; a saída é sem sentido devido à quantização pesada e aproximações matemáticas, mas o loop principal do transformer funciona.
• Código-fonte: Disponível no GitHub em github.com/maddiedreese/gbc-transformer. Grande parte do código foi construída usando Codex AI.

O projeto demonstra que mesmo hardware severamente limitado em recursos pode executar inferência de transformer com quantização agressiva e truques de gerenciamento de memória. É uma prova de conceito, não um LLM prático, mas é uma curiosidade técnica que vale a pena examinar.