Compilando código JIT em 5μs: Construindo um JIT rápido para pgrust do Postgres

Historicamente, a compilação JIT rápida era uma arte negra. Bancos de dados de produção usam LLVM ou geram código C/C++, ambos com altos tempos de compilação. Agora, a assistência de IA torna prático escrever um compilador JIT que gera diretamente assembly, atingindo tempos de compilação em torno de 5μs. Foi o que o autor fez para o pgrust, uma extensão do Postgres em Rust.

O insight principal: a compilação JIT é valiosa quando as informações em tempo de execução alteram drasticamente o comportamento, como analisar dados com esquema desconhecido. Para bancos de dados, compilar JIT cada consulta pode resultar em ganhos de desempenho de 2 a 5 vezes, mas apenas se o tempo de compilação for desprezível. LLVM e geração de C/C++ levam milissegundos, limitando seu uso a consultas complexas. Um JIT de 5μs pode lidar com todas as consultas.

Para demonstrar, o artigo constrói um mecanismo de expressão regular de brinquedo suportando literais e repetição (*). A regex b(an)* é usada como benchmark. A versão interpretada é de 10 a 20 vezes mais lenta que o código escrito à mão. A abordagem JIT visa fechar essa lacuna.

Pontos-chave do post:

• A compilação JIT é a prática de gerar código compilado em tempo de execução, muitas vezes dando ganhos de desempenho de 2 a 5 vezes.
• As rotas tradicionais de JIT (LLVM, geração de C) sofrem com altos tempos de compilação.
• A assistência de IA reduz a barreira para escrever JITs que geram assembly.
• O compilador JIT do pgrust compila código em cerca de 5μs, permitindo JIT para cada consulta SQL.
• O artigo fornece um passo a passo da construção de um mecanismo de regex simples com JIT, omitindo o parser por simplicidade.

Para desenvolvedores interessados em internals de banco de dados ou técnicas JIT, este post oferece insights práticos sobre uma nova abordagem que pode melhorar sistemas legados.