Compilando código JIT en 5μs: Construyendo un JIT rápido para Postgres pgrust

Históricamente, la compilación JIT rápida era un arte oscuro. Las bases de datos de producción usan LLVM o generan código C/C++, ambos con altos tiempos de compilación. Ahora, la asistencia de IA hace práctico escribir un compilador JIT que apunte directamente a ensamblador, logrando tiempos de compilación de alrededor de 5μs. Esto es lo que el autor hizo para pgrust, una extensión de Postgres en Rust.

La clave: la compilación JIT es valiosa cuando la información en tiempo de ejecución altera drásticamente el comportamiento, como el análisis de datos con esquema desconocido. Para bases de datos, compilar JIT cada consulta puede dar mejoras de rendimiento de 2 a 5 veces, pero solo si el tiempo de compilación es insignificante. LLVM y la generación de C/C++ toman milisegundos, limitando su uso a consultas complejas. Un JIT de 5μs puede manejar cada consulta.

Para demostrarlo, el artículo construye un motor de expresiones regulares de juguete que soporta literales y repetición (*). La regex b(an)* se usa como punto de referencia. La versión intérprete es 10-20 veces más lenta que el código escrito a mano. El enfoque JIT busca cerrar esa brecha.

Puntos clave del artículo:

• La compilación JIT es la práctica de generar código compilado en tiempo de ejecución, a menudo dando mejoras de rendimiento de 2 a 5 veces.
• Las rutas JIT tradicionales (LLVM, generación de C) sufren de altos tiempos de compilación.
• La asistencia de IA reduce la barrera para escribir JIT que generan ensamblador.
• El compilador JIT de pgrust compila código en alrededor de 5μs, permitiendo JIT para cada consulta SQL.
• El artículo proporciona un tutorial de construcción de un motor de regex simple con JIT, omitiendo el parser por simplicidad.

Para desarrolladores interesados en los internals de bases de datos o técnicas JIT, este artículo ofrece ideas prácticas sobre un nuevo enfoque que podría mejorar los sistemas heredados.