Décompilation assistée par LLM : Évolution des stratégies et des outils

L'article aborde les défis et les stratégies de la décompilation assistée par LLM, notamment avec Claude pour décompiler des jeux Nintendo 64 comme Snowboard Kids 2. Initialement, les progrès reposaient sur une décompilation en une seule étape, faisant passer le code correspondant d'environ 25 % à 58 %. Cependant, les avancées ont ralenti, nécessitant un changement d'approche pour atteindre finalement environ 75 % de fonctions correspondantes.

Une stratégie cruciale a consisté à prioriser les fonctions non correspondantes à traiter, en utilisant d'abord un modèle de régression logistique pour estimer la difficulté en fonction de caractéristiques comme le nombre d'instructions et la complexité du flux de contrôle. Lorsque cette approche a atteint un plateau, l'exploration de la similarité entre fonctions via des embeddings textuels des instructions assembleur s'est avérée fructueuse. Cela impliquait de calculer des fonctions correspondantes similaires pour fournir des références utiles, améliorant ainsi les performances de décompilation de Claude.

Pour calculer la similarité, les embeddings vectoriels ont été discutés, souvent utilisés dans les systèmes RAG pour une récupération rapide. Cependant, pour un projet avec seulement quelques milliers de candidats, un calcul précis de similarité était réalisable. Un score de similarité composite tenant compte des n-grammes normalisés d'instructions, des motifs de flux de contrôle, des décalages d'accès mémoire et des métriques structurelles a d'abord été utilisé, mais plus tard, la méthode plus simple de Coddog, calculant la distance de Levenshtein bornée sur les séquences d'opcodes, s'est avérée tout aussi efficace, réduisant la complexité.

Des outils spécialisés comme gfxdis.f3dex2 et decomp-permuter ont également amélioré les performances de Claude. Plus précisément, l'utilisation de la bibliothèque F3Dex2 a facilité la gestion du microcode du Reality Display Processor (RDP) de la N64, évitant ainsi un reverse engineering personnalisé.