LLM-unterstützte Dekompilierung: Entwicklung von Strategien und Werkzeugen

Der Artikel behandelt Herausforderungen und Strategien in der LLM-unterstützten Dekompilierung, insbesondere den Einsatz von Claude zur Dekompilierung von Nintendo 64-Spielen wie Snowboard Kids 2. Zunächst umfasste der Fortschritt eine einmalige Dekompilierung, die den übereinstimmenden Code von etwa 25 % auf 58 % steigerte. Der Fortschritt verlangsamte sich jedoch, was eine Änderung des Ansatzes erforderte, um schließlich etwa 75 % übereinstimmende Funktionen zu erreichen.

Eine entscheidende Strategie bestand darin, zu priorisieren, welche nicht übereinstimmenden Funktionen angegangen werden sollten. Zunächst wurde ein logistisches Regressionsmodell verwendet, um die Schwierigkeit basierend auf Merkmalen wie der Anzahl der Anweisungen und der Komplexität des Kontrollflusses zu schätzen. Als dieser Ansatz stagnierte, erwies sich die Untersuchung der Ähnlichkeit von Funktionen mittels Text-Embeddings von Assembler-Anweisungen als besonders fruchtbar. Dies beinhaltete die Berechnung ähnlicher übereinstimmender Funktionen, um nützliche Referenzen bereitzustellen und so die Dekompilierungsleistung von Claude zu verbessern.

Zur Berechnung der Ähnlichkeit wurden Vektor-Embeddings diskutiert, die häufig in RAG-Systemen für eine schnelle Abrufung verwendet werden. Für ein Projekt mit nur ein paar tausend Kandidaten war jedoch eine präzise Ähnlichkeitsberechnung machbar. Zunächst wurde ein zusammengesetzter Ähnlichkeitsscore verwendet, der normalisierte Instruktions-n-Gramme, Kontrollflussmuster, Speicherzugriffs-Offsets und strukturelle Metriken berücksichtigte, aber später stellte sich heraus, dass Codogs einfachere Methode zur Berechnung der begrenzten Levenshtein-Distanz über Opcode-Sequenzen genauso effektiv war und die Komplexität reduzierte.

Spezialisierte Werkzeuge wie gfxdis.f3dex2 und decomp-permuter verbesserten ebenfalls Claudes Leistung. Insbesondere erleichterte die Verwendung der F3Dex2-Bibliothek den Umgang mit dem Mikrokode des Reality Display Processors (RDP) der N64, wodurch die Notwendigkeit von benutzerdefinierter Reverse Engineering vermieden wurde.