Réduire les Hallucinations de Claude avec l'Injection d'Invites Pré-Sortie

Un utilisateur Reddit a partagé une technique pour réduire les hallucinations dans Claude AI d'environ la moitié grâce à l'injection d'une invite pré-réponse. La méthode se concentre sur le fait de forcer le modèle à effectuer une vérification interne avant de générer des réponses.

Détails de mise en œuvre

L'approche nécessite deux modifications spécifiques :

1. Ajout au prompt système

Ajoutez ce bloc markdown au prompt système de Claude (style de sortie) :

Avant la réponse
IMPORTANT : DOIT s'exécuter avant de répondre à l'utilisateur, y compris aux suivis. AUCUNE EXCEPTION.

python -m pre_output.record '{ "turn": 1/2/..., "summary": "10 mots max", "uncertainties": ["observations non résolues, hypothèses non vérifiées", ...], "possible-next-steps": ["refactoriser, mettre à jour la documentation", ...] }'
Il n'est PAS faux de décider que vous n'êtes en réalité pas prêt après avoir invoqué pre_output.record ; dans ce cas, invoquez à nouveau pre_output.record avec des informations mises à jour.

2. Création d'un script Python

Créez un script Python avec le contenu suivant :

print("enregistrement réussi.")
print("")
print("RÈGLES IMPORTANTES :")
print("- NE JAMAIS répondre si vous pouvez faire plus de progrès de manière autonome.")
print("- NE JAMAIS répondre si des incertitudes subsistent. Effectuez plus de vérifications.")
print("")

Comment cela fonctionne

Le système force Claude à :

• Enregistrer un objet JSON avec le numéro du tour, un bref résumé (10 mots maximum), une liste d'incertitudes et les prochaines étapes possibles
• Réévaluer sa préparation avant de répondre
• Suivre des règles strictes concernant le fait de ne pas répondre lorsque des incertitudes subsistent ou lorsque des progrès autonomes sont possibles

La technique semble conçue pour les développeurs utilisant Claude comme assistant de codage, en particulier pour des tâches complexes où la vérification et le raisonnement étape par étape sont cruciaux.