Reduciendo las Alucinaciones de Claude con Inyección de Prompt Pre-Salida

Un usuario de Reddit ha compartido una técnica para reducir las alucinaciones en Claude AI aproximadamente a la mitad mediante la inyección de un mensaje previo a la salida. El método se centra en obligar al modelo a realizar una verificación interna antes de generar respuestas.

Detalles de implementación

El enfoque requiere dos modificaciones específicas:

1. Adición al mensaje del sistema

Agrega este bloque de markdown al mensaje del sistema de Claude (estilo de salida):

Antes de responder
IMPORTANTE: DEBE ejecutarse antes de responder al usuario, incluyendo seguimientos. SIN EXCEPCIONES.

python -m pre_output.record '{ "turn": 1/2/..., "summary": "10 palabras máximo", "uncertainties": ["observaciones no resueltas, suposiciones no verificadas", ...], "possible-next-steps": ["refactorizar, actualizar documentación", ...] }'
NO está mal decidir que en realidad no estás listo después de invocar pre_output.record; en ese caso, invoca pre_output.record nuevamente con información actualizada.

2. Creación del script de Python

Crea un script de Python con el siguiente contenido:

print("registrado exitosamente.")
print("")
print("REGLAS IMPORTANTES:")
print("- NUNCA respondas si puedes hacer más progreso de forma autónoma.")
print("- NUNCA respondas si persisten incertidumbres. Haz más verificación.")
print("")

Cómo funciona

El sistema obliga a Claude a:

• Registrar un objeto JSON con número de turno, resumen breve (máximo 10 palabras), lista de incertidumbres y posibles próximos pasos
• Reevaluar la preparación antes de responder
• Seguir reglas estrictas sobre no responder cuando persisten incertidumbres o cuando es posible un progreso autónomo

La técnica parece diseñada para desarrolladores que usan Claude como asistente de programación, particularmente para tareas complejas donde la verificación y el razonamiento paso a paso son cruciales.