Aprovechando las habilidades de los agentes para escribir núcleos CUDA con Upskill.

Hugging Face ha introducido un método para mejorar el rendimiento de modelos de IA más pequeños en tareas complejas, como la escritura de kernels CUDA, mediante el uso de habilidades de agente. Este proceso utiliza la nueva herramienta upskill, que permite generar y evaluar habilidades de agente con modelos grandes y aplicar estas habilidades a modelos más pequeños o rentables.

Las habilidades de agente son formas empaquetadas de conocimiento que pueden intercambiarse entre modelos y herramientas, definidas como archivos que contienen instrucciones en markdown y scripts. Resultan particularmente beneficiosas en dominios de problemas específicos o difíciles en los que los modelos pueden no sobresalir de manera natural.

Pasos para Mejorar Usando Claude y la Herramienta Upskill

1. Construyendo un Kernel con Claude Opus 4.5: El proceso comienza utilizando Claude Code para ensamblar interactivamente un kernel y exportar el rastro. Esto implica iterar soluciones con habilidades preliminares, permitiendo una mejora continua a través de experimentación con modelos más pequeños.

2. Creando una Habilidad de Agente a partir del Rastro: Una vez construido el kernel, instruye a Claude para que genere un archivo de habilidad para la tarea completada. Emplear el 'creador de habilidades' de Anthropic también puede facilitar este proceso, creando habilidades basadas en el rastro de actividad del agente. upskill aumenta la utilidad al también proporcionar casos de prueba para evaluar el rendimiento de la habilidad.

3. Aplicando la Habilidad entre Modelos: Transfiere la habilidad recién creada a los modelos deseados siguiendo prácticas estándar, donde las habilidades están formateadas como directorios, por ejemplo, {agent}/skills/{skill_name}/SKILL.md. Utiliza comandos upskill eval para ejecutar comparaciones de rendimiento del modelo utilizando estas habilidades, destacando las diferencias en precisión y uso de tokens en diversas plataformas como codex o cursor.

En última instancia, las habilidades pueden ayudar a reducir el consumo de tokens mientras mantienen la precisión, lo cual es crítico para tareas recurrentes en diferentes modelos. Sin embargo, las variaciones en la efectividad sugieren que puede ser necesario un refinamiento iterativo de las habilidades.