Développeur crée un agent de recherche IA local qui génère des podcasts à partir de sujets ou de liens YouTube.

Un développeur sur r/LocalLLaMA a créé un agent de recherche et de podcast autonome qui fonctionne entièrement localement. Ce qui a commencé comme une tentative d'éviter de payer pour des services TTS (synthèse vocale) a évolué en un système complet capable de rechercher des sujets et de présenter des informations dans des formats semblables à ceux des humains.

Ce que fait l'agent

Le système prend soit un sujet soit un lien YouTube en entrée et produit trois sorties :

• Un rapport approfondi approprié
• Un script de style podcast conversationnel
• Un audio généré pour le podcast

Comment il fonctionne différemment des pipelines fixes

Le développeur s'est concentré sur le fait de faire en sorte que l'agent se comporte moins comme un pipeline fixe et plus comme quelque chose qui décide dynamiquement de ce qu'il faut faire ensuite. Au lieu d'une exécution étape par étape, il :

• Recherche et extrait du contenu
• Extrait des informations (y compris à partir de vidéos)
• Affine les résumés en plusieurs passes
• Convertit cela en une conversation naturelle d'aller-retour

Défis clés et solutions découvertes pendant le développement

• Problèmes de vitesse : Les performances initiales étaient difficiles, mais la parallélisation des tâches a fait une différence significative
• Résumés superficiels : Les premiers résumés semblaient superficiels, mais la mise en œuvre d'un raffinement en plusieurs étapes a considérablement aidé
• Audio robotique : L'audio sonnait initialement de manière robotique, mais le passage à un format à 2 locuteurs l'a rendu beaucoup plus naturel

Le développeur a noté que ce projet démontre à quel point nous nous rapprochons de la réalisation de travaux d'IA puissants entièrement sur des machines locales, sans dépendre de services cloud.