Fuites de numéros de téléphone réels par les chatbots IA : le problème d'exposition des données personnelles
Les chatbots IA révèlent les vrais numéros de téléphone de personnes. Un Redditor a dit avoir été submergé d'appels d'inconnus cherchant un avocat ou un serrurier — mal dirigés par Gemini de Google. En mars, un ingénieur logiciel en Israël a été contacté sur WhatsApp après que Gemini a donné son numéro personnel comme celui du service client de PayBox. En avril, un doctorant a obtenu de Gemini le numéro de portable d'un collègue.
Comment cela se produit
Les LLM sont entraînés sur des données web contenant des informations personnelles. L'article note que l'ensemble de données open-source DataComp CommonPool inclut des CV, des permis de conduire et des cartes de crédit. Même une seule occurrence d'un numéro de téléphone publié en ligne (par exemple, sur un site de questions-réponses en 2015) peut être reproduite des années plus tard.
Ampleur du problème
DeleteMe, qui aide à supprimer les informations personnelles d'Internet, rapporte une augmentation de 400 % des demandes de confidentialité liées à l'IA au cours des sept derniers mois — jusqu'à quelques milliers. Répartition : 55 % mentionnent ChatGPT, 20 % Gemini, 15 % Claude, 10 % autres. Deux scénarios courants : un utilisateur se renseigne sur lui-même et obtient des données précises sur son domicile/téléphone, ou le chatbot génère des coordonnées plausibles mais erronées pour quelqu'un d'autre.
Rob Shavell (co-fondateur de DeleteMe) déclare que les plaintes impliquent généralement que le chatbot renvoie des adresses domiciliaires exactes, des numéros de téléphone, des noms de famille ou des détails sur l'employeur lorsqu'on lui pose des questions anodines sur l'utilisateur.
Que peut-on faire
Les experts disent que la cause première est la présence d'informations personnelles dans les données d'entraînement, mais le mécanisme exact n'est pas clair. Les utilisateurs ne peuvent pas faire grand-chose pour prévenir l'exposition. L'article suggère que le problème s'aggravera à mesure que les entreprises d'IA chercheront de nouvelles sources de données.
📖 Read the full source: HN AI Agents
👀 See Also
OpenObscure : Pare-feu de confidentialité open-source pour agents IA fonctionnant sur l'appareil
OpenObscure est un pare-feu de confidentialité open-source et sur appareil qui s'intercale entre les agents d'IA et les fournisseurs de LLM. Il utilise le chiffrement FF1 à préservation de format avec AES-256 pour chiffrer les données personnelles avant que les requêtes ne quittent votre appareil, préservant la structure des données tout en protégeant la vie privée.
Serveur MCP : Cartographie de l'exposition aux CVE et API publique publiée
Des chercheurs ont cartographié l'exposition aux CVE sur des milliers de serveurs MCP et ont créé une API publique pour interroger les vulnérabilités des dépendances. L'API permet de rechercher par dépôt/nom, de filtrer par gravité et de trier par nombre de CVE ou par actualité.
Exploitation assistée par LLM : Aperçu du Mythos d'Anthropic a aidé à construire la première exploitation publique du noyau macOS sur Apple M5 en cinq jours.
En utilisant Mythos Preview d'Anthropic, la société de sécurité Calif a construit le premier exploit public de corruption mémoire du noyau macOS sur le silicium M5 d'Apple en cinq jours, brisant ainsi la sécurité matérielle MIE qu'Apple a mis cinq ans à développer.
Google signale que le piratage assisté par IA a atteint une échelle industrielle en trois mois
Le groupe de renseignement sur les menaces de Google a découvert que des groupes criminels et étatiques utilisent des modèles d'IA commerciaux (Gemini, Claude, OpenAI) pour affiner et étendre leurs attaques. Un groupe a failli exploiter une faille zero-day pour une exploitation massive, et d'autres expérimentent avec l'agent OpenClaw non protégé.