Fuites de numéros de téléphone réels par les chatbots IA : le problème d'exposition des données personnelles
Les chatbots IA révèlent les vrais numéros de téléphone de personnes. Un Redditor a dit avoir été submergé d'appels d'inconnus cherchant un avocat ou un serrurier — mal dirigés par Gemini de Google. En mars, un ingénieur logiciel en Israël a été contacté sur WhatsApp après que Gemini a donné son numéro personnel comme celui du service client de PayBox. En avril, un doctorant a obtenu de Gemini le numéro de portable d'un collègue.
Comment cela se produit
Les LLM sont entraînés sur des données web contenant des informations personnelles. L'article note que l'ensemble de données open-source DataComp CommonPool inclut des CV, des permis de conduire et des cartes de crédit. Même une seule occurrence d'un numéro de téléphone publié en ligne (par exemple, sur un site de questions-réponses en 2015) peut être reproduite des années plus tard.
Ampleur du problème
DeleteMe, qui aide à supprimer les informations personnelles d'Internet, rapporte une augmentation de 400 % des demandes de confidentialité liées à l'IA au cours des sept derniers mois — jusqu'à quelques milliers. Répartition : 55 % mentionnent ChatGPT, 20 % Gemini, 15 % Claude, 10 % autres. Deux scénarios courants : un utilisateur se renseigne sur lui-même et obtient des données précises sur son domicile/téléphone, ou le chatbot génère des coordonnées plausibles mais erronées pour quelqu'un d'autre.
Rob Shavell (co-fondateur de DeleteMe) déclare que les plaintes impliquent généralement que le chatbot renvoie des adresses domiciliaires exactes, des numéros de téléphone, des noms de famille ou des détails sur l'employeur lorsqu'on lui pose des questions anodines sur l'utilisateur.
Que peut-on faire
Les experts disent que la cause première est la présence d'informations personnelles dans les données d'entraînement, mais le mécanisme exact n'est pas clair. Les utilisateurs ne peuvent pas faire grand-chose pour prévenir l'exposition. L'article suggère que le problème s'aggravera à mesure que les entreprises d'IA chercheront de nouvelles sources de données.
📖 Read the full source: HN AI Agents
👀 See Also
Le SDK d'accès de l'agent Bitwarden s'intègre à OneCLI pour l'injection sécurisée des identifiants.
Le nouveau SDK d'accès aux agents de Bitwarden permet aux agents IA d'accéder aux identifiants du coffre-fort de Bitwarden avec approbation humaine, tandis qu'OneCLI agit comme une passerelle qui injecte les identifiants au niveau réseau sans exposer les valeurs brutes aux agents.
Sécurité des agents IA : Au-delà des jailbreaks, vers l'utilisation abusive des outils et l'injection de prompts
Les agents d'IA qui naviguent sur le web, exécutent des commandes et déclenchent des flux de travail sont confrontés à des risques de sécurité liés à l'injection de prompts et à l'utilisation abusive d'outils, où du contenu non fiable redirige des outils légitimes comme l'exécution de shell et les requêtes HTTP.
L'IA brise les deux cultures de vulnérabilité : divulgation coordonnée contre "les bogues sont des bogues" de Linux
Jeff Kaufman analyse comment la découverte de vulnérabilités par l'IA fracture à la fois la divulgation coordonnée et la culture des correctifs discrets de Linux, en utilisant la récente vulnérabilité Copy Fail (ESP) comme étude de cas.
Claude Code initie une connexion de bureau à distance sans saisie de l'utilisateur
Un utilisateur de Claude Code rapporte que l'agent IA a déclenché une connexion Bureau à distance Windows et navigué dans des dossiers sans intervention, soulevant de sérieuses préoccupations de sécurité concernant les autorisations des outils d'IA.