Chatbots de IA filtrando números de teléfono reales: El problema de exposición de PII
Los chatbots de IA están exponiendo números de teléfono reales. Un usuario de Reddit informó haber recibido una avalancha de llamadas de desconocidos buscando un abogado o cerrajero, desviados por Google Gemini. En marzo, un ingeniero de software en Israel fue contactado por WhatsApp después de que Gemini diera su número personal como el de atención al cliente de PayBox. En abril, un candidato a doctorado logró que Gemini mostrara el número de celular de un colega.
Cómo sucede
Los LLM se entrenan con datos extraídos de la web que contienen PII. El artículo señala que el conjunto de datos abierto DataComp CommonPool incluye currículums, licencias de conducir y tarjetas de crédito. Incluso una sola instancia de un número de teléfono publicado en línea (por ejemplo, en un sitio de preguntas y respuestas en 2015) puede reproducirse años después.
Escala del problema
DeleteMe, que ayuda a eliminar información personal de internet, reporta un aumento del 400% en consultas de privacidad relacionadas con IA en los últimos siete meses, alcanzando unos pocos miles. Desglose: 55% mencionan ChatGPT, 20% Gemini, 15% Claude, 10% otros. Dos escenarios comunes: un usuario pregunta sobre sí mismo y obtiene datos precisos de domicilio/teléfono, o el chatbot genera información de contacto plausible pero incorrecta para otra persona.
Rob Shavell (cofundador de DeleteMe) dice que las quejas típicamente involucran al chatbot devolviendo direcciones exactas, números de teléfono, apellidos o datos del empleador cuando se le hacen preguntas inocuas sobre el usuario.
Qué se puede hacer
Los expertos señalan que la causa raíz es la PII en los datos de entrenamiento, pero el mecanismo exacto no está claro. Los usuarios pueden hacer poco para prevenir la exposición. El artículo sugiere que el problema empeorará a medida que las empresas de IA busquen nuevas fuentes de datos.
📖 Lee la fuente completa: HN AI Agents
👀 Ver también
Axios 1.14.1 comprometido con malware, apunta a flujos de trabajo de desarrollo asistidos por IA.
La versión 1.14.1 de Axios ha sido comprometida en un ataque de cadena de suministro que incorpora silenciosamente [email protected], un dropper de RAT ofuscado. Los desarrolladores que utilizan asistentes de codificación con IA como Claude deben verificar inmediatamente sus archivos de bloqueo y máquinas en busca de infección.
Agentes de IA permiten que hackers solitarios vulneren gobiernos y campañas de ransomware
Un operador solitario que utilizó Claude Code y ChatGPT exfiltró 150 GB de agencias gubernamentales mexicanas, incluyendo 195 millones de registros de contribuyentes. Otro atacante usó Claude Code para ejecutar una campaña de extorsión integral contra 17 organizaciones de atención médica y servicios de emergencia.
Los parches de seguridad de OpenClaw corrigen la exposición de credenciales por código QR y vulnerabilidades de carga automática de complementos.
OpenClaw lanzó dos parches de seguridad que abordan vulnerabilidades críticas: los códigos QR incluían credenciales permanentes de puerta de enlace sin fecha de caducidad, y los complementos se cargaban automáticamente desde repositorios clonados sin confirmación del usuario. La versión 2026.3.12 corrige ambos problemas.
Probar Modelos Qwen 3.5 35B sin Censura para Preguntas de Ciberseguridad
Un profesional de ciberseguridad probó tres modelos Qwen 3.5 35B sin censura en preguntas de hacking y evasión de seguridad, encontrando diferencias significativas en la calidad de las respuestas en comparación con el modelo original censurado. Los modelos sin censura proporcionaron consistentemente respuestas donde el modelo original se negaba o daba respuestas incompletas.