Chatbots de IA filtrando números de teléfono reales: El problema de exposición de PII

Los chatbots de IA están exponiendo números de teléfono reales. Un usuario de Reddit informó haber recibido una avalancha de llamadas de desconocidos buscando un abogado o cerrajero, desviados por Google Gemini. En marzo, un ingeniero de software en Israel fue contactado por WhatsApp después de que Gemini diera su número personal como el de atención al cliente de PayBox. En abril, un candidato a doctorado logró que Gemini mostrara el número de celular de un colega.

Cómo sucede

Los LLM se entrenan con datos extraídos de la web que contienen PII. El artículo señala que el conjunto de datos abierto DataComp CommonPool incluye currículums, licencias de conducir y tarjetas de crédito. Incluso una sola instancia de un número de teléfono publicado en línea (por ejemplo, en un sitio de preguntas y respuestas en 2015) puede reproducirse años después.

Escala del problema

DeleteMe, que ayuda a eliminar información personal de internet, reporta un aumento del 400% en consultas de privacidad relacionadas con IA en los últimos siete meses, alcanzando unos pocos miles. Desglose: 55% mencionan ChatGPT, 20% Gemini, 15% Claude, 10% otros. Dos escenarios comunes: un usuario pregunta sobre sí mismo y obtiene datos precisos de domicilio/teléfono, o el chatbot genera información de contacto plausible pero incorrecta para otra persona.

Rob Shavell (cofundador de DeleteMe) dice que las quejas típicamente involucran al chatbot devolviendo direcciones exactas, números de teléfono, apellidos o datos del empleador cuando se le hacen preguntas inocuas sobre el usuario.

Qué se puede hacer

Los expertos señalan que la causa raíz es la PII en los datos de entrenamiento, pero el mecanismo exacto no está claro. Los usuarios pueden hacer poco para prevenir la exposición. El artículo sugiere que el problema empeorará a medida que las empresas de IA busquen nuevas fuentes de datos.