¿Qué información nunca deberías compartir con ChatGPT u otra inteligencia artificial?

Los modelos de inteligencia artificial generativa, como ChatGPT y Claude, utilizan los datos que los usuarios les proveen para continuar entrenando y mejorar sus servicios. 

Las compañías detrás de estas tecnologías, como OpenAI y Anthropic, guardan los datos personales de sus usuarios, y pueden compartirla con otras compañías y gobiernos bajo ciertas circunstancias, de acuerdo a sus términos de privacidad. 

Algunas de estas previsiones rigen para supuestamente precautelar la seguridad de aquellos que utilizan esta tecnología, pero las relaciones de estas compañías con gobiernos y líderes de industrias dejan incógnitas sobre su manejo de datos privados.

Un problema sistémico

Un estudio de la Universidad de Stanford analizó las prácticas de seis compañías líderes en IA: Amazon (Nova), Anthropic (Claude), Google (Gemini), Meta (Meta AI), Microsoft (Copilot), and OpenAI (ChatGPT).

Cinco de ellas utilizan automáticamente las conversaciones de los usuarios con sus modelos de lenguaje para entrenar a sus IA, sin pedir permiso. Amazon no especifica si lo hace.

Meta y Amazon, además, no especifican si tienen un mecanismo para que el usuario no permita que sus conversaciones sean utilizadas para entrenar modelos. ChatGPT, por ejemplo, tiene una opción de privacidad para que la compañía no utilice esa información para entrenamiento.

El historial del chat con estas tecnologías pueden contener datos muy sensibles: los usuarios detallan problemas médicos, emocionales, legales, e incluso financieros. Esta información puede ser valiosa para actores maliciosos, gobiernos y compañías de publicidad.

OpenAI, Meta y Amazon, adicionalmente, retienen la información de las conversaciones de forma indefinida.

¿Cómo mantener la privacidad?

Alejandro Varas, consultor en protección de datos y ciberseguridad, recomienda que datos personales como nombres, dirección, ubicación geográfica, documentos de identidad y viaje, exámenes médicos, código de iris y huellas dactilares nunca deberían ser reveladas en conversaciones con IA.

"Todo lo que ingresas en estas herramientas, además de darte una respuesta, es utilizada para entrenar a la IA, pero al costo de nuestra información, que en manos equivocadas puede comprometer nuestra privacidad", dice. 

Varas añade que esta tecnología debería ser un potenciador, no un reemplazante del poder de los humanos de tomar decisiones.