Zuckerberg no es el único villano: ¿quién controla a quienes controlan los algoritmos?

El acuerdo de Meta para terminar las demandas en Estados Unidos por daños a la salud mental asociados al uso de Facebook e Instagram por menores de 18 años se logró con una cifra que suena obscena, 18.000 millones de dólares, hasta que se la compara con sus utilidades del primer semestre de este año: 42.621 millones de dólares. El pago se hará a lo largo de 10 años. El acuerdo es tan conveniente, que las acciones de la compañía subieron de precio.

Sin reconocer culpas, Meta aceptó cambiar la experiencia de los adolescentes. Límites de dos horas diarias, bloqueo nocturno, menos notificaciones, ocultamiento de los ‘likes’. No admite responsabilidad por generar ‘adicción’, pero el mensaje es contundente: lo que se presentó como una plataforma para conectar personas ahora necesita reglas para evitar que los menores permanezcan conectados.

La economía de la atención convirtió las reacciones en dinero

Los ‘likes’ son una descarga de dopamina que, convertida en una variable del algoritmo, se transforman en una herramienta para decidir qué contenido circulará en las redes. La trampa es doble, el usuario cree que elige qué mirar, mientras el algoritmo aprende qué mostrarle para retenerlo.

Ha sido un error entregar esa atribución a sistemas capaces de aprender qué provoca una reacción humana y utilizar ese conocimiento para seleccionar el siguiente estímulo. Si la empresa conocía los riesgos de esto, la discusión deja de ser tecnológica y se vuelve ética.

Pero Zuckerberg no es el único villano.

Los medios también alimentaron el modelo del ‘engagement’

También lo somos quienes construimos una industria de comunicación obsesionada con el alcance, el ‘engagement’ y los ‘likes’. Celebramos millones de interacciones sin preguntarnos qué comportamiento estábamos premiando.

La economía digital descubrió que la atención podía convertirse en dinero, más clics, más reacciones, más datos y más publicidad.

Una marca seria o un ‘deepfake’ pueden tener millones de ‘likes’ y cero credibilidad. Una campaña puede generar millones de reproducciones y no cambiar una sola conducta. El algoritmo convirtió esas cifras en lo más relevante de la comunicación actual.

La inteligencia artificial amplifica el problema

Con la inteligencia artificial, el problema se vuelve mayor. Las IA se entrenan con información que está en las redes y reproducen sesgos, rumores y narrativas que circulan por internet. Pasamos así de algoritmos que ayudan a decidir qué información vemos a sistemas que pueden influir en qué información creemos.

El caso Meta debería generar mayor molestia en los medios tradicionales, cuya reacción frente al poder de Zuckerberg y sus pares ha sido menos crítica de lo esperable. Los medios necesitan estas plataformas para distribuir contenidos y atraer tráfico a sus sitios web y las redes sociales saben que tienen ese poder.

¿Quién controla a quienes controlan los algoritmos?

El verdadero problema no es cuánto pagará Meta o si Zuckerberg sabía los riesgos que correrían los adolescentes, sino cuánto poder hemos permitido que acumulen quienes controlan los algoritmos. Porque cuando una plataforma decide qué vemos, qué ignoramos, qué nos indigna, qué nos polariza y qué nos entretiene, ya no estamos hablando de tecnología, estamos hablando de poder.

Los medios tradicionales observan pasivos cómo los Meta, X, TikTok, etc., avanzan sobre un territorio que alguna vez les perteneció: decidir qué información llega a las personas; ahora las redes controlan gran parte de lo que vemos y la inteligencia artificial empieza a influir también en las respuestas que recibimos. La pregunta ya no es quién tiene el algoritmo más poderoso. La pregunta urgente es otra: ¿quién controla a quienes controlan los algoritmos?

Mientras sigamos celebrando alcance y ‘engagement’ como grandes logros, sin importar cómo se obtienen, no tendremos derecho a exigir nada más que dinero.