A raíz del caso judicial en EE.UU. que determinó que las plataformas de Meta y Google están diseñadas para ser adictivas en niños y adolescentes, la directora de Ingeniería en Computación e Informática de la Universidad Andrés Bello, Inesmar Briceño, explica qué es y cómo funciona este sistema, y de qué forma puede modelar el comportamiento de los usuarios.
A fines de marzo, en un juicio en EE.UU. calificado de “histórico”, se determinó que las redes sociales de Meta y Google están diseñadas para ser adictivas para niños y adolescentes.
El proceso judicial se originó con la demanda por parte de una joven de 20 años, quien responsabilizó a ambas compañías de la adicción a las redes sociales que sufrió durante su infancia, lo que terminó dañando su salud mental. El jurado, finalmente, resolvió que la demandante deberá recibir US$ 6 millones como compensación.
Ingeniería de la atención
A raíz de este caso, la directora de Ingeniería en Computación e Informática de la Universidad Andrés Bello (UNAB), Inesmar Briceño, explica qué es y cómo funciona el “algoritmo” de estas plataformas, y cómo puede generar adicción o dependencia.
“Desde el ámbito tecnológico se puede decir que el algoritmo no es neutral, se centra en la definición de la ingeniería de la atención y la dependencia digital”, comienza diciendo la experta.
“Durante años -agrega- se comentaba que las redes sociales eran simples plataformas, que estas eran simples espejos de nuestras preferencias, amplificadores de lo que ya queríamos ver”.
Sin embargo, opina que “el reciente fallo judicial en EE.UU. marca un quiebre definitivo con esa narrativa. Hoy resulta insostenible seguir hablando de algoritmos ‘neutrales’”.
En ese sentido, Briceño indica que las redes sociales modernas son sistemas de optimización, y que no optimizan información, ni diversidad, ni bienestar, sino que más bien optimizan una métrica concreta llamada engagement, lo que se traduce en tiempo en pantalla, frecuencia de retorno, número de interacciones y “me gusta” a publicaciones. “Todo lo demás es secundario”, asegura.
El sistema “aprende”
“El llamado ‘algoritmo’ no es una secuencia fija de instrucciones, sino un conjunto de modelos de aprendizaje automático que experimentan continuamente con millones de usuarios. Cada pausa al hacer scroll, cada video visto hasta el final, cada reacción emocional implícita es registrada, ponderada y retroalimentada. En términos simples: el sistema aprende qué estímulos maximizan tu permanencia y te devuelve exactamente eso, una y otra vez, creando la dependencia o adicción que se comenta en la noticia”, afirma la especialista.
“Golpe de dopamina”
Ahora bien, la académica de la UNAB considera que, si lo vemos desde la ingeniería, “es brillante”. “Desde la ética -en cambio-, traspasa a lo problemático”.
“La clave del enganche no está en mostrar lo que te gusta, sino en administrar recompensas variables. El feed opera como una máquina tragamonedas: contenidos altamente estimulantes aparecen intercalados con otros irrelevantes. No sabes cuándo vendrá el próximo ‘golpe de dopamina’, así que sigues deslizando. Este patrón no es accidental; es uno de los más estudiados en psicología conductual y el más efectivo para generar hábitos persistentes”, comenta.
Aquí, a juicio de la especialista, aparece la pregunta en discusión: ¿la adicción es culpa del algoritmo o de las personas?
Al respecto, dice que “los usuarios no son autómatas irracionales, pero tampoco operan en un vacío. Los algoritmos están diseñados específicamente para interactuar con vulnerabilidades humanas universales: búsqueda de validación social, curiosidad, necesidad de pertenencia, aversión al aburrimiento. No crean esas debilidades, pero las amplifican sistemáticamente”.
Adaptación al sistema y al usuario
Desde el punto de vista técnico, Briceño explica que lo que ocurre es una “coevolución”: el usuario se adapta al sistema, consumiendo contenido cada vez más rápido, más intenso, más automático, y el sistema se adapta al usuario, ajustando el feed para reforzar ese comportamiento. El resultado es un bucle cerrado de optimización mutua, donde salir requiere un esfuerzo cognitivo creciente”.
Por eso, cree que el debate ya no se centra solo en el “uso excesivo”, sino en el diseño persuasivo: “cuando una plataforma introduce desplazamiento infinito, notificaciones asincrónicas, rankings visibles de aprobación social y recomendaciones hiperpersonalizadas, no está ofreciendo una herramienta pasiva: está definiendo explícitamente una arquitectura de la atención”.
Desde el punto de vista de la ingeniería de software, Briceño sostiene que “aceptar esto implica un cambio incómodo: reconocer que toda decisión técnica es también una decisión conductual. Qué se optimiza, qué se mide y qué se ignora no es neutro. Si el único KPI es retención, el sistema empujará inevitablemente hacia dinámicas compulsivas”.
Caso similar al de las tabacaleras
Con respecto al fallo judicial reciente, la experta comenta que “es revelador no solo por sus consecuencias legales, sino porque adopta un marco similar al utilizado históricamente con el tabaco o el juego: no se juzga la intención del usuario, sino la previsibilidad del daño dado el diseño del producto. En otras palabras: si un sistema está construido para maximizar una conducta que deteriora la salud mental, la responsabilidad no puede recaer exclusivamente en quien lo usa”.
“Esto no significa negar la agencia individual. Significa abandonar la ficción de que basta con ‘fuerza de voluntad’ frente a sistemas que aprenden, se adaptan y optimizan a una escala imposible de igualar por un ser humano”, subraya.
Y concluye que “para quienes trabajamos en tecnología, el mensaje es claro: la pregunta ya no es si los algoritmos influyen en la conducta, sino qué tipo de conducta decidimos optimizar”.
