Los algoritmos que operan en las plataformas digitales determinan qué contenidos llegan a los usuarios, condicionan su consumo de información e influyen en la formación de sus opiniones, un mecanismo que explica el especialista en inteligencia artificial (IA) y desarrollo de software, Diego Alejandro Chávez Soria, en entrevista con EL DIARIO, en la que analiza los criterios matemáticos que rigen estas decisiones y la vulnerabilidad de las personas frente a la manipulación digital.
Según explica Chávez, lejos de mostrar todo lo que publican amigos o páginas, lo cual saturaría los servidores y generaría una latencia imposible de procesar en tiempo real, las redes sociales emplean una arquitectura en embudo dividida en tres etapas clave:
Recuperación (Retrieval): Modelos ligeros descartan masivamente millones de contenidos en milisegundos. Estos seleccionan solo unos cientos de candidatos mediante similitudes vectoriales y perfiles generales.
Ordenamiento (Ranking): Un modelo de machine learning más pesado evalúa cientos de variables simultáneamente. Su objetivo es predecir la probabilidad matemática de conversión, es decir, cuán probable es que el usuario interactúe en ese preciso segundo.
Reordenamiento (Re-ranking): Una capa final de reglas de negocio ajusta la lista priorizando la diversificación. También fomenta la exploración de nuevos temas y aplica filtros rigurosos de política e integridad.
“El factor clave que define qué se prioriza no es la veracidad o calidad del contenido, sino la probabilidad de conversión (qué tan probable es que este usuario específico le dé clic, se detenga a verlo o interactúe en ese preciso segundo)”, indica el experto.
Desde la perspectiva de la ingeniería de datos, las plataformas distinguen entre señales implícitas y explícitas. Entre las primeras destaca el denominado dwell time o tiempo de visualización pasiva.
A diferencia de un «me gusta» rápido, si un usuario permanece treinta segundos observando un video o leyendo un texto sin realizar ninguna acción, el sistema lo interpreta como un nivel profundo de inmersión. Dado que el objetivo comercial de estas plataformas es retener la atención para exhibir publicidad, el dwell time posee un peso masivo en los modelos predictivos, combinándose con acciones activas como comentar, reaccionar o compartir.
El sesgo de la viralidad: Cuando la indignación es negocio
Consultado sobre si las reacciones viscerales (como «me enfada» o «me divierte») y las comparticiones aceleran el alcance de una publicación, el ingeniero confirma que las funciones de costo de los algoritmos otorgan pesos diferenciados a estas acciones.
“Las funciones de costo premian maximizar la interacción total, muchas veces sin considerar si el contenido es tóxico, entonces el modelo aprende matemáticamente que el contenido polarizante o indignante es el más ‹eficiente› para cumplir su meta de difusión”, advierte Chávez Soria.
Si un contenido moderado retiene al usuario por pocos minutos, pero el material conspirativo o extremista genera horas de retención involuntaria, las redes neuronales ajustan automáticamente sus coeficientes para priorizar la confrontación.
Finalmente, el especialista señala que las cámaras de eco y la polarización social no constituyen un fallo técnico, sino una consecuencia matemática directa de optimizar la retención minimizando la fricción. Al evitar opiniones contrarias que incomoden al usuario, el algoritmo tiende a aislarlo en una burbuja ideológica.
El especialista comenta que este diseño es frecuentemente instrumentalizado en campañas de desinformación mediante ejércitos de cuentas falsas o bots.
“Utilizan bots para generar interacciones masivas (reacciones y compartidos) justo en el momento en que se publica una mentira. Al detectar ese pico de actividad inicial, el algoritmo de ranking interpreta erróneamente que el contenido es de altísimo valor y retención, lo que dispara su distribución automática a millones de personas antes de que cualquier filtro humano pueda detenerlo”, concluye el experto.
La entrada Los algoritmos digitales definen contenidos e influyen en opiniones se publicó primero en El Diario – Bolivia.
Los algoritmos que operan en las plataformas digitales determinan qué contenidos llegan a los usuarios, condicionan su consumo de información e influyen en la formación de sus opiniones, un mecanismo que explica el especialista en inteligencia artificial (IA) y desarrollo de software, Diego Alejandro Chávez Soria, en entrevista con EL DIARIO, en la que analiza
La entrada Los algoritmos digitales definen contenidos e influyen en opiniones se publicó primero en El Diario – Bolivia.
Los algoritmos que operan en las plataformas digitales determinan qué contenidos llegan a los usuarios, condicionan su consumo de información e influyen en la formación de sus opiniones, un mecanismo que explica el especialista en inteligencia artificial (IA) y desarrollo de software, Diego Alejandro Chávez Soria, en entrevista con EL DIARIO, en la que analiza los criterios matemáticos que rigen estas decisiones y la vulnerabilidad de las personas frente a la manipulación digital.
Según explica Chávez, lejos de mostrar todo lo que publican amigos o páginas, lo cual saturaría los servidores y generaría una latencia imposible de procesar en tiempo real, las redes sociales emplean una arquitectura en embudo dividida en tres etapas clave:
Recuperación (Retrieval): Modelos ligeros descartan masivamente millones de contenidos en milisegundos. Estos seleccionan solo unos cientos de candidatos mediante similitudes vectoriales y perfiles generales.
Ordenamiento (Ranking): Un modelo de machine learning más pesado evalúa cientos de variables simultáneamente. Su objetivo es predecir la probabilidad matemática de conversión, es decir, cuán probable es que el usuario interactúe en ese preciso segundo.
Reordenamiento (Re-ranking): Una capa final de reglas de negocio ajusta la lista priorizando la diversificación. También fomenta la exploración de nuevos temas y aplica filtros rigurosos de política e integridad.
“El factor clave que define qué se prioriza no es la veracidad o calidad del contenido, sino la probabilidad de conversión (qué tan probable es que este usuario específico le dé clic, se detenga a verlo o interactúe en ese preciso segundo)”, indica el experto.
Desde la perspectiva de la ingeniería de datos, las plataformas distinguen entre señales implícitas y explícitas. Entre las primeras destaca el denominado dwell time o tiempo de visualización pasiva.
A diferencia de un «me gusta» rápido, si un usuario permanece treinta segundos observando un video o leyendo un texto sin realizar ninguna acción, el sistema lo interpreta como un nivel profundo de inmersión. Dado que el objetivo comercial de estas plataformas es retener la atención para exhibir publicidad, el dwell time posee un peso masivo en los modelos predictivos, combinándose con acciones activas como comentar, reaccionar o compartir.
El sesgo de la viralidad: Cuando la indignación es negocio
Consultado sobre si las reacciones viscerales (como «me enfada» o «me divierte») y las comparticiones aceleran el alcance de una publicación, el ingeniero confirma que las funciones de costo de los algoritmos otorgan pesos diferenciados a estas acciones.
“Las funciones de costo premian maximizar la interacción total, muchas veces sin considerar si el contenido es tóxico, entonces el modelo aprende matemáticamente que el contenido polarizante o indignante es el más ‹eficiente› para cumplir su meta de difusión”, advierte Chávez Soria.
Si un contenido moderado retiene al usuario por pocos minutos, pero el material conspirativo o extremista genera horas de retención involuntaria, las redes neuronales ajustan automáticamente sus coeficientes para priorizar la confrontación.
Finalmente, el especialista señala que las cámaras de eco y la polarización social no constituyen un fallo técnico, sino una consecuencia matemática directa de optimizar la retención minimizando la fricción. Al evitar opiniones contrarias que incomoden al usuario, el algoritmo tiende a aislarlo en una burbuja ideológica.
El especialista comenta que este diseño es frecuentemente instrumentalizado en campañas de desinformación mediante ejércitos de cuentas falsas o bots.
“Utilizan bots para generar interacciones masivas (reacciones y compartidos) justo en el momento en que se publica una mentira. Al detectar ese pico de actividad inicial, el algoritmo de ranking interpreta erróneamente que el contenido es de altísimo valor y retención, lo que dispara su distribución automática a millones de personas antes de que cualquier filtro humano pueda detenerlo”, concluye el experto.
La entrada Los algoritmos digitales definen contenidos e influyen en opiniones se publicó primero en El Diario – Bolivia.
Nacional archivos – El Diario – Bolivia