Algoritmos digitales y opinión pública

admin 1 comentario

Por Fabrizio Germano y Francesco Sobbrio

Los "Facebook Files" han revelado el papel de los algoritmos subyacentes a las plataformas digitales. Para entender sus implicaciones en la dinámica de la opinión pública, es necesario analizar su interacción con los sesgos de comportamiento de los individuos.

 

Cómo las plataformas utilizan los algoritmos

Las recientes revelaciones de los denunciantes de Facebook han sacado a la luz pública los posibles riesgos asociados a los algoritmos utilizados por las plataformas digitales para gestionar sus contenidos informativos. Los algoritmos utilizados por redes sociales como Facebook y Twitter, o por motores de búsqueda como Google y Bing, deciden qué información mostrar y en qué orden. En consecuencia, deciden de facto qué información es más o menos relevante para un determinado individuo. Hasta el punto de que las redes sociales y los motores de búsqueda han sido llamados "filtros algorítmicos". De hecho, desempeñan una función editorial que los hace muy diferentes de los medios de comunicación tradicionales, hasta el punto de que Rieder y Sire (2013) sugieren que el proceso editorial algorítmico está "más cerca de la estadística que del periodismo".

Por lo tanto, es preciso plantear la cuestión de las implicaciones de los algoritmos en términos de información y opinión pública. Para responder a esta pregunta, en un reciente trabajo académico, desarrollamos un modelo matemático que captura la interacción entre el algoritmo utilizado por una plataforma digital y las decisiones de los individuos sobre qué contenidos seleccionar.

El modelo analiza una situación en la que individuos con una determinada opinión inicial sobre un tema determinado (por ejemplo, vacunas seguras o peligrosas) acceden a una plataforma digital para encontrar más información (por ejemplo, hacen una búsqueda en Google). A la hora de elegir qué contenidos propuestos por la plataforma van a leer (por ejemplo, en qué página web hacer clic, qué post de Facebook leer, etc.), los individuos están guiados a menudo por un sesgo de confirmación (inclinación a querer ver confirmada la propia opinión y que, por lo tanto, tiende a hacer que se elija un contenido que corrobore la propia opinión inicial) y un sesgo de atención (inclinación a prestar atención a unos pocos contenidos y que tiende a hacer que se elija un contenido que se presente en posiciones más destacadas en la plataforma, por ejemplo, páginas web que estén más arriba en el ranking de resultados de búsqueda). Ambos sesgos han sido documentados en numerosas pruebas empíricas, y son fundamentales para entender la dinámica del proceso editorial algorítmico, así como de la opinión publica.

Popularidad y personalización

A continuación, nos centramos en dos macroclases de algoritmos: (1) los que se basan en la popularidad de un determinado contenido de la web, es decir, donde la prominencia de un contenido aumenta con el tiempo cuanto más popular es el contenido (por ejemplo, cuanto más clics recibe un sitio web); (2) los que personalizan el orden de los contenidos en función de algunas características individuales, como la dirección IP o el historial de búsqueda, con la consecuencia de que distintos usuarios ven los contenidos en órdenes diferentes.

Respecto a los algoritmos basados en la popularidad, mostramos cómo su capacidad para actuar como mecanismo de agregación de información dispersa en la población está en función de las tendencias de comportamiento de los usuarios y de su información inicial, así como de la calidad de la información de los sitios web. En particular, dado que las opiniones de los usuarios son esenciales en estos procesos algorítmicos basados en la popularidad, está claro que si las opiniones iniciales sobre el tema en cuestión son generalmente incorrectas y los usuarios tienen un fuerte sesgo de confirmación, entonces las opiniones tienden a influir negativamente en el proceso de agregación de la información, porque los usuarios elegirán con demasiada frecuencia sitios web con información incorrecta, lo que los llevará a una clasificación más alta. En particular, mostramos cómo en estos casos un algoritmo que ordena aleatoriamente los contenidos (similar, por ejemplo, a uno que simplemente destaca los últimos contenidos publicados) puede incluso ser más "eficiente" que uno basado en la popularidad. Es decir, es más probable que los individuos lean información correcta con una clasificación aleatoria de contenidos en línea comparado con una clasificación basada en la popularidad del contenido. Por el contrario, si una fracción suficientemente grande de la población tiene una opinión inicial correcta o los usuarios no tienen un sesgo de confirmación importante, el algoritmo basado en la popularidad puede agregar la información de los usuarios y los sitios web de manera eficiente y significativamente mejor que un algoritmo aleatorio.

Al mismo tiempo, mostramos cómo los algoritmos basados en la popularidad generan un efecto que llamamos "la ventaja de los pocos": cuantos menos sitios destacan una determinada información (por ejemplo, contra las vacunas), mayor será la audiencia total que capten. El efecto se debe a que la mayor concentración de tráfico hacia estos pocos sitios, aumenta su ranking permitiéndoles así atraer más usuarios. Este tipo de mecanismo puede ayudar a explicar por qué las plataformas digitales parecen dar la impresión de favorecer la difusión de noticias falsas/teorías de la conspiración.

Con respecto a los algoritmos personalizados, en nuestro trabajo mostramos cómo pueden conducir a la polarización de las opiniones iniciales de los individuos, creando así "cámaras de eco" algorítmicas. A su vez, esto se traduce en una reducción de la eficacia de la información en temas en los que existe una verdad "objetiva" (por ejemplo, la seguridad de las vacunas). En particular, la personalización de la clasificación tiende a contrarrestar los efectos positivos de los algoritmos basados en la popularidad, ya que limita, en término medio, sus externalidades positivas. Sin embargo, hay que subrayar que en cuestiones en las que la verdad es "subjetiva" o “privada” (por ejemplo, en qué restaurante cenar), es probable que los algoritmos personalizados sean eficaces. El problema es que estos algoritmos, concebidos y desarrollados con fines comerciales, pueden tener efectos negativos cuando se aplican a cuestiones de opinión pública. La información de los "Archivos de Facebook" puso de manifiesto la relevancia de la interacción entre los algoritmos y el comportamiento humano.

Entre las acusaciones que se han hecho a la cúpula directiva de Facebook está la de haber insistido en un algoritmo que ponía un fuerte énfasis en la popularidad y la personalización, a pesar de que algunos datos sugieren efectos negativos en términos de desinformación y polarización.

Los algoritmos están entre nosotros: son la columna vertebral de las redes sociales y los motores de búsqueda que utilizan miles de millones de personas cada día. Comprender y estudiar sus implicaciones es de fundamental importancia para el futuro del ecosistema de las plataformas digitales y de la opinión pública en general.

Nota: Una versión de esta entrada se publicó en italiano en lavoce.info.

Hay 1 comentarios
  • Buenos días.

    Un algoritmo es un conjunto de instrucciones para resolver un determinado problema o realizar una función con la mayor eficiencia posible. Así funciona desde el algoritmo de la división en aritmética, al algoritmo de una máquina expendedora de refrescos. El algoritmo de búsqueda tipo web crawler, que presentaron dos estudiantes de Stanford, fue rechazado por el buscador de facto, Yahoo, que indexaba los contenidos manualmente. Eso hizo que los dos amigos fundaron su propia compañía, conocida como Google.

    El automatismo de tareas debe ser lo más neutral posible. Y dado que la lógica de un algoritmo es una declaración de intenciones, dejar al usuario que valore los contenidos es lo más democrático posible.

    Las fake news solo buscan una cosa, el clickbait o el mayor tráfico posible, para endosar eslóganes o venderte el crecepelo milagroso. El problema es que el algoritmo al ser neutral y dejar a la mayoría de usuarios de RRSS la relevancia de un contenido, suelen puntuar por lo alto estas técnicas de spameo.

    Sin darnos cuenta, el algoritmo nos dice cómo somos en realidad. Y en consecuencia le achacamos la responsabilidad última de todo, como si tuviera algún poder mágico y maligno sobre nuestra capacidad de decidir.

    Un cordial saludo.

Los comentarios están cerrados.