Una investigación elabora el mapa de cómo se propaga el odio en las redes sociales

El odio online prospera a nivel mundial a través de grupos auto-organizados que se esparcen y se interconectan a través de múltiples plataformas de redes sociales, países e idiomas, según una nueva investigación publicada este miércoles en la revista ‘Nature’.

Investigadores de la Universidad George Washington (GW) desarrollaron un modelo, el primero de su tipo, para rastrear cómo prosperan estos grupos de odio en línea. Creen que podría ayudar a las plataformas de redes sociales y a las fuerzas del orden en la batalla contra el odio en Internet.

Con la explosión de las redes sociales, las personas pueden conectarse con otras con ideas afines en cuestión de unos pocos clicks. Los grupos de personas con intereses comunes se forman fácil y rápidamente. Pero recientemente, las ideologías de odio en línea y las narrativas extremistas se han relacionado con un aumento de los crímenes en todo el mundo.

Para frustrar esta tendencia, los investigadores dirigidos por Neil Johnson, profesor de física en GW, se propusieron comprender mejor cómo evoluciona el odio en línea y si se puede detener.

«El odio destruye vidas, no solo como hemos visto en El Paso, Orlando y Nueva Zelanda, sino psicológicamente a través del acoso y la retórica en línea, dice el doctor Johnson. Nos propusimos llegar al fondo del odio en línea al ver por qué es tan resistente y cómo se puede abordar mejor. En lugar de que el amor esté en el aire, descubrimos que el odio está en el éter».

Para comprender cómo evoluciona el odio en línea, el equipo comenzó viendo cómo los grupos se interconectan para difundir sus narrativas y atraer nuevos reclutas. Centrándose en las plataformas de redes sociales como Facebook y su contraparte centroeuropea, VKontakte, los investigadores comenzaron con un grupo de odio dado y miraron hacia afuera para encontrar uno que estuviera fuertemente conectado con el original.

Descubrieron que el odio cruza los límites de plataformas específicas de Internet, como Instagram, Snapchat y WhatsApp; ubicación geográfica, incluidos los Estados Unidos, Sudáfrica y partes de Europa; e idiomas, incluidos inglés y ruso.

Los investigadores vieron grupos que creaban nuevas estrategias de adaptación para reagruparse en otras plataformas y / o volver a ingresar a una plataforma después de ser prohibidos. Por ejemplo, los clústeres pueden migrar y reconstituirse en otras plataformas o usar diferentes idiomas para evitar la detección.

Esto permite que el clúster atraiga rápidamente a miles de seguidores a una plataforma en la que han sido prohibidos y resalta la necesidad de una cooperación multiplataforma para limitar los grupos de odio en línea.

«La analogía es que no importa cuánto herbicida coloque en un patio, el problema volverá, potencialmente más agresivo. En el mundo en línea, todos los patios en el vecindario están interconectados de una manera muy compleja, casi como agujeros de gusano. Es por eso que las plataformas de redes sociales individuales como Facebook necesitan un nuevo análisis como el nuestro para descubrir nuevos enfoques para impulsarlos», explica el doctor Johnson.

El equipo, que incluía investigadores de la Universidad de Miami, utilizó información de su mapeo de odio en línea para desarrollar cuatro estrategias de intervención que las plataformas de redes sociales podrían implementar de inmediato en función de las circunstancias situacionales.

En primer lugar, reducir la potencia y el número de grupos grandes al prohibir los grupos más pequeños que se alimentan de ellos; atacar el talón de Aquiles de los grupos de odio en línea al prohibir aleatoriamente una pequeña fracción de usuarios individuales para que la red de clúster global forme parte; enfrentar a grandes grupos entre sí ayudando a los grupos anti-odio a encontrar e interactuar directamente con grupos de odio y establecer grupos intermedios que involucren a grupos de odio para ayudar a resaltar las diferencias de ideologías entre ellos y hacer que comiencen a cuestionar su postura.

Los investigadores señalaron que cada una de sus estrategias se puede adoptar a escala global y simultáneamente en todas las plataformas sin tener que compartir la información confidencial de usuarios individuales o secretos comerciales, lo que ha sido un obstáculo antes.

Utilizando este mapa y su modelo matemático como base, el doctor Johnson y su equipo están desarrollando un software que podría ayudar a los reguladores y las agencias de aplicación a implementar nuevas intervenciones.