Un estudio en el que participa IMDEA Networks desarrolla HypergraphDis, un método para la detección de la desinformación en redes sociales

El algoritmo supera a los métodos existentes tanto en precisión como en eficiencia computacional

31 Mayo 2024

La desinformación es un fenómeno creciente en las plataformas digitales, con un impacto significativo en los acontecimientos sociales, políticos y económicos. Representa desde hace tiempo una amenaza para la libertad y la democracia. Sin embargo, en la actualidad resulta aún más acuciante dada la velocidad de propagación de las campañas a través de los medios digitales. Investigadores de IMDEA Networks, la Cyprus University of Technology y LSTECH ESPAÑA SL han desarrollado el revolucionario algoritmo HypergraphDis que permite su detección en redes sociales, ayudando así a combatir la proliferación de noticias falsas o fake news.

El Dr. Marius Paraschiv, investigador sénior en IMDEA Networks y uno de los autores de la investigación, explica: “Nuestro estudio ‘HyperGraphDis: Leveraging Hypergraphs for Contextual and Social-Based Disinformation Detection’ propone un método de detección que considera las estructuras sociales complejas entre los usuarios, así como elementos relacionales y semánticos, para determinar la naturaleza de su contenido generado.”

Por su parte, el Dr. Nikolaos Laoutaris, profesor de investigación en IMDEA Networks, añade: “Con volúmenes de datos de redes sociales en constante aumento, no basta con lograr una alta precisión en la detección de fake news; los algoritmos de detección deben ser escalables y rápidos para poder aplicarse a grandes volúmenes de datos en tiempo casi real. Nuestro nuevo algoritmo HyperGraphDis no solo amplía la precisión de detección, sino que reduce significativamente el tiempo de ejecución, haciéndolo mucho más práctico que los métodos competidores.”

En concreto, los científicos evaluaron cuatro conjuntos de datos de Twitter/X sobre las elecciones presidenciales estadounidenses de 2016 y la pandemia COVID-19, e HyperGraphDis superaba a los métodos existentes tanto en precisión como en eficiencia computacional, lo que subraya su eficacia y escalabilidad para afrontar los retos que plantea la propagación de la desinformación.

El estudio revela que la desinformación no siempre es directamente verificable y depende del contexto. Por ello, Paraschiv subraya que es crucial “fijarse en los antecedentes y analizar las relaciones y el entorno de quienes difunden la información, así como las comunidades a las que pertenecen o su relación con fuentes de desinformación conocidas. Además, dichas fuentes no son necesariamente los principales generadores de un elemento de desinformación, pueden ser simplemente propagadores o amplificadores, que pueden servir como individuos que introducen esta desinformación en una comunidad donde luego es amplificada por otros miembros de la misma”.

Cómo funciona HyperGraphDis

HyperGraphDis combina técnicas avanzadas como redes neuronales de hipergráfico, agrupamiento de gráficos para la detección de comunidades y procesamiento de lenguaje natural para la comprensión de textos. Esto permite una detección más eficiente y precisa de la desinformación.

Para su trabajo los investigadores se han centrado en Twitter/X debido a la disponibilidad de conjuntos de datos complejos, aunque HyperGraphDis puede adaptarse a otras plataformas sociales.

Otra de sus ventajas es que ofrece a los propietarios de plataformas una forma eficaz de mitigar los efectos de la desinformación, proporcionando una mejor comprensión de cómo se propaga y cómo combatirla de manera efectiva, ya que facilita respuestas verificadas por hechos y adaptadas al contexto dado.

Retos y futuros desarrollos

Los desafíos del proyecto han sido numerosos, desde la recolección de datos actualizados de Twitter/X (los mensajes se borran, las cuentas se eliminan, el contenido de los mensajes puede editarse y no reflejar el significado original, etc.) hasta la construcción de hipergráficos complejos. Sin embargo, los investigadores ya tienen la mirada puesta en el futuro: la detección de desinformación multimodal utilizando modelos avanzados como GPT-4. “Puede que sea el siguiente paso lógico, pero hay obstáculos importantes que superar, entre ellos los problemas de escala y la agregación de información procedente de múltiples fuentes”, concluye Paraschiv.