El algoritmo supera a los métodos existentes tanto en precisión como en eficiencia computacional.
La desinformación es un fenómeno creciente en las plataformas digitales, con un impacto significativo en los acontecimientos sociales, políticos y económicos. Representa desde hace tiempo una amenaza para la libertad y la democracia. Sin embargo, en la actualidad resulta aún más acuciante dada la velocidad de propagación de las campañas a través de los medios digitales. Investigadores de IMDEA Networks, la Cyprus University of Technology y LSTECH ESPAÑA SL han desarrollado el revolucionario algoritmo HypergraphDis que permite su detección en redes sociales, ayudando así a combatir la proliferación de noticias falsas o fake news.
Algoritmo para Detectar Desinformación en Redes Sociales
El Dr. Marius Paraschiv, investigador sénior en IMDEA Networks y uno de los autores de la investigación, explica: “Nuestro estudio ‘HyperGraphDis: Leveraging Hypergraphs for Contextual and Social-Based Disinformation Detection’ propone un método de detección que considera las estructuras sociales complejas entre los usuarios, así como elementos relacionales y semánticos, para determinar la naturaleza de su contenido generado.”
Por su parte, el Dr. Nikolaos Laoutaris, profesor de investigación en IMDEA Networks, añade: “Con volúmenes de datos de redes sociales en constante aumento, no basta con lograr una alta precisión en la detección de fake news; los algoritmos de detección deben ser escalables y rápidos para poder aplicarse a grandes volúmenes de datos en tiempo casi real. Nuestro nuevo algoritmo HyperGraphDis no solo amplía la precisión de detección, sino que reduce significativamente el tiempo de ejecución, haciéndolo mucho más práctico que los métodos competidores.”
En concreto, los científicos evaluaron cuatro conjuntos de datos de Twitter/X sobre las elecciones presidenciales estadounidenses de 2016 y la pandemia COVID-19, e HyperGraphDis superaba a los métodos existentes tanto en precisión como en eficiencia computacional, lo que subraya su eficacia y escalabilidad para afrontar los retos que plantea la propagación de la desinformación.
El estudio revela que la desinformación no siempre es directamente verificable y depende del contexto. Por ello, Paraschiv subraya que es crucial “fijarse en los antecedentes y analizar las relaciones y el entorno de quienes difunden la información, así como las comunidades a las que pertenecen o su relación con fuentes de desinformación conocidas. Además, dichas fuentes no son necesariamente los principales generadores de un elemento de desinformación, pueden ser simplemente propagadores o amplificadores, que pueden servir como individuos que introducen esta desinformación en una comunidad donde luego es amplificada por otros miembros de la misma”.
Cómo funciona HyperGraphDis
HyperGraphDis combina técnicas avanzadas como redes neuronales de hipergráfico, agrupamiento de gráficos para la detección de comunidades y procesamiento de lenguaje natural para la comprensión de textos. Esto permite una detección más eficiente y precisa de la desinformación.
Para su trabajo los investigadores se han centrado en Twitter/X debido a la disponibilidad de conjuntos de datos complejos, aunque HyperGraphDis puede adaptarse a otras plataformas sociales.
Otra de sus ventajas es que ofrece a los propietarios de plataformas una forma eficaz de mitigar los efectos de la desinformación, proporcionando una mejor comprensión de cómo se propaga y cómo combatirla de manera efectiva, ya que facilita respuestas verificadas por hechos y adaptadas al contexto dado.
Retos y futuros desarrollos
A la luz del creciente impacto de la desinformación en el panorama social, económico y político, los métodos de identificación precisos y eficientes son cada vez más críticos. Este artículo presenta HyperGraphDis, un enfoque novedoso para detectar desinformación en Twitter que emplea una representación basada en hipergrafías para capturar (i) las intrincadas estructuras sociales que surgen de las cascadas de retuits, (ii) características relacionales entre usuarios y (iii) matices semánticos y temáticos. . Evaluado en cuatro conjuntos de datos de Twitter, centrándose en las elecciones presidenciales de EE. UU. de 2016 y la pandemia de COVID-19, HyperGraphDis supera a los métodos existentes tanto en precisión como en eficiencia computacional, lo que subraya su eficacia y escalabilidad para abordar los desafíos que plantea la difusión de desinformación. HyperGraphDis muestra un rendimiento excepcional en un conjunto de datos relacionados con COVID-19, logrando una impresionante puntuación F1 (ponderada) de aproximadamente 89,5 %. Este resultado representa una mejora notable de alrededor del 6% en comparación con los métodos existentes. Además, se observan mejoras significativas en el tiempo de cálculo tanto para el entrenamiento como para la inferencia del modelo. En términos de capacitación modelo, los tiempos de finalización se aceleran en un factor que oscila entre 2,3 y 9,3 en comparación con los métodos anteriores. De manera similar, durante la inferencia, los tiempos de cálculo son de 1,3 a 7,2 veces más rápidos que los del estado del arte.
Los desafíos del proyecto han sido numerosos, desde la recolección de datos actualizados de Twitter/X (los mensajes se borran, las cuentas se eliminan, el contenido de los mensajes puede editarse y no reflejar el significado original, etc.) hasta la construcción de hipergráficos complejos. Sin embargo, los investigadores ya tienen la mirada puesta en el futuro: la detección de desinformación multimodal utilizando modelos avanzados como GPT-4. “Puede que sea el siguiente paso lógico, pero hay obstáculos importantes que superar, entre ellos los problemas de escala y la agregación de información procedente de múltiples fuentes”, concluye Paraschiv.