Il progetto DEMON (Detect and Evaluate Manipulation of ONline information) mira a caratterizzare e rilevare la manipolazione delle informazioni online combinando le tecniche di elaborazione del linguaggio naturale (NLP) e l'analisi dei social network.
Dal punto di vista del NLP, diverse variazioni nel linguaggio - come determinate enunciazioni - possono essere sfruttate per comprendere le diverse modalità in cui la stessa notizia può essere riportata (e percepita) dai lettori tramite canali online. Da una seconda prospettiva, le tecniche basate sulla rete possono essere utilizzate per valutare il ruolo e l'influenza delle fonti e degli attori nella manipolazione di specifiche informazioni per scopi diversi.
Il progetto si focalizzerà sull’utilizzo di modelli di linguaggio avanzati (LLM) per affinare l'analisi delle informazioni online, consentendo una comprensione più approfondita dei sottotesti e delle sfumature linguistiche utilizzate nella manipolazione dell'informazione. L'impiego di LLM aggiungerà una dimensione ulteriore alla capacità di rilevare e comprendere le tattiche più sottili impiegate dagli attori malintenzionati nel diffondere informazioni manipolate attraverso i canali online.
L'approccio proposto si differenzia dalla maggior parte delle ricerche che cercano di rilevare automaticamente informazioni false mediante
- l'introduzione e l'adozione di una categorizzazione delle sotto-narrazioni che caratterizzano diversi tipi di informazioni online
- lo sfruttamento di tale categorizzazione per rilevare la diffusione di informazioni "armate" e manipolate sui social media.
Il risultato di questo progetto migliorerà la comprensione dei vari aspetti delle informazioni online potenzialmente dannose, unendo approcci basati sull'analisi NLP più recente con metodi che utilizzano la scienza dei dati e la scienza delle reti.
Il progetto avrà anche un impatto sostanziale nel rilevare e ridurre gli effetti di attacchi informatici condotti da entità straniere e gruppi coordinati di attori malintenzionati allo scopo di influenzare il dibattito pubblico a livello nazionale, e contribuirà al dibattito attuale sulla moderazione dei contenuti pubblicati sui social network.
