L’IA può aiutare a prevenire la disinformazione scientifica? Ricerca sul fact-checking

L'IA può prevenire la disinformazione scientifica? Opportunità, rischi e migliori pratiche

Introduzione

La disinformazione scientifica non è un problema nuovo, ma la scala e la velocità con cui oggi si diffonde sono senza precedenti. I preprint possono circolare ampiamente prima della revisione paritaria formale. I titoli possono semplificare eccessivamente o distorcere risultati complessi. I post sui social media possono amplificare affermazioni discutibili fino a raggiungere milioni di lettori nel giro di poche ore. In questo contesto, ricercatori, riviste ed enti sono sotto pressione per trovare modi migliori di rilevare e correggere informazioni scientifiche fuorvianti o false.

Al contempo, l'intelligenza artificiale (IA) si è evoluta fino a diventare un potente strumento per l'elaborazione delle informazioni. I moderni sistemi di IA possono leggere e analizzare testi, classificare contenuti, rilevare anomalie statistiche e confrontare nuove affermazioni con grandi quantità di prove esistenti. Ciò ha portato molti a chiedersi: l'IA può essere utilizzata per verificare i fatti scientifici in tempo reale e contribuire a impedire che la disinformazione si radichi?

Questo articolo esamina la questione in modo approfondito. Iniziamo delineando la natura e le fonti della disinformazione scientifica. Spieghiamo poi come funzionano generalmente i sistemi di verifica dei fatti basati sull'IA e in quali ambiti apportano attualmente il maggior valore. Esaminiamo quindi i limiti e i rischi dell'affidarsi all'IA per la verifica della ricerca e discutiamo come potrebbe essere strutturato nella pratica un modello realistico e ibrido, basato su IA e intervento umano. Infine, proponiamo raccomandazioni pratiche per ricercatori, redattori ed enti che desiderano usare l'IA in modo responsabile per salvaguardare l'integrità scientifica.

La crescente sfida della disinformazione scientifica

La disinformazione scientifica può emergere intenzionalmente o accidentalmente in varie fasi del processo di ricerca e comunicazione. Tra le principali fonti figurano:

1. Falsificazione e manipolazione dei dati: in casi rari ma gravi, i ricercatori possono falsificare i dati, modificare le immagini o selezionare solo i risultati utili a sostenere una conclusione desiderata. Quando questi articoli entrano nella letteratura scientifica, possono fuorviare le ricerche e le politiche successive.
2. Interpretazione errata dei risultati: più comunemente, risultati complessi o preliminari vengono interpretati in modo errato – dagli stessi autori, dai giornalisti o dai lettori – dando luogo a conclusioni esagerate o eccessivamente semplicistiche.
3. Pubblicazione predatoria e revisione paritaria debole: le riviste prive di rigorosi controlli editoriali e di una revisione paritaria accurata possono accettare ricerche di bassa qualità o errate, conferendo loro un'apparenza di legittimità.
4. Resoconti parziali o selettivi: enfatizzare i risultati positivi ignorando quelli negativi o nulli può distorcere la percezione dell’equilibrio delle evidenze, soprattutto nei settori della salute e della medicina.
5. Social media e fake news: una volta che un’affermazione accattivante compare in un tweet, in un post di blog o in un video, può essere ampiamente condivisa senza contesto né verifica, diffondendosi ben oltre la comunità di ricerca.

Queste forme di disinformazione possono avere conseguenze di vasta portata. Possono influenzare le decisioni sui finanziamenti, orientare le linee guida cliniche, indirizzare i comportamenti dei consumatori o erodere la fiducia nella scienza se affermazioni di grande risonanza vengono in seguito smentite da un esame rigoroso. Data la mole di materiale pubblicato e di contenuti online, la verifica dei fatti svolta esclusivamente manualmente non è più praticabile. È qui che entrano in gioco gli approcci basati sull’IA.

Come funziona la verifica dei fatti con l’IA

I sistemi di verifica dei fatti basati sull’IA mirano generalmente a verificare l’accuratezza di un’affermazione confrontandola con fonti affidabili e valutando se sia coerente con le evidenze consolidate. Sebbene le implementazioni specifiche varino, la maggior parte dei sistemi condivide diversi componenti fondamentali.

1. Raccolta dei dati e convalida delle fonti

Il primo passo consiste nel costruire una solida base di informazioni affidabili. I sistemi di IA acquisiscono dati da:

• Riviste accademiche sottoposte a revisione paritaria ed editori affermati.
• Database governativi e intergovernativi (ad es. agenzie sanitarie, uffici statistici).
• Archivi istituzionali e server di preprint riconosciuti.
• Organizzazioni scientifiche e testate giornalistiche affidabili con rigorosi standard editoriali.

La convalida delle fonti è fondamentale: se nel set di dati di addestramento sono incluse fonti discutibili o di parte, i verdetti del sistema rifletteranno tali debolezze. Alcuni strumenti di IA incorporano meccanismi di ponderazione delle fonti, considerando le revisioni sistematiche e i rapporti di consenso più autorevoli rispetto ai singoli articoli d’opinione.

2. Elaborazione del linguaggio naturale per comprendere le affermazioni

Una volta che un sistema ha accesso a dati affidabili, deve interpretare l’affermazione in esame. È qui che entra in gioco l’elaborazione del linguaggio naturale (NLP). I modelli NLP analizzano la struttura e il significato delle frasi per estrarre l’asserzione principale. Ciò può comportare:

• Identificare le entità (ad es. farmaci, malattie, popolazioni, variabili) e le loro relazioni.
• Riconoscere i verbi modali e il linguaggio attenuativo (ad es. «può ridurre», «è associato a») per cogliere le sfumature.
• Distinguere tra affermazioni descrittive (“lo studio ha incluso 300 pazienti”) e affermazioni causali (“questo trattamento cura la malattia”).

I modelli avanzati di NLP possono anche rilevare segnali di linguaggio vago o esagerato, come conclusioni eccessivamente sicure basate su studi di piccole dimensioni o osservazionali, e segnalarli per un esame più approfondito.

3. Confronto incrociato con la letteratura esistente

Dopo aver estratto l’affermazione, i sistemi di IA cercano evidenze correlate nel proprio database. Tecniche come la similarità semantica e l’analisi delle reti di citazioni consentono allo strumento di identificare studi che affrontano la stessa domanda o una strettamente correlata. Ad esempio:

• Se un’affermazione sostiene che “un integratore specifico cura il diabete”, il sistema può recuperare studi clinici, meta-analisi e linee guida relativi a quell’integratore e a quella malattia.
• Se studi di alta qualità rilevano costantemente l’assenza di effetti o solo benefici modesti, l’IA può segnalare l’affermazione originale come fuorviante o non supportata.

In alcuni casi, gli strumenti di IA possono riassumere l’insieme delle evidenze, indicando se la ricerca attuale supporti, contraddica o non consenta di trarre conclusioni riguardo all’affermazione.

4. Verifiche della coerenza statistica e logica

Oltre al confronto testuale, alcuni modelli di IA possono esaminare attentamente gli elementi numerici e statistici di un articolo:

• Verificare se i valori p riportati corrispondano alle statistiche del test sottostante e alle dimensioni del campione.
• Cercare dimensioni dell’effetto implausibili o modelli che suggeriscano una manipolazione dei dati o una rendicontazione selettiva.
• Valutare se i metodi utilizzati siano appropriati per la domanda di ricerca e il tipo di dati.

Sebbene questi strumenti non possano sostituire completamente la revisione statistica da parte di esperti, possono richiamare l’attenzione su irregolarità che richiedono un approfondimento umano.

5. Segnalazione e denuncia di informazioni sospette

Quando un sistema di IA rileva incoerenze, lacune nelle evidenze o conflitti con le conoscenze consolidate, può attivare una serie di risposte:

• Avvisi a editor e revisori durante il processo di revisione paritaria.
• Notifiche agli uffici per l’integrità istituzionale per una possibile indagine.
• Avvertenze sulle piattaforme pubbliche che indicano che un’affermazione è controversa o non supportata da evidenze di alta qualità.

In alcune implementazioni, gli strumenti di IA offrono anche alternative basate su evidenze, indirizzando gli utenti verso spiegazioni meglio supportate o riassumendo lo stato attuale della ricerca sull’argomento.

Vantaggi dell’IA nel fact-checking della disinformazione scientifica

Se progettato e implementato con attenzione, il fact-checking basato sull’IA offre diversi vantaggi importanti.

1. Velocità e scalabilità

Gli esperti umani possono esaminare in dettaglio solo un numero limitato di affermazioni. I sistemi di IA, al contrario, possono analizzare migliaia di articoli e post sui social media in poco tempo, risultando quindi particolarmente adatti alla rilevazione precoce di schemi problematici. Questa scalabilità è particolarmente preziosa in ambiti in rapida evoluzione, come le pandemie, gli eventi climatici o le tecnologie emergenti.

2. Maggiore obiettività e coerenza

Poiché l’IA si basa su regole e dati predefiniti anziché su preferenze personali, può contribuire a ridurre alcuni tipi di parzialità soggettiva. Ad esempio, un verificatore basato sull’IA applicherà i propri criteri nello stesso modo a tutti gli autori e le istituzioni, evidenziando potenzialmente problemi presenti in articoli di grande rilievo che altrimenti potrebbero sfuggire a un esame critico.

3. Supporto alla revisione tra pari e al lavoro editoriale

L’IA può fungere da prima linea di difesa per le riviste scientifiche. Esaminando gli articoli inviati alla ricerca di irregolarità statistiche, schemi insoliti nelle citazioni o contraddizioni con le evidenze consolidate, gli strumenti di IA possono aiutare gli editori a stabilire le priorità e fornire ai revisori domande mirate da approfondire. Ciò può rendere più efficiente la revisione tra pari e ridurre il rischio che articoli fraudolenti o gravemente lacunosi arrivino alla pubblicazione.

4. Rafforzare la fiducia del pubblico nella scienza

Un fact-checking basato sull’IA trasparente e comunicato in modo efficace può contribuire a ripristinare e mantenere la fiducia del pubblico. Quando i lettori sanno che le affermazioni sono state verificate rispetto a vaste quantità di evidenze — e che le correzioni vengono pubblicate tempestivamente quando vengono rilevati problemi — è più probabile che considerino le istituzioni scientifiche credibili e capaci di autocorreggersi.

5. Supporto a responsabili delle politiche, giornalisti e piattaforme

Spesso i responsabili delle politiche e i giornalisti devono valutare rapidamente le affermazioni scientifiche, lavorando sotto pressione. Gli strumenti di IA che riassumono lo stato delle evidenze, evidenziano i risultati controversi o segnalano gli articoli ritirati possono essere estremamente utili per evitare di amplificare inavvertitamente la disinformazione. Anche le piattaforme di social media possono integrare controlli basati sull’IA per identificare e contrassegnare i post che promuovono affermazioni prive di supporto scientifico.

Sfide e limitazioni del fact-checking basato sull’IA

Nonostante questi vantaggi, l’IA è ben lontana dall’essere una soluzione perfetta. È necessario riconoscere diverse importanti limitazioni.

1. Dipendenza dai dati di addestramento

I modelli di IA sono validi quanto i dati su cui sono stati addestrati. Se il set di addestramento include principalmente riviste in lingua inglese provenienti da Paesi ad alto reddito, potrebbe rappresentare in modo insufficiente ricerche valide di altre regioni o lingue. Se nel set di dati predominano gli studi più datati, l’IA potrebbe rimanere indietro rispetto alle conoscenze attuali. Ciò può portare a valutazioni distorte o obsolete.

2. Difficoltà con questioni complesse e in evoluzione

Molti dibattiti scientifici non sono semplicemente una questione di “vero o falso”. Coinvolgono teorie concorrenti, evidenze emergenti e conclusioni dipendenti dal contesto. I sistemi di IA possono avere difficoltà con queste sfumature. Un’affermazione che sembra contraddire il consenso può in realtà rappresentare una ricerca legittima e innovativa, che mette in discussione una visione ormai superata. Verificatori di fatti basati sull’IA eccessivamente rigidi rischiano di penalizzare il lavoro pionieristico o di etichettare come disinformazione un sano disaccordo scientifico.

3. Pregiudizi algoritmici ed eccessiva dipendenza dalle fonti più autorevoli

Quando i sistemi di verifica dei fatti basati sull’IA danno priorità solo alle riviste molto citate o alle istituzioni note, possono rafforzare inavvertitamente le gerarchie esistenti nella scienza. Punti di vista alternativi, riviste più piccole o aree di ricerca più recenti potrebbero essere emarginati, anche quando offrono contributi preziosi. Questo può restringere la diversità delle prospettive scientifiche che il sistema riconosce come legittime.

4. Falsi positivi e falsi negativi

Nessun sistema automatizzato è perfetto. I verificatori di fatti basati sull’IA possono:

• Segnalare come sospetta una ricerca legittima (falsi positivi), creando inutili difficoltà per autori e redattori.
• Non rilevare manipolazioni sottili o frodi sofisticate (falsi negativi), soprattutto quando gli autori progettano i propri metodi per eludere le tecniche di rilevamento note.

Queste limitazioni sottolineano la necessità di supervisione umana e meccanismi di ricorso, affinché le decisioni non si basino esclusivamente sui risultati algoritmici.

5. Considerazioni etiche e legali

L’uso dell’IA per valutare l’integrità della ricerca solleva questioni delicate:

• Privacy dei dati: I sistemi devono rispettare le leggi sulla protezione dei dati durante l’elaborazione dei manoscritti, soprattutto quando contengono informazioni sensibili.
• Libertà accademica: Un ricorso eccessivo agli strumenti automatizzati potrebbe scoraggiare idee o metodi non convenzionali che esulano dagli schemi esistenti.
• Responsabilità: Quando un verificatore di fatti basato sull’IA commette un errore, dannoso o lesivo della reputazione, chi ne è responsabile? Gli sviluppatori dello strumento, l’istituzione che lo utilizza o i redattori che vi fanno affidamento?

Sono necessarie politiche chiare e strutture di governance per affrontare queste questioni.

Il futuro del fact-checking basato sull’IA nella ricerca

Considerandone sia i punti di forza sia le debolezze, come è probabile che evolva il fact-checking basato sull’IA nei prossimi anni?

1. Modelli ibridi IA–umani

L’approccio più realistico ed efficace è la collaborazione tra IA ed esperti umani. L’IA può occuparsi dello screening su larga scala, del rilevamento di schemi e della segnalazione iniziale, mentre gli esseri umani forniscono giudizio contestuale, competenze specifiche delle discipline e supervisione etica. Questa collaborazione combina il meglio di entrambi i mondi: velocità e ampiezza dall’IA, profondità e sfumature dagli esseri umani.

2. Miglioramento continuo dei modelli e trasparenza

Per rimanere efficaci, i sistemi di IA avranno bisogno di riaddestramento e aggiornamenti continui con dati diversificati e di alta qualità. Una documentazione trasparente su come vengono costruiti i modelli, quali fonti utilizzano e come valutano le evidenze sarà sempre più importante per garantire fiducia e responsabilità.

3. Integrazione con la scienza aperta e gli standard dei metadati

Il fact-checking basato sull’IA può trarre grandi benefici da dati aperti, metodi aperti e metadati dettagliati. Quando gli studi includono informazioni leggibili automaticamente su protocolli, set di dati e risultati, diventa più facile per i sistemi di IA verificare le affermazioni e confrontare i risultati tra diversi studi. Le iniziative di scienza aperta possono quindi rendere la verifica basata sull’IA più potente e accurata.

4. Sviluppo di linee guida etiche e buone pratiche

Le istituzioni, i finanziatori e gli editori dovranno sviluppare linee guida chiare sull’uso appropriato dell’IA nel fact-checking. Queste dovranno specificare:

• Dove l’IA è più opportunamente utilizzata (ad esempio, per la preselezione delle proposte e il monitoraggio dei social media) e dove la revisione umana è essenziale.
• Come gestire i conflitti tra i risultati dell’IA e il parere degli esperti.
• Quali procedure di trasparenza e ricorso sono disponibili per gli autori il cui lavoro viene segnalato?

5. Sostegno alla ricerca multidisciplinare e socialmente rilevante

La disinformazione scientifica ha spesso il maggiore impatto in ambiti trasversali come il cambiamento climatico, i vaccini, la nutrizione e le tecnologie emergenti. I futuri sistemi di IA dovrebbero essere progettati per operare tra diverse discipline, combinando intuizioni provenienti da più settori per valutare affermazioni complesse e ad alto impatto che riguardano la società nel suo insieme.

Raccomandazioni pratiche per usare l’IA per contrastare la disinformazione

Per chi sta valutando l’uso del fact-checking basato sull’IA nel proprio lavoro, le seguenti pratiche possono aiutare a massimizzare i benefici limitando al contempo i rischi:

• Per i ricercatori: usate gli strumenti di IA per mettere alla prova le vostre affermazioni, verificandone la coerenza con le evidenze esistenti, ma non affidatevi esclusivamente all’IA per convalidare il vostro lavoro. Assicuratevi che i vostri manoscritti siano scritti con parole vostre e valutate la possibilità di utilizzare servizi professionali di correzione di bozze svolta da persone per migliorarne chiarezza e stile senza attivare problemi con gli strumenti di rilevamento dell’IA.
• Per gli editor e le riviste: integrate lo screening basato sull’IA nei flussi di lavoro per l’invio dei manoscritti come strumento di supporto, non come sostituto della revisione paritaria. Fornite ai revisori rapporti generati dall’IA come materiale di riferimento, ma lasciate che prevalga il giudizio umano.
• Per le istituzioni e gli enti finanziatori: sviluppate politiche chiare sull’uso dell’IA per i controlli di integrità, comprese garanzie per la privacy, requisiti di trasparenza e procedure di ricorso eque.
• Per i divulgatori e le piattaforme: combinate il controllo delle affermazioni basato sull’IA con panel di esperti e un’etichettatura chiara dei contenuti contestati. Evitate semplici etichette “vero/falso” nei settori in cui le evidenze sono ancora in evoluzione.

Conclusione: l’IA può prevenire la disinformazione scientifica?

Il fact-checking basato sull’IA non è uno scudo magico contro la disinformazione scientifica, ma è uno strumento potente e sempre più necessario. I sistemi di IA possono analizzare rapidamente le affermazioni di una ricerca, confrontarle con ampie raccolte di evidenze, segnalare incoerenze e aiutare revisori, editor, responsabili politici e giornalisti a prendere decisioni più informate. In questo senso, l’IA può ridurre sostanzialmente la diffusione e l’impatto della disinformazione.

Tuttavia, l’IA non può e non dovrebbe sostituire l’esperienza umana. La conoscenza scientifica è dinamica, ricca di sfumature e spesso oggetto di controversie. Stabilire se un’affermazione sia fuorviante, irresponsabile o genuinamente innovativa richiede conoscenze del settore, riflessione etica e un’interpretazione attenta: tutti ambiti in cui l’intervento umano rimane essenziale.

La strada più promettente da seguire è quindi una collaborazione equilibrata tra IA e persone. L’IA offre scalabilità e velocità; le persone apportano contesto, giudizio e responsabilità. In combinazione con pratiche di scienza aperta, solidi quadri etici e una revisione umana di alta qualità – inclusi un’attenta correzione di bozze e un supporto editoriale svolti da persone – l’IA può svolgere un ruolo centrale nel rafforzare l’accuratezza, la credibilità e l’affidabilità della comunicazione scientifica negli anni a venire.