Frodi nella scienza 4.0 grazie all’Ai generativa. Ma esistono soluzioni

Frodi nella scienza Ai generativa soluzioni
Pubblicato il: 20 Marzo 2025|

Mezza giornata. È il tempo necessario per produrre un lavoro scientifico falso grazie all’intelligenza artificiale generativa, con tanto di immagini, dati e bibliografia a corredo, il tutto completamente indistinguibile da un articolo autentico anche agli occhi dei più esperti. Una “frode scientifica 4.0” che rischia di compromettere tutta la conoscenza acquisita dopo il 2020 (da quando cioè l’Ai ha fatto il suo ingresso in società), a meno che non ci si doti di strumenti per riconoscere questi “falsi d’autore”.

O ancora meglio “per riconoscere i dati veri all’origine della loro produzione”, come spiega Enrico Bucci, professore alla Temple University di Philadelphia ed esperto di integrità e di gestione dei dati nella ricerca scientifica. Bucci è stato uno dei numerosi ricercatori di spessore intervenuti al primo Congresso nazionale sull’Integrità nella Ricerca, convocato dal Cnr – e in particolare dal Centro Interdipartimentale per l’Etica e l’Integrità nella Ricerca dell’ente – a Roma il 27 e 28 gennaio 2025. Al termine dei due giorni è stata anche firmata la “Dichiarazione di Roma sull’Integrità nella Ricerca”.

Definizioni controverse

Partiamo dal fatto che ci sono frodi e frodi e alcune di queste rientrano in una zona grigia dove il confine con la cattiva condotta scientifica è labile. Se infatti non c’è dubbio che la fabbricazione, falsificazione e plagio, (riassunte nell’acronimo “Ffp”) siano pratiche riconosciute e messe al bando in qualsiasi Paese, la situazione si complica quando si parla di “pratiche questionabili o irresponsabili” (questionabile research practices, Qrp).

Anche perché le loro definizioni cambiano costantemente in letteratura, creando confusione e ostacolando la ricerca, come spiega Daniele Fanelli, ricercatore della London School of Economics and Political Science, autore di numerose pubblicazioni sulla cattiva condotta scientifica e membro di diverse agenzie per l’integrità della ricerca, tra cui il già citato centro del Cnr.

Un confine sottile

“Si sta parlando di comportamenti dalla definizione nebulosa, al limite tra la pratica accettabile e non, per cui non esiste una classificazione o un criterio per definirle esattamente”. Un esempio citato dall’esperto è l’omissione di informazione o per così dire una presentazione selettiva dei risultati. Una delle pratiche riportate più di frequente ma non a caso anche tra le più dibattute. “Lo stesso comportamento può rientrare nelle Qrp o al contrario favorire la scienza”, afferma Fanelli.

“Se rimuovo dati dal mio campione e non lo dichiaro nell’articolo, tecnicamente è sbagliato, però in un caso posso farlo per rinforzare i risultati, in un altro per eliminare dati estremi e sbagliati. Dovrei comunque riportarlo nella pubblicazione per correttezza, però il risultato è completamente opposto: il secondo caso non solo non è dannoso, ma in realtà sta favorendo una scienza più solida”. Per questo motivo Fanelli e il suo gruppo hanno prima condotto uno studio per riclassificare le Qrp in modo più chiaro – in modo per esempio da poter usare questa tassonomia per comparare i dati fra diversi studi e di aggregarli – e poi hanno lavorato a un metodo per qualificare l’impatto delle Qrp stesse.

Il mercato dei falsi

Diverso è il caso delle Ffp, più chiaramente riconoscibili e che, come già accennato, sono un rischio concreto e di non poco peso per la scienza. Basti pensare ai numerosi articoli ritrattati negli ultimi tempi (10 mila secondo Nature solo nel 2023) indice forse non di un trend in crescita ma di una maggiore sensibilità sul tema. Dietro però, come fa notare Bucci, vi è un mercato – quello dello scientific publishing – che a partire dal secondo dopoguerra è cresciuto in termini di importanza e valore fino ai giorni nostri.

In particolare quello dei “predatory journals” (riviste che adottano pratiche editoriali poco etiche, come la pubblicazione di articoli senza una reale revisione tra pari e che chiedono agli autori pagamenti ingiustificati) e i “paper mills”, vere e proprie fabbriche di articoli scientifici falsificati o di bassa qualità, prodotti in serie e venduti a ricercatori o istituzioni che vogliono pubblicare velocemente. Il tutto senza passare per il rigoroso processo di revisione scientifica per finire poi sia sulle riviste predatorie che altre, passando per articoli scientifici seri.

“Il valore stimato qualche anno fa per le vendite di questi articoli fraudolenti da parte delle Paper Mills è di oltre il miliardo di euro l’anno”, fa notare Bucci. “Pensate ai soldi dati alla ricerca e quelli che fa questo mercato che li assorbe in parte. Significa che ormai c’è un incentivo economico fortissimo a produrre e vendere frode per poi pubblicare”.

La falsificazione dei dati con l’Ai

Va da sé che la produzione di articoli scientifici falsi con l’aiuto dell’intelligenza artificiale generativa, rappresenta un ulteriore problema che rischia di alimentare un mercato già florido di per sé. Perché se fino a ora erano disponibili strumenti informatici in grado di smascherare testi o foto fraudolente (come fa lo stesso Bucci o la microbiologa olandese Elisabeth Bik), di fronte a prodotti dell’Ai generativa si può fare poco e niente.

A tradire i pochi lavori riconosciuti come tali finora, per esempio, sono stati solo i prompt lasciati all’interno del lavoro pubblicato come incipit del testo. Ma se si può chiudere un occhio sui testi elaborati con l’Ai generativa, ma a partire da dati veri, il grande problema è quando anche i risultati sono generati artificialmente e quindi fasulli.

Impossibile riconoscerli

“Ci sono strumenti che vanno meglio per generare testi e dati e altri per le immagini” racconta Bucci ad AboutPharma. “Un ricercatore o una persona che sa quello che vuole ottenere e sa interrogare l’intelligenza artificiale in maniera appropriata, può ottenere un lavoro completo in qualche ora”.

Bucci spiega che partendo da un’ipotesi di partenza, anche generica, si può genere il testo, con tanto di metodi per gli esperimenti in vitro e in vivo in animale e materiali e reagenti appropriati e i risultati. Questi ultimi poi possono essere usati come input per altri programmi, capaci di genere le immagini a corredo del lavoro: sia quantitative corrispondenti ai dati inventati sia fotografie al microscopio. “Le immagini che si ottengono sono molto realistiche – precisa Bucci – ci sono ampi studi che dimostrano come neanche gli specialisti riescano più a distinguerle. La percentuale di efficienza supera il 50%”.

 L’Ai non ci aiuta

 Sbagliato a questo punto pensare che l’intelligenza artificiale, come compromette la scienza, possa anche darle una mano. Alcuni strumenti sono stati sviluppati anche dagli stessi publisher scientifici per riconoscere i falsi sia di immagini sia di testo, ma sono tuttora poco efficaci e soprattutto possono essere usati al contrario anche per produrre falsi. Come mostra ancora Bucci, sono stati sviluppati almeno una dozzina di strumenti di Ai che avrebbero il compito di aiutare i referee e i reviewer a intercettare l’intelligenza artificiale, ma che in realtà sono utilizzati più che altro per “fare più revisioni per unità di tempo”.

“Arriviamo a un mondo dove intelligenza artificiale scrive e intelligenza artificiale approva ciò che è scritto” riferisce Bucci. “E il problema è che nessun regolamento corre sufficientemente veloce da stare dietro agli sviluppi non regolati dell’uso dell’Ai”.

Il sistema di certificazione dei dati

Che fare quindi? Una soluzione potrebbe essere creare una certificazione all’origine del dato. Fare in modo cioè che nei file di qualsiasi dato sperimentale – una foto fatta al microscopio o una radiografia ai raggi X o qualsiasi altra immagine – ci sia una parte criptata non modificabile né alterabile, che certifichi quando, dove e chi l’ha creata. Come già si fa con i trial clinici con l’adozione della tecnologia di blockchain.

“In questo modo si fa il contrario: invece di cercare le immagini taroccate, si certificano quelle buone”, precisa Bucci. “Se funzionasse metterebbe fuori gioco qualsiasi manipolazione fraudolenta non solo quelle fatte con l’Ai”.

La tecnologia è in fase di sviluppo e ci vorranno anni prima che veda la luce, ma il vero problema una volta ottenuta, sarà far adottare lo standard a tutti: dai produttori di strumenti scientifici che dovrebbero integrare nei loro normali software questa certificazione per far girare le macchine, fino alle riviste, per leggere la certificazione e verificare che l’immagine sia vera.

Il legame tra pubblicazioni e carriera

Un altro punto chiave elencato da Bucci a Roma per “combattere” la cattiva condotta, è stabilire standard di accessibilità ai protocolli e ai dati in modo che sia possibile replicare almeno le ricerche più importanti. Il che significa che bisognerebbe anche cominciare a pubblicare o a rendere noti i fallimenti di replicazione.

“Un buon fallimento è una cosa che fa avanzare la scienza più di un ennesimo risultato positivo”, aggiunge l’esperto. Ma ancora più a valle del problema, forse l’aspetto centrale è spezzare il legame tra numero di pubblicazioni e carriera e uscire fuori dal meccanismo che incentiva la quantità di pubblicazione.

Poche eccezioni

“Se l’articolo scientifico non fosse più ‘un bene di consumo’ cioè qualcosa che serve per fare carriera e ottenere finanziamenti, non ci sarebbe più l’incentivo a pubblicare cose false e il problema si risolverebbe sicuramente” conclude Bucci, convinto che sia necessario per questo rivedere i criteri di promozione e di assegnazione dei finanziamenti limitando l’enfasi sui criteri bibliometrici.

Un nodo questo che si cerca di sciogliere da anni, ma senza grossi passi avanti. Sono pochi infatti i Paesi che – come l’Olanda o quelli scandinavi – hanno fatto una riforma in tal senso, passando da una valutazione quantitativa a una qualitativa della ricerca. Un cambio culturale importante e un sistema difficile da scardinare, anche per i guadagni e il potere che offre.

L’Italia e il problema di authorship

A che livello è la cattiva condotta scientifica in Italia? Ha provato a rispondere Daniele Fanelli, mostrando che il nostro Paese non spicca per rischio di fabbricazione falsificazione e plagio di dati, posizionandosi nel mezzo di una classifica dominata da Cina e lndia. Lo stesso vale per le ritrattazioni scientifiche, per cui l’Italia, secondo alcuni lavori, si posiziona nello stesso range dei Paesi europei.

L’unica area in cui l’Italia emerge è quella dell’authorship. Secondo uno studio recente, costruito basandosi sui dati presenti in Plos Public Library of Science, milioni di articoli in cui gli autori hanno indicato il contributo di ciascun autore, l’Italia si distingue dal resto dell’Europa per avere un’alta percentuale di autori che hanno contribuito all’articolo unicamente con soldi o risorse che per gli standard internazionali non qualificherebbe qualcuno come autore.

Il “salami slicing”

“Questo è ciò che viene dichiarato, quindi immaginiamo il sommerso”, sottolinea Fanelli. Un’altra analisi recente, riguarda l’effetto dell’introduzione dei parametri di produttività e bibliometrici dell’Anvur (l’Agenzia
nazionale di valutazione del sistema universitario e della ricerca). Emerge da questa ricerca che professori, assistenti associati o di ruolo, dopo l’introduzione di tali parametri, hanno cominciato a pubblicare di più, ma articoli meno originali.

“Il suggerimento è che ci sia il cosiddetto ‘salami slicing’, espressione gergale che indica che si stanno scomponendo i risultati di una ricerca per massimizzare il numero di pubblicazioni, perdendo di originalità”, aggiunge l’esperto. La conclusione, secondo il ricercatore, è che bisogna puntare di più sulla ricerca per capire il contesto di qualsiasi Paese, inclusa l’Italia e qualsiasi istituzione, per individuare i problemi da affrontare con priorità. Non solo la Ffp, ma anche l’editoria predatoria e le pratiche di authorship e connessi, come l’Italia conferma.

Tag: ai generativa / cattiva condotta scientifica / chatgpt / daniele fanelli / enrico bucci / frodi scientifiche /

CONDIVIDI

AP-DATE
SCELTE DALLA REDAZIONE

Most favored nation: l’impatto possibile del “prezzo dell’America”

Big Pharma è costretta a privilegiare il mercato Usa e l’Europa rischia di perdere innovazione se resta soltanto un’area che regolamenta e gestisce contenendo la spesa. Nel Vecchio Continente i farmaci arriveranno più tardi, arriveranno meno investimenti, meno trial e scenderà ancora di più il peso strategico

Esg

L’Esg non basta più: serve coraggio per determinare impatto

Per Mario Calderini, docente alla School of Management del Politecnico di Milano, la grammatica ambientale, sociale e di governance muove decine di migliaia di miliardi ma ha prodotto poche trasformazioni reali. Occorre perseguire un bisogno sociale per il quale mercato non vede profitto, lasciando che l’innovazione ricomponga il conflitto

RUBRICHE
FORMAZIONE