In cerca della soluzione dell’enigma ChatGPT come supporto alla diagnosi in medicina

“Come può ChatGPT avere una performance cosi buona nella comprensione del linguaggio, nel ragionamento e nell’elaborazione delle conoscenze senza possedere una vera conoscenza o logica?” Se lo è chiesto Fabio di Bello, del Centro per gli studi avanzati e per la tecnologia dell’Università G. D’Annunzio di Chieti, che ha provato a dare una risposta a questa domanda cruciale in un importante articolo  appena pubblicato su AboutOpen.

L’approccio top-down

L’autore fa una premessa, spiegando che in precedenza i sistemi tradizionali di intelligenza artificiale (Ai) seguivano un approccio top-down, in cui i programmatori codificavano le conoscenze necessarie per svolgere compiti specifici. Ad esempio, nello sviluppo di un sistema di Ai per generare un elenco esaustivo di possibili diagnosi per un problema clinico, il primo passo consisteva nell’incorporare una rappresentazione completa delle conoscenze mediche. Queste conoscenze costituivano la base per generare output (quindi una diagnosi) in base a input come segni, sintomi, test di laboratorio e la storia medica del paziente.

Inadeguato in medicina

Venivano così definite le relazioni causali esplicite tra diversi elementi di conoscenza, e venivano utilizzate l’analisi statistica e l’inferenza logica per creare regole che governassero il funzionamento del sistema durante il processo di generazione di una diagnosi differenziale.

Dopo anni di esperienza sul campo, questo approccio si è rivelato inadeguato per raggiungere livelli di prestazioni elevati. In ambiti come il linguaggio o la medicina, la complessità della realtà supera le capacità di un approccio top-down. In particolare in medicina, ci troviamo di fronte a sistemi non lineari complessi in cui il principio di causalità e la sovrapposizione di causa ed effetto non sono validi.

La prospettiva downstream

Secondo Di Bello, negli ultimi anni, si è verificato un notevole cambiamento concettuale, passando da un approccio mainstream a una prospettiva downstream. Una tappa fondamentale in questo cambio di paradigma è il Teorema di Approssimazione Universale, stabilito da Kurt Hornik, Maxwell Stinchcombe e Halbert White nel 1989. Questo teorema dimostra che le reti neurali possiedono un potenziale illimitato per acquisire conoscenze e imparare una vasta gamma di compiti.

A differenza dei precedenti approcci che si concentravano sulla progettazione di regole linguistiche esplicite o rappresentazioni intermedie, l’approccio downstream utilizza reti neurali su larga scala addestrate su dataset diversi. Sfruttando modelli di linguaggio pre-addestrati e affinandoli su specifici compiti, questo approccio consente una comprensione e una traduzione del linguaggio naturale più efficienti ed efficaci.

Il caso ChatGPT

ChatGPT è un esempio dell’approccio downstream e ha dimostrato le notevoli capacità delle reti neurali nell’elaborazione del linguaggio naturale. Addestrato su un ampio corpus di dati testuali diversi, ChatGPT cattura le sfumature del linguaggio e dimostra una profonda comprensione del contesto, della semantica e della grammatica. Le sue impressionanti performance nella generazione di risposte coerenti e pertinenti al contesto evidenziano il potenziale delle reti neurali nell’affrontare compiti complessi legati al linguaggio.

È importante sottolineare che il sistema con modelli di linguaggio di grandi dimensioni (large language models, Llm), come ChatGPT, funziona semplicemente come un potente predittore statistico, generando vettori di output basati su vettori di input di parole, senza capacità esplicite di ragionamento simbolico o inferenza.

L’utilizzo di Chat GPT nella diagnosi differenziale

ChatGPT 4 dimostra una notevole capacità di simulare il ragionamento e la cognizione, sebbene sia importante sottolineare che si tratta più di un’illusione di ragionamento piuttosto che di vere capacità cognitive. Viene utilizzato un caso clinico complesso pubblicato su JAMA Neurology come base per vedere come ChatGPT possa aiutare nella diagnosi differenziale. Ovviamente, in questo caso una delle diagnosi proposte da Chat GPT era quella corretta.

“Un collega esperto”

Nella maggior parte dei casi, quindi, il sistema genera risposte assai soddisfacenti. ChatGPT non può garantire una diagnosi assolutamente sicura fin dall’inizio, ma può essere utilizzato come un collega esperto per favorire una conversazione produttiva che alla fine porta alla risposta corretta. Questo scenario consente ai medici di conoscere ed esplorare tutte le possibilità diagnostiche. ChatGPT offre la possibilità di rigenerare la domanda più volte. Questa caratteristica è molto utile nei problemi di diagnosi differenziale, poiché consente di esplorare praticamente l’intera lista di possibili diagnosi semplicemente rigenerando la risposta. Inoltre, l’uso di ChatGPT nella lingua madre garantisce risposte di qualità e accuratezza che in altri sistemi sono disponibili solo in lingua inglese.

User experience superiore

L’interazione con ChatGPT offre pertanto una user experience superiore ai sistemi tradizionali di supporto alle decisioni mediche presenti sul mercato. ChatGPT permette un dialogo naturale simile al ragionamento umano e fornisce un workflow potente per affrontare le domande e prendere decisioni ben informate sulla cura dei pazienti. Il suo utilizzo allarga l’ampiezza dello spettro di ipotesi diagnostiche e minimizza i rischi di bias o altri tipici errori che possono portare a diagnosi errate o ritardate. L’integrazione di ChatGPT con motori di ricerca come Microsoft Bing o Google consente di accedere a conclusioni sintetizzate e criticamente valutate provenienti da sistemi affidabili come DynaMed o UpToDate.

Altre potenziali applicazioni

Un’applicazione interessante dei modelli di linguaggio come ChatGPT è il trasferimento di informazioni cliniche nei record medici elettronici (Emr). Nonché l’analisi efficace delle informazioni non strutturate o frammentate presenti nei record dei pazienti memorizzati negli Emr. Infine, l’integrazione dei modelli di linguaggio tramite “interfaccia di programmazione dell’applicazione” (application programming interface , Api) permette a ChatGPT di fungere da interfaccia uomo-macchina, consentendo ad agenti autonomi di eseguire autonomamente azioni e prendere decisioni informate.

L’altra faccia della medaglia: la sorprendente stupidità di ChatGPT

Tuttavia, nonostante le ottime prestazioni di ChatGPT, è necessario considerare la sua mancanza di logica e di buon senso. L’articolo di Di Bello documenta come, a dispetto della sua sorprendente intelligenza in numerose situazioni, ChatGPT possa risultare totalmente inadeguato in altre. Per esempio, alla domanda: “Ciao GPT. Ho lasciato 5 vestiti ad asciugare al sole. Hanno impiegato 5 ore per asciugarsi completamente. Quanto tempo ci vorrà per asciugare 30 vestiti?”

ChatGPT risponde cosi: “Supponendo che le condizioni rimangano costanti e che il tempo di asciugatura sia direttamente proporzionale al numero di vestiti, possiamo utilizzare una semplice proporzione per trovare il tempo stimato di asciugatura per 30 vestiti.

Impostiamo la proporzione: 5 vestiti / 5 ore = 30 vestiti / x ore

Per risolvere per x (il tempo che ci vuole per asciugare 30 vestiti), possiamo moltiplicare in diagonale e risolvere per x: 5 * x = 5 * 30 5x = 150

Dividendo entrambi i lati dell’equazione per 5: x = 150 / 5 x = 30

Pertanto, ci vorranno circa30 ore per asciugare 30 vestiti, supponendo che le condizioni di asciugatura e altri fattori rimangano costanti”.

Le conclusioni dell’articolo (riassunte da ChatGPT)

1. Il sistema ChatGPT manca di una vera logica o di buon senso. L’aumento delle dimensioni e della natura del dataset e dell’addestramento potrà migliorare le risposte, ma il problema principale sembra essere la sfida dell’astrazione, della generalizzazione e della logica simbolica, che comprende ciò che comunemente chiamiamo buon senso.
2. ChatGPT adotta un approccio computazionale al linguaggio naturale, ma manca di una comprensione esperienziale del mondo e della capacità di derivare una rappresentazione funzionale della realtà.
3. Nonostante la mancanza di comprensione della medicina, sistemi come ChatGPT possono essere assai utili nella pratica clinica. Forniscono livelli di informazione non umana, imparziali e quasi infiniti che il cervello umano non può raggiungere. Possono agire come “idiots savants” che sanno tutto ma non capiscono nulla, rendendo estremamente preziose e produttive le interazioni con gli esperti.
4. Un’alternativa per migliorare le prestazioni e ottenere maggiore precisione potrebbe essere l’adozione di un approccio ibrido. Questo concetto può essere tradotto in Ai neurosimbolica, che combina i punti di forza dei network neurali e del ragionamento simbolico per ottenere risultati più robusti e affidabili.
5. Nonostante il dibattito in corso sull’Ai e le future applicazioni in medicina, le potenzialità offerte dalle piattaforme basate sull’Ai in termini di velocità di calcolo, numero di elementi computazionali e capacità di archiviazione rendono impossibile ignorare le opportunità offerte da questa rivoluzione tecnologica e dal suo impatto sulle vite delle persone e sulla natura e lo sviluppo della professione medica. Questi progressi sono particolarmente necessari quando diventano evidenti i limiti intrinseci degli approcci “one size fits all” nella terapia e nella diagnosi e la transizione verso la medicina di precisione diventa inevitabile.