Intelligenza artificiale generativa: stato dell’arte e applicazioni cliniche in oftalmologia

Riassunto

L'intelligenza artificiale (AI) generativa ha conosciuto un'evoluzione senza precedenti a partire dal rilascio del primo large language model (LLM) ChatGPT-3.5 nel novembre 2022. In ambito oftalmologico, i LLM presentano potenzialità significative sia sul piano clinico che su quello della ricerca, sollevando al contempo interrogativi etici e professionali. Lo scopo di questa review narrativa è esaminare lo stato dell'arte dei LLM in oftalmologia, analizzandone limiti architetturali, utilizzi clinici e implicazioni etiche nel rapporto medico-paziente.
I LLM di ultima generazione hanno raggiunto e in alcuni casi superato i punteggi di specialisti oftalmologi nei principali esami di certificazione oftalmologica, con accuratezze prossime al 90%. La concordanza con le linee guida delle Preferred Practice Patterns dell'American Academy of Ophthalmology, pur non essendo perfetta, ha superato il 90% per i modelli più performanti, con percentuali di risposte potenzialmente dannose limitate a meno del 2%. Le applicazioni cliniche più promettenti comprendono il triage nelle urgenze oftalmologiche, l'automazione della redazione di documentazione clinica, la generazione di materiale didattico per la formazione specialistica e il supporto ai pazienti mediante servizi di telemedicina.
Ad oggi, l'integrazione dei LLM nella pratica oftalmologica solleva ancora preoccupazione sul piano etico-deontologico, in particolare riguardo alla responsabilità professionale e al rapporto di fiducia medico-paziente. Il principio fondamentale che deve guidarne l'adozione è quello della complementarità: l'AI generativa deve affiancare il clinico, non sostituirsi ad esso, e la supervisione umana deve rimanere imprescindibile.

A novembre 2022 OpenAI ha rilasciato al pubblico consumer ChatGPT, il primo "chatbot" basato sul large language model (LLM, modello di linguaggio di grande dimensione) GPT-3.5 (1).

Il suo lancio ha portato all'attenzione globale l'Intelligenza Artificiale (AI) generativa, ovvero quella branca dell'AI capace di generare, attraverso istruzioni dell'utente definite "prompt", contenuti originali quali testi, immagini e video, a partire dai dati di training su cui è stata addestrata.

Il modello iniziale, pur rivoluzionario nella capacità di sostenere un dialogo coerente, presentava limitazioni significative. In primo luogo, le sue conoscenze erano limitate fino ad una data di addestramento fissa ("knowledge cutoff"): il modello poteva cioè rispondere esclusivamente sulla base delle vecchie informazioni contenute nel database di training, senza poter accedere a contenuti più recenti. Concretamente, un LLM con cutoff a settembre 2021 non poteva conoscere studi clinici pubblicati nel 2022, nuove linee guida o aggiornamenti terapeutici, ponendo significative limitazioni d’uso.

Questa tecnologia è andata incontro a un'evoluzione molto rapida. Nel marzo 2023, OpenAI (San Francisco, CA) ha rilasciato GPT-4.0, che ha segnato un primo salto qualitativo nel ragionamento logico complesso, superando il modello precedente GPT-3.5 in numerosi benchmark professionali (2). GPT-4.0 è stato arricchito con la capacità di eseguire l’upload di documenti e file multimediali, scrivere ed eseguire il linguaggio di programmazione Python per svolgere compiti complessi quali analizzare dataset, eseguire test statistici o generare grafici. Allo stesso tempo, GPT-4.0 ha acquisito la capacità di navigare in internet in tempo reale, risolvendo il vincolo del “knowledge cutoff” fisso per consultare le informazioni online più aggiornate. Nel 2024, OpenAI ha rilasciato GPT-4o, il primo modello multimodale capace di analizzare e produrre simultaneamente testo e immagini (3), e successivamente GPT-o1 (4), dotato di una modalità di "ragionamento avanzato" basato sulla “catena di pensiero” (chain of thought) che consente al modello di scomporre problemi complessi in più piccoli passaggi logici sequenziali formulando una risposta più accurata.

Il successo di ChatGPT ha determinato l'ingresso nel settore di numerose aziende tecnologiche, dando origine alla competizione globale nello sviluppo dei LLM. Tra i principali competitor, Google (Mountain View, CA) ha sviluppato Gemini (5), Anthropic (San Francisco, CA) ha introdotto Claude (6), mentre xAI (San Francisco, CA), fondata da Elon Musk, ha sviluppato Grok (7). In Asia, DeepSeek (Hangzhou, Cina) ha raggiunto risultati competitivi con il modello V3, dimostrando che lo sviluppo di LLM non è appannaggio limitato delle aziende statunitensi (8). Meta (Menlo Park, CA) ha adottato una strategia differente rilasciando i modelli open-source LLaMA, che hanno consentito a privati e istituzioni di addestrare e personalizzare LLM in modo indipendente (9).

In ambito oftalmologico, le applicazioni dei LLM si distinguono nettamente da quelle dell'AI discriminativa. Quest'ultima si basa sull'impiego di algoritmi di machine learning e reti neurali (neural networks) addestrati a riconoscere pattern specifici all'interno di esami di imaging, prevalentemente scansioni OCT, retinografie e campi visivi computerizzati, per classificare patologie o identificare anomalie strutturali, senza però alcuna capacità di interagire direttamente con l'utente.

Le potenziali applicazioni dei LLM in oftalmologia si basano piuttosto sulla conversazione diretta computer-utente. Sul piano educativo, questi strumenti possono costituire tutor interattivi per specializzandi e studenti. Per il clinico, i LLM offrono la possibilità di ottenere risposte rapide a quesiti diagnostici e terapeutici, consultando in tempo reale una base di conoscenze equivalente a migliaia di articoli scientifici e linee guida. I LLM possono generare per i pazienti materiale informativo chiaro e personalizzato su patologie oculari, procedure chirurgiche e opzioni terapeutiche, adattando il linguaggio al livello di comprensione dell’utente non professionista. Eventualmente, l'integrazione dei LLM in piattaforme di telemedicina potrebbe consentire lo sviluppo di servizi di triage oftalmologico automatizzato e di consulenza a distanza assistita dall'AI, con particolare impatto nelle aree geografiche con scarso accesso a cure specialistiche.

Nonostante queste premesse positive, l'adozione dei LLM in oftalmologia ha sollevato rilevanti perplessità sul piano etico e scientifico. Le potenzialità dell’AI generativa nel facilitare l'accesso alla conoscenza specialistica e nel supportare il processo decisionale clinico coesistono con rischi non trascurabili per l'integrità della professione medica, per la sicurezza dei pazienti e per la ricerca.

Questa review narrativa della letteratura si propone di esaminare lo stato dell'arte delle applicazioni dell'AI generativa in oftalmologia, investigandone vantaggi e criticità.

CENNI SULL’ARCHITETTURA E IL FUNZIONAMENTO DEI LARGE LANGUAGE MODELS

Per comprendere le potenzialità e i limiti dei LLM in oftalmologia, è necessaria una breve panoramica sulla loro architettura. La maggior parte dei LLM moderni si basano sull'architettura “Transformer”, introdotta da Vaswani et al. nel 2017 (10). I modelli vengono addestrati su enormi quantità di testo ottenuto da miliardi di libri, pagine web, articoli scientifici, imparando a predire la parola che più probabilmente dovrebbe seguire alla precedente in una frase per generare un dialogo credibile con l’utente. Trattandosi dunque di un modello di natura probabilistica, i LLM non "comprendono" il linguaggio nel senso umano del termine. L’AI generativa rappresenta quindi un simulacro dell'intelligenza umana, in cui un complesso modello statistico permette la creazione di una frase di senso compiuto nel contesto fornito dall’utente, ma senza reale consapevolezza.

Questa architettura comporta limiti significativi per l'ambito medico. In primo luogo, la qualità delle risposte è inevitabilmente condizionata dalla qualità dei dati di addestramento. Mancando un robusto controllo di qualità dei dataset di training, possono essere incluse informazioni errate, obsolete, discordanti tra loro o prive di fondamento scientifico. Un LLM potrebbe inavvertitamente combinare le informazioni provenienti da un articolo scientifico peer-reviewed con i commenti presenti in un post su un forum di pazienti o con messaggi a contenuto promozionale. Solo nelle ricerche online i chatbot offrono all’utente un link web con le informazioni fornite, mentre in tutti gli altri scenari d’uso non è possibile ottenere una fonte consultabile.

Questo meccanismo di generazione del testo basato sulla predizione probabilistica della parola successiva rende i LLM intrinsecamente soggetti al fenomeno delle "allucinazioni", cioè la produzione di affermazioni formulate con apparente sicurezza ma prive di fondamento fattuale (11).

Il modello non sempre verifica la veridicità del testo generato, perché non possiede un modello interno completo e coerente della realtà; produce semplicemente la sequenza di parole statisticamente più plausibile.

In ambito oftalmologico, ciò può tradursi nella citazione di studi inesistenti, nella raccomandazione di dosaggi farmacologici errati o nella formulazione di diagnosi differenziali inappropriate, rischi tanto più insidiosi quanto più la risposta è stilisticamente convincente e apparentemente autorevole. Sebbene le allucinazioni siano state fortemente ridotte nei modelli di linguaggio più recenti attraverso l’introduzione di tecniche di ragionamento logico avanzato, il problema rimane ancora rilevante e attuale, specialmente per l’utilizzo professionale.

Un ulteriore limite architetturale è rappresentato dalla "finestra di contesto" (context window), ovvero la quantità massima di testo che un LLM è in grado di elaborare simultaneamente in una singola conversazione (12). Ogni LLM possiede un limite di contesto espresso in "token" (unità di testo corrispondenti approssimativamente a una parola). Sebbene i modelli più recenti possano gestire fino a 1 milione di token, equivalenti a diverse centinaia di pagine, conversazioni prolungate con il chatbot che includono file di testo voluminosi come linee guida, manuali medici e cartelle cliniche, possono portare al superamento di questo limite. In tal caso il modello è costretto a “compattare” le informazioni precedenti per fare spazio a quelle nuove.

Questo processo può comportare la perdita di dettagli cruciali forniti nelle fasi iniziali del dialogo con il chatbot, come dati anamnestici, valori numerici o istruzioni specifiche, generando risposte incoerenti o incomplete. In un contesto clinico, dove la completezza e la coerenza delle informazioni sono essenziali, questa limitazione può diventare problematica.

A ciò si aggiungono infine problematiche legali inerenti il copyright: una parte significativa dei dati di addestramento include materiale protetto da diritto d'autore, sollevando interrogativi giuridici ancora irrisolti sulla legittimità del loro sviluppo (13).

PERFORMANCE DEI LARGE LANGUAGE MODELS IN OFTALMOLOGIA

Accuratezza nelle domande a risposta multipla

Una delle prime aree di indagine sui LLM in oftalmologia ha riguardato la loro capacità di rispondere a domande di conoscenza specialistica, utilizzando come benchmark le domande degli esami delle società scientifiche oftalmologiche.

Nel 2023, il nostro team di ricerca ha condotto uno dei primi studi per valutare l’accuratezza dei LLM nel rispondere a domande a risposta multipla del Self-Assessment Test dell'American Academy of Ophthalmology (AAO), disponibili ai membri dell’Academy nel sito ONE Network (14). Nello studio sono state sottoposte un totale di 1.023 domande a GPT-3.5 e GPT-4.0. GPT-3.5 ha ottenuto un'accuratezza del 65,9%, mentre GPT-4.0 ha raggiunto l'82,4%, risultato significativamente superiore rispetto ai membri dell'Academy che hanno eseguito il medesimo test (75,7%, P<0,001). L'analisi stratificata per sottospecialità ha inoltre rivelato che la chirurgia rappresentava l'area più critica per entrambi i modelli (74,6% per GPT-4.0 e 57,0% per GPT-3.5), un dato attribuibile alla natura pratica di queste domande, che richiede esperienza clinica diretta piuttosto che conoscenza teorica ottenibile online (14).

In uno studio successivo, Srinivasan et al. hanno valutato sei LLM su 6990 domande a risposta multipla di livello specialistico in oftalmologia, ottenute dal dataset MedMCQA (15). I risultati hanno confermato il progressivo miglioramento delle performance con l'evoluzione dei modelli di OpenAI: GPT-3.5 ha ottenuto un'accuratezza del 58,0%, GPT-4 del 75,1%, GPT-4o dell'81,8%, fino all’87,7% raggiunto da GPT-o1, che ha superato significativamente tutti gli altri modelli (P<0,001). Gemini 1.5 Pro ha ottenuto un'accuratezza del 71,0%, mentre LLaMA 3-8B, modello open-source rilasciato da Meta, ha raggiunto l'83,0%. La valutazione qualitativa da parte di esperti oftalmologi ha evidenziato che le risposte di GPT-o1 risultavano significativamente migliori a quelle di GPT-4o in termini di utilità clinica e organizzazione, indicando che le capacità di ragionamento avanzato introdotte con GPT-o1 si traducono in un effettivo aumento della performance in ambito oftalmologico (15).

Lo studio più recente è stato pubblicato da Abbas et al. a fine gennaio 2026 (16). Gli autori hanno testato sulle domande del FRCOphth (Fellowship of the Royal College of Ophthalmologists) sei modelli di ultima generazione: ChatGPT 4o, ChatGPT 5, Gemini 2.5 Pro, Claude Sonnet 4.0, Grok 3 e DeepSeek-V3. Gemini 2.5 Pro ha ottenuto l'accuratezza più elevata sia nella Parte Uno (Scienze di Base: 98,0%) che nella Parte Due del test (Applicazioni Cliniche: 90,7%). A seguire Claude Sonnet 4.0 (94,0%; 74,4%), Grok 3 (92,0%; 88,4%), ChatGPT 4o (90,0%; 88,4%), ChatGPT 5 (90,0%; 86,0%) e DeepSeek-V3 (82,0%; 83,7%). La maggior parte dei modelli ha superato il punteggio del miglior candidato umano riportato nei report ufficiali d'esame (85,0%; 84,2%) (16).

Concordanza con le linee guida oftalmologiche

Oltre alla valutazione delle conoscenze oftalmologiche mediante domande a risposta multipla, un aspetto clinicamente più rilevante riguarda la concordanza delle risposte degli LLM con le linee guida attuali. Il nostro gruppo di ricerca ha condotto il primo studio volto a valutare l'aderenza dei LLM alle linee guida oftalmologiche, sottoponendo a GPT-o1, GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Pro e DeepSeek-R1-Lite-Preview un totale di 147 domande aperte derivate dai 25 documenti delle Preferred Practice Patterns® (PPP) pubblicati dall'American Academy of Ophthalmology (AAO). Le domande, formulate a partire dalle "Highlighted findings and recommendations for care" delle PPP, sono state classificate in "aperte" e "di conferma" (con risposta attesa positiva o negativa). Le risposte sono state valutate da tre investigatori in cieco e classificate come concordanti, indeterminate o discordanti rispetto alle raccomandazioni AAO. Le risposte indeterminate e discordanti sono state ulteriormente analizzate per valutarne il potenziale di danno per il paziente (17).

I tre modelli con percentuale di concordanza più alta sono stati Claude 3.5 Sonnet (92,5%), GPT-o1 (91,8%) e GPT-4o (90,5%) (P=0,81), mentre Gemini 1.5 Pro (84,4%) e DeepSeek-R1-Lite-Preview (81,0%) hanno ottenuto risultati significativamente inferiori. La percentuale di risposte potenzialmente dannose per il paziente era compresa tra l'1,4% (GPT-o1 e GPT-4o) e il 4,1% (Gemini 1.5 Pro), includendo omissioni di segni clinici rilevanti e raccomandazioni terapeutiche inadeguate. Riguardo la trasparenza dei modelli Gemini 1.5 Pro è stato il chatbot che ha citato più frequentemente articoli peer-reviewed (58,5% delle risposte), rispetto al 9,5-15,6% degli altri modelli. Nonostante ciò, l'inclusione di riferimenti bibliografici non ha correlato con una maggiore concordanza con le PPP (P=0,82), suggerendo che la citazione di fonti non rappresenta di per sé una garanzia di accuratezza (17).

Per affrontare il problema delle discordanze tra LLM e linee guida, il nostro team di ricerca ha dunque sviluppato dei "Custom GPTs", versioni personalizzate del modello predefinito di ChatGPT che consentono l'integrazione di istruzioni specifiche e documentazione supplementare ("Knowledge") come fonte primaria di informazione. Nello studio sono stati creati due Custom GPTs che sfruttavano rispettivamente le AAO PPP e i manuali Basic and Clinical Science Course® (BCSC) 2023-2024 dell'AAO. I custom GPTs sono stati confrontati con il modello GPT-4o standard su 72 domande riguardanti patogenesi, diagnosi e trattamento di diverse patologie oftalmologiche (18).

I Custom GPTs hanno prodotto risposte significativamente più accurate e concise rispetto al modello standard. L'analisi condotta da tre investigatori in cieco mediante scala Likert a 5 punti ha evidenziato punteggi significativamente superiori per correttezza/chiarezza (Custom GPT AAO PPP: 4,76; Custom GPT AAO BCSC: 4,88 vs GPT-4o: 4,17; sempre P<0,001) e linguaggio medico (AAO PPP: 4,31; AAO BCSC: 4,49 vs GPT-4o: 3,22; sempre P<0,001) per i Custom GPTs. La completezza delle risposte è risultata comparabile tra il Custom GPT basato su AAO BCSC e GPT-4o (4,08 vs 4,10; P=0,76), mentre il Custom GPT basato su AAO PPP ha mostrato un punteggio lievemente inferiore (3,89; P=0,04) (18).

Utilizzi clinici dei large language models in oftalmologia

Diversi potenziali utilizzi clinici dei LLM sono stati proposti nel corso degli ultimi anni, dal triage medico alla redazione automatizzata di documentazione clinica, dal supporto alle decisioni diagnostiche e terapeutiche alla generazione di materiale informativo per pazienti e specializzandi in formazione. Sebbene la maggior parte di queste applicazioni sia ancora in fase di validazione, i primi studi condotti in ambito oftalmologico hanno fornito risultati incoraggianti.

Triage nel pronto soccorso oftalmologico

Schumacher et al. hanno condotto uno studio presso il dipartimento di oftalmologia dell'Ospedale Universitario di Berna, valutando le performance di un chatbot personalizzato basato sull'architettura GPT-4.0 nel triage delle emergenze oftalmologiche (19). Il modello è stato addestrato su 186 casi oftalmologici ipotetici, strutturati secondo una versione adattata dell'algoritmo di triage dell'AAO che classifica i pazienti in quattro livelli di gravità: grado 1 (cure immediate), grado 2 (entro una settimana), grado 3 (entro 4-6 settimane) e grado 4 (oltre 6 settimane). Un set di validazione composto da 100 casi, raccolti da presentazioni cliniche reali del pronto soccorso oftalmologico locale, è stato sottoposto indipendentemente al chatbot e a tre oftalmologi con esperienza nel triage ospedaliero. Il chatbot ha raggiunto accordo sostanziale con ciascun oculista, con valori di kappa di Cohen (κ) compresi tra 0,737 e 0,751, e vicini all'accordo inter-osservatore tra gli oftalmologi (κ tra 0,791 e 0,922). Non sono state evidenziate differenze statisticamente significative nella distribuzione dei gradi di urgenza assegnati (19). Con la creazione di un sistema medico integrato, un LLM addestrato su scenari clinici specifici potrebbe dunque eseguire il triage oftalmologico con un'accuratezza paragonabile a quella di specialisti esperti, con potenziali implicazioni per l'ottimizzazione dei flussi di lavoro nei reparti di emergenza e la riduzione dei tempi di attesa per i pazienti.

Redazione di documentazione clinica oftalmologica

Un altro ambito di applicazione dei LLM riguarda l'automazione della documentazione clinica oftalmologica. Xu et al. hanno sviluppato presso il General Hospital di Shangai il modello LAOS (LLM-based Auxiliary Ophthalmic System), un sistema integrato che combina riconoscimento vocale, LLM e retrieval-augmented generation per la generazione automatizzata di documenti clinici in oftalmologia (20). Il flusso operativo prevede che il clinico detti le informazioni cliniche durante la visita e che il modello le trascriva generando automaticamente un documento clinico strutturato (referto di ammissione, verbale operatorio o lettera di dimissione). Questi testi sono stati redatti in un tempo medio di 127±31 secondi per documento. La validazione clinica, condotta da cinque oftalmologi certificati su 100 confronti appaiati tra documentazione generata dal sistema e documentazione redatta da specialisti, ha evidenziato un'accuratezza terminologica dell'83,2%, una compatibilità con le cartelle cliniche elettroniche dell'81,4% e, dato particolarmente significativo, un tasso di errori critici inferiore per la documentazione generata da LAOS rispetto a quella umana (6,4% vs 7,8%). Complessivamente, il sistema ha consentito una riduzione del 62% del tempo dedicato alla documentazione. Le lettere di dimissione hanno ottenuto le valutazioni qualitative migliori, mentre i verbali operatori hanno mostrato margini di miglioramento, verosimilmente a causa della complessità e della variabilità delle descrizioni chirurgiche (20). L'integrazione di LLM nei flussi di lavoro clinici potrebbe significativamente ridurre il carico burocratico-amministrativo della gestione dei pazienti, permettendo di dedicare maggior tempo all'attività clinica.

Educazione e formazione specialistica

Un recente studio pubblicato su JAMA Ophthalmology ha fornito la prima validazione rigorosa dell'impiego dei LLM come strumenti per la generazione di materiale didattico in oftalmologia (21). Gholami et al., in collaborazione con il Microsoft AI for Good Research Lab e l'AAO, hanno utilizzato GPT-4o per generare domande a risposta multipla a partire dai contenuti dei 13 volumi dei manuali BCSC dell'Academy. Un totale di 64 domande generate dal LLM e 57 redatte dal comitato di esperti AAO sono state sottoposte alla valutazione in cieco di 10 oftalmologi esperti mediante scala Likert a 10 punti su cinque criteri: appropriatezza, chiarezza, rilevanza clinica, potere discriminativo e idoneità per gli specializzandi. I risultati hanno evidenziato punteggi mediani sovrapponibili tra le due fonti in tutti i domini valutati, senza differenze statisticamente significative (21). Questi risultati suggeriscono che i LLM potrebbero essere utilizzati per espandere le banche di domande disponibili per la preparazione degli specializzandi ai board internazionali.

Servizi di telemedicina

Un aspetto di crescente interesse riguarda la capacità dei LLM di rispondere in modo accurato e comprensibile alle domande dei pazienti, un prerequisito fondamentale per un’eventuale futura integrazione in servizi di teleoftalmologia. Hamzeh et al. hanno condotto uno studio valutando le performance di ChatGPT-4o su 285 domande reali inviate da 165 pazienti attraverso un portale di messaggistica integrato nella cartella clinica elettronica Epic MyChart, investigando tre sottospecialità: glaucoma, retina e cornea. Le domande richiedevano spiegazioni su procedure chirurgiche e tempi di recupero (34,7%), riferimento di sintomi oculari (26,0%), informazioni su farmaci ed effetti collaterali (21,4%), nonché su diagnosi o prognosi di patologie (12,6%). Le risposte generate sono state giudicate accurate e complete nel 77% dei casi, incomplete nel 17% e inaccettabili nel 6% (22).

La futura integrazione degli LLM all'interno di una piattaforma di telemedicina oftalmologica potrebbe articolarsi in un flusso operativo a più fasi. In una prima fase di pre-triage, un chatbot potrebbe interagire con il paziente in linguaggio naturale, raccogliendo in modo strutturato i sintomi riferiti e l'anamnesi oculare e sistemica rilevante, ponendo domande di approfondimento contestualizzate e adattando il livello di complessità linguistica al profilo dell'interlocutore. Il modello potrebbe quindi stratificare il livello di urgenza della richiesta come già proposto in precedenti studi, distinguendo tra condizioni che necessitano di una valutazione specialistica urgente (ad esempio, sintomi suggestivi di distacco di retina o glaucoma acuto), casi meritevoli di un teleconsulto programmato e casi clinici gestibili con indicazioni di auto-monitoraggio.

L'oftalmologo riceverebbe una sintesi clinica strutturata generata dal LLM, contenente i dati anamnestici e sintomatologici già organizzati, riducendo il tempo dedicato alla raccolta anamnestica e consentendo di concentrare il teleconsulto sulla valutazione clinica e sulla decisione terapeutica. Con la recente evoluzione dei modelli multimodali in grado di analizzare immagini il paziente potrebbe allegare fotografie o referti di esami strumentali, che il LLM potrebbe integrare nella sintesi clinica fornita allo specialista. Questo modello risulterebbe particolarmente vantaggioso nelle aree geografiche con accesso limitato a cure oftalmologiche specialistiche.

Potenziali abusi dei large language models in ambito accademico

Parallelamente alle applicazioni cliniche, l'avvento dei LLM ha sollevato interrogativi circa il loro potenziale abuso nella produzione scientifica. Diversi autori hanno dimostrato la capacità di questi modelli di redigere autonomamente testi accademici. Tale problematica è destinata ad acuirsi con l'introduzione di funzionalità avanzate quali il "Deep Research", attualmente disponibile nei modelli di OpenAI, Anthropic, Google e xAI, che consente all'AI di navigare autonomamente il web, consultare decine di articoli scientifici e sintetizzarne i contenuti in report strutturati (23). Chen et al., hanno valutato la capacità dei LLM di automatizzare la selezione degli articoli nelle revisioni sistematiche, confrontando un approccio completamente automatizzato (LLM-FA) con uno semi-automatizzato (LLM-SA) (24). L'approccio completamente automatizzato, basato su un plugin di GPT-4, ha identificato correttamente solo il 32,7% degli articoli inclusi nelle revisioni originali; al contrario, l'approccio semi-automatizzato ha raggiunto un'accuratezza dell'82,7% nell'inclusione degli articoli pertinenti e del 92,2% nell'esclusione di quelli irrilevanti (24).

Sebbene questi risultati dimostrino che i LLM non siano ancora in grado di condurre una revisione sistematica in maniera completamente autonoma, la rapida evoluzione di tali strumenti rende plausibile un loro progressivo avvicinamento a questo obiettivo, con implicazioni rilevanti per l'autenticità e l'originalità del contributo intellettuale dichiarato dagli autori. In risposta a tali criticità, le principali riviste scientifiche e istituzioni accademiche hanno progressivamente introdotto linee guida e regolamentazioni sull'uso dell'IA generativa nella ricerca, richiedendo la dichiarazione esplicita di qualsiasi contributo fornito da tali modelli nella preparazione di manoscritti sottomessi. Ciononostante, le attuali misure di controllo basate sull'identificazione automatizzata di testi generati mediante AI si sono dimostrate solo parzialmente efficaci, come evidenziato dalla rapida obsolescenza dei software di rilevamento rispetto alla sempre più veloce evoluzione dei chatbot.

Un abuso ben più grave dei LLM potrebbe consistere nella creazione di dataset medici completamente fittizi ma statisticamente plausibili, potenzialmente utilizzabili per dimostrare ipotesi scientifiche prive di fondamento empirico. Taloni et al. hanno per primi documentato questa possibilità nel 2023, impiegando GPT-4.0 per la creazione di un dataset falso di 300 occhi nell'ambito di uno studio comparativo tra cheratoplastica lamellare anteriore profonda (DALK) vs cheratoplastica perforante (PK) al fine di dimostrare la superiorità della prima tecnica (25). Il medesimo gruppo di ricerca ha successivamente approfondito questa controversa tematica in uno studio pubblicato su JAMA Ophthalmology nel 2025, nel quale sono stati generati 24 dataset sintetici da impiegare per 3 studi clinici in cui venivano confrontati i risultati di interventi terapeutici alternativi per patologie oftalmologiche (cheratocono, edema maculare diabetico e glaucoma cronico ad angolo aperto) (26). I primi 12 dataset sono stati prodotti con il modello GPT-4o predefinito fornendo tramite prompt indicazioni sulle medie target, i range delle variabili continue e le percentuali attese per le variabili categoriche. Questi requisiti minimi erano necessari per simulare la dimostrazione di un'ipotesi scientifica, cioè la superiorità di un trattamento medico rispetto ad un altro. L'analisi forense ha identificato in questi dataset il 33,9% di marcatori di fabbricazione sul totale dei dati riportati, tra cui incongruenze tra nomi e genere dei pazienti, visite baseline eseguite durante i fine settimana (insolito per trattamenti elettivi), errori nel calcolo dell'età, correlazioni inter-variabili pressoché assenti e distribuzioni delle variabili continue con forme anomale. Sulla base di queste vulnerabilità, gli autori hanno sviluppato un Custom GPT denominato "Synthetic Data Creator" le cui istruzioni contenevano linee guida statistiche specificamente concepite per eludere il controllo forense e le anomalie statistiche precedentemente identificate. Con questo Custom GPT sono stati creati 12 nuovi dataset che presentavano solo il 4,6% di marcatori di fabbricazione. Quattro dataset su 12 hanno superato l'analisi forense, risultando indistinguibili da dataset reali (26). La fabbricazione di dati, già considerata una delle forme più gravi di misconduct in ambito accademico potrebbe diventare più accessibile e complessa da identificare nell'era dei LLM.

Implicazioni nel rapporto medico-paziente

L'integrazione dei LLM nella pratica clinica oftalmologica solleva inevitabili interrogativi di natura etico-deontologica che vanno ad impattare sul rapporto di fiducia tra medico e paziente. In primo luogo, è necessario chiarire il ruolo che l’AI generativa è destinata ad assumere nel percorso decisionale clinico: sebbene i LLM possano fornire supporto nell'interpretazione di dati, nella formulazione di diagnosi differenziali e nella sintesi di evidenze scientifiche, allucinazioni o semplici errori rimangono possibili. Una seconda criticità emerge nei casi in cui la raccomandazione generata da un LLM diverga dall'opinione dell’oftalmologo. Se dovessero essere introdotti nel Sistema Sanitario Nazionale sistemi di telemedicina basati sui LLM sarebbe necessario rinnovare la normativa sulla responsabilità professionale. Sarà necessario stabilire se la responsabilità di un errore clinico derivante dall’utilizzo di un LLM ricada interamente sul medico che ha scelto di avvalersi dello strumento, sullo sviluppatore del modello, o sull'istituzione sanitaria che ne ha autorizzato ufficialmente l'impiego. Ragionevolmente, sia nel contesto attuale che in futuro, rimarrà indispensabile la supervisione e validazione umana delle risposte.

Conclusioni

L'AI generativa è andata incontro a un'evoluzione rapidissima nel corso degli ultimi anni. In ambito oftalmologico, i LLM di ultima generazione hanno raggiunto e in alcuni casi superato le performance degli specialisti nei principali esami di certificazione, con buoni livelli di concordanza rispetto alle linee guida dell'AAO. Tra le applicazioni cliniche, l'educazione e la formazione specialistica rappresentano l'ambito con il rapporto rischio-beneficio più favorevole, seguite dal supporto al triage nelle urgenze e dall'automazione della documentazione clinica. Tali potenzialità coesistono tuttavia con rischi concreti legati alla gestione del rapporto medico-paziente.

Il principio fondamentale che dovrebbe guidare l'integrazione dei LLM in oftalmologia è quello della complementarità: l'AI generativa deve affiancare il medico, non sostituirsi ad esso. Il rapporto medico-paziente, fondato sulla fiducia e sulla responsabilità professionale, rimane un elemento insostituibile che nessun modello linguistico è in grado di replicare. Il valore dei LLM risiede nel potenziare le capacità del clinico, fornendo rapido accesso alla recente conoscenza scientifica e automatizzando compiti ripetitivi, ma la supervisione e la validazione umana restano imprescindibili.

Gli autori dichiarano l’assenza di conflitti di interesse.