↓Salta al contenuto principale
  1. Blog/

AI scribe in sanità: l'errore che nessuno ha controllato

·729 parole·4 minuti
Articoli Speech Recognition NLP Natural Language Processing LLM Machine Learning Rust Go AI
Articoli Interessanti - This article is part of a series.
Part : This Article

Fonte: ABC News (Australia), Paige Cockburn, 14 agosto 2026

In Australia una paziente ha scoperto che nella lettera inviata dal suo urologo al medico di base c’era scritto che faceva uso di funghi allucinogeni. Non l’aveva mai detto. La frase l’aveva prodotta l’AI scribe, il programma che trascrive e riassume la visita, e nessuno l’aveva controllata prima dell’invio.

Il caso, raccontato da ABC News, mostra bene dove nasce il rischio: non solo nell’errore del software, ma nel momento in cui le persone smettono di verificarlo.

Cosa è successo
#

Alla prima visita Rebecca Green aveva acconsentito alla trascrizione con l’AI, anche per non sembrare una paziente difficile. Dopo l’intervento per un calcolo renale ha letto la lettera post-operatoria: indicava il microdosaggio di funghi come possibile causa di un sanguinamento precedente.

Green riceveva un indennizzo per infortunio sul lavoro e temeva che una menzione di droghe nella sua documentazione potesse comprometterlo. Dopo il suo reclamo la specialista si è scusata, ha corretto la lettera e ha detto che avrebbe rivisto l’uso dell’AI nel suo studio. Non è riuscita a capire da dove venisse la frase: probabilmente da un errore di dettatura o di trascrizione.

Non è un caso isolato
#

  • In Australia almeno il 40% dei medici di base usa regolarmente un AI scribe, secondo una stima prudente del Royal Australian College of GPs.
  • Un rapporto dell’associazione Digital Rights Watch documenta altri errori: il seno sbagliato in una diagnosi di tumore, un’epilessia attribuita a chi non ne soffre.
  • Il consenso viene raccolto in modi molto diversi. A volte basta un cartello in sala d’attesa, che non rispetta la legge sulla privacy. In alcuni casi chi rifiuta l’AI non ottiene l’appuntamento.
  • L’autorità australiana sui professionisti sanitari (AHPRA) è chiara: il medico deve controllare tutto ciò che l’AI produce.

L’osservazione più utile viene da Elizabeth Deveny, del Consumers Health Forum of Australia: nelle prime settimane chi usa l’AI controlla con attenzione, poi smette, perché dà per scontato che il risultato sia giusto. Un medico di Perth che usa uno scribe da tre anni conferma che gli errori sono calati, da diverse correzioni per visita a una ogni tre o quattro trascrizioni. Ma aggiunge che il controllo resta compito suo.

Un vuoto nelle regole
#

Nessuno dei circa dodici AI scribe in uso in Australia è stato valutato dall’ente regolatorio, la Therapeutic Goods Administration. Il motivo è che un programma che si limita a trascrivere e riassumere non è considerato un dispositivo medico: lo diventa solo se suggerisce diagnosi o terapie.

Il regolatore ha ammesso che alcuni prodotti, che offrono anche suggerimenti clinici, potrebbero violare la legge, e ha annunciato i risultati di una verifica. La Nuova Zelanda ha scelto un’altra strada: un gruppo nazionale ha valutato gli strumenti disponibili e ne ha approvati due.

Il nostro punto di vista
#

Riassumere una visita sembra un compito neutro, ma non lo è. Decidere che cosa entra nella documentazione clinica di un paziente è già una scelta che ha conseguenze sulle cure, sull’assicurazione, sul lavoro.

In HTX sviluppiamo KOI, un software che aiuta gli anestesisti a classificare il rischio dei pazienti, seguendo il percorso previsto per i dispositivi medici. Da questo lavoro abbiamo imparato tre cose che valgono anche qui.

L’errore va previsto, non solo ridotto. Un sistema che sbaglia una volta su cento deve rendere facile accorgersene: mostrare da dove viene ogni frase, segnalare dove è incerto.

Il controllo umano va progettato. Scrivere nelle istruzioni che il medico deve verificare non basta, se il software rende comodo non farlo. La verifica deve far parte del flusso di lavoro, non dipendere dalla buona volontà.

Il consenso deve essere vero. Un cartello in sala d’attesa non è un consenso. Il paziente deve poter dire di no senza conseguenze.

Gli AI scribe possono davvero restituire tempo ai medici. Ma la fiducia si perde in fretta: dopo quello che le è successo, Rebecca Green dice che darà il consenso solo a un medico che conosce bene.

Articolo selezionato e rivisto dal team di Human Technology eXcellence, scritto con il supporto di strumenti di intelligenza artificiale.

Articoli Correlati
#

Scopri ORCA di HTX
La tua azienda è pronta per l'AI?
Fai l'assessment gratuito →
Articoli Interessanti - This article is part of a series.
Part : This Article