Adam Rodman, medico e ricercatore di intelligenza artificiale presso il Beth Israel Deaconess Medical Center affiliato all'Università di Harvard, ha proposto un sistema a semaforo per guidare l'utilizzo dei chatbot in ambito sanitario. Secondo il ricercatore, l'intelligenza artificiale non deve sostituire il parere medico, ma può fungere da strumento per approfondire la comprensione prima o dopo le visite.

Il sistema a semaforo

Il modello proposto suddivide le interazioni con l'AI in tre categorie:

• Verde: domande generali sulla salute la cui qualità non dipende dal contesto, come spiegazioni su ipertensione o diabete, creazione di menu alimentari basati su diete prescritte, programmi di allenamento o consultazione degli effetti collaterali comuni di un farmaco.
• Giallo: domande per prepararsi a una visita medica o per comprendere meglio i referti. In questo caso, Rodman suggerisce di rimuovere i dati identificativi dalle note mediche prima di inserirle nel chatbot e di fornire contesto per evitare che l'AI fornisca risposte volte a compiacere l'utente.
• Rosso: quesiti riguardanti decisioni terapeutiche specifiche, come la validità di un farmaco prescritto o di uno schema di chemioterapia.

Rodman sconsiglia vivamente ai pazienti di utilizzare l'AI per decisioni terapeutiche poiché i chatbot non possiedono l'esame clinico e la storia medica del paziente.

«Spesso le AI ci dicono quello che intuiscono che vogliamo sentirci dire, e questo può essere pericoloso»

Il ricercatore avverte inoltre dei rischi legati alla privacy. Sebbene dal punto di vista tecnologico non vi sia differenza tra motori di ricerca e chatbot, le persone tendono a condividere con i modelli linguistici di grandi dimensioni (LLM) molte più informazioni, rappresentando un problema di sicurezza maggiore.