Caso di studio 02
HEART / DiDi
Un assistente clinico di IA privacy-first all’interno di un ecosistema ospedaliero di smart care
- Periodo
- Iniziativa di ricerca in corso
- Contesto
- HEART (Networked Ecosystem for eXplainable and Ubiquitous Smart-care), con installazione presso il Centro Chirurgico Toscano
- Ruolo
- Strategia IA, progettazione RAG e requisiti di deployment edge-cloud
- +40%
- comprensione dei valori fuori scala
- 2000/15
- chunk size / top-K RAG per MedGemma
Il problema
- La sicurezza del paziente dipende dal rispetto rigoroso dei protocolli di igiene (lavaggio mani) per prevenire le Infezioni Correlate all’Assistenza — ma la conformità è difficile da monitorare.
- Dopo la dimissione mancano strumenti trasparenti per il monitoraggio delle ferite chirurgiche, con riammissioni evitabili come conseguenza.
- I sistemi tradizionali di supporto decisionale clinico, rigidi e rule-based, generano troppi falsi allarmi, erodendo l’attenzione del personale medico.
Utente target
Il personale medico e infermieristico del Centro Chirurgico Toscano: chirurghi e ferristi nel blocco operatorio, e i medici che interrogano le cartelle cliniche — esperti che hanno bisogno di risposte affidabili e con fonti, non di una scatola nera che decide al posto loro.
Il mio ruolo
All’interno del team tecnologico mi sono occupata della parte legata ai modelli linguistici (il monitoraggio del lavaggio mani tramite computer vision è stato seguito da colleghi):
- Strategia e investigazione IA — analisi dell’uso di modelli come Gemini per integrare l’OCR direttamente nel sistema, semplificando lo stack tecnologico.
- Requisiti e deployment — definizione dei requisiti tecnici per l’installazione sul server della struttura e contributo alla progettazione dell’architettura edge-cloud.
- DiDi, l’assistente clinico — prototipato su Lovable/Supabase, focalizzato su elaborazione privacy-first dei documenti e generazione di sintesi cliniche tramite LLM.
Il processo
- Retrieval-augmented generation — un sistema RAG basato su modelli come MedGemma per interrogare i dati clinici dei pazienti.
- Design human-in-the-loop — un’interfaccia che non sostituisce il medico ma stimola il pensiero critico, secondo un framework di IA dialogica conforme all’EU AI Act.
- In parallelo, il resto del team ha implementato il monitoraggio del lavaggio mani tramite computer vision (durata, fasi di insaponamento e risciacquo) con telecamere nel blocco operatorio.
Decisioni chiave
- Architettura ibrida Edge+Cloud: OCR e anonimizzazione girano in locale per proteggere la privacy dei pazienti, mentre Gemini alimenta la chat clinica.
- Ottimizzazione RAG per la precisione: chunk size di 2.000 caratteri con 200 di overlap e top-K di 15 frammenti, per massimizzare la precisione di MedGemma senza saturare la memoria.
- Semantic boosting: tag semantici clinici che pesano i termini correlati (es. +0,8 tra «febbre» e «iperpiressia») per migliorare il recupero dei dati pertinenti.
Risultato finale
- Dati di monitoraggio reali: la maggior parte dei lavaggi mani dura tra i due e i tre minuti, contro i cinque raccomandati per il primo lavaggio — un’evidenza su cui la struttura può intervenire.
- In un caso documentato, l’IA ha agito da mediatore neutrale in un disaccordo terapeutico tra clinici, contribuendo alla scelta della cura corretta per un paziente critico.
- La trasformazione dei dati CSV in linguaggio naturale ha aumentato del 40% la comprensione dei valori fuori scala nei test.
Cosa ho imparato
- Il bias vive nel modello dei dati. Distinguere le figure professionali (chirurgo vs ferrista) nei dati è stato essenziale per evitare statistiche di performance distorte.
- Gli esperti accettano l’IA che mostra le sue fonti. Citare sempre la cartella clinica o la letteratura è stato il fattore decisivo per la credibilità del sistema presso il personale esperto.
- Ospedaliero significa testato sotto carico. Gli endpoint bloccanti in FastAPI sono un rischio concreto di scalabilità con utenti concorrenti; i test di carico non sono opzionali in ambiente clinico.