Trasparenza
C'è dell'intelligenza artificiale, e non decide niente
Tre punti del prodotto usano un modello linguistico. Qui c’è cosa fa ciascuno, cosa non fa mai, e chi controlla il risultato.
01
La dettatura dell’anamnesi
- Cosa fa
- Trascrive quello che dici durante la visita e propone i campi compilati.
- Cosa non fa
- Non salva niente da sola. Ogni campo resta modificabile e il salvataggio è un tuo gesto.
- Chi controlla
- Tu, prima di salvare.
02
La bozza di un consenso fuori catalogo
- Cosa fa
- Costruisce la struttura di un modulo per una procedura che non è fra i modelli pronti.
- Cosa non fa
- Non inventa contenuto clinico spacciandolo per verificato. Il testo esce marcato come bozza e va rivisto prima dell’uso con pazienti reali.
- Chi controlla
- Il medico, e per il testo clinico il suo legale.
03
Il controllo sulle allergie
- Cosa fa
- Confronta quello che stai per prescrivere con le allergie registrate in cartella e segnala l’incongruenza.
- Cosa non fa
- Non è intelligenza artificiale: è un confronto deterministico fra due elenchi. Lo scriviamo qui perché venga contato per quello che è, e non per qualcosa di più.
- Chi controlla
- Il segnale è un avviso, non un blocco. Decidi tu.
I confini
Cinque cose che non succedono mai
- Non formula diagnosi, e nessuna schermata ne propone una.
- Non consiglia terapie, dosaggi o prodotti.
- Non decide niente al posto tuo: non esiste un’azione che parte senza che tu la confermi.
- Non parla con i pazienti al posto tuo dentro la cartella clinica.
- Non addestra modelli sui dati dei tuoi pazienti.
Dove girano i dati
La domanda che conta davvero
Un modello linguistico gira su server di qualcun altro, e questo è il punto in cui la conformità di un prodotto sanitario si gioca sul serio. I fornitori che usiamo sono elencati nella pagina dei sub-responsabili, con l'indicazione di dove trattano i dati e dell'impegno contrattuale a non addestrare sui nostri.
Nessuno di questi passaggi è indispensabile per tenere la cartella: la dettatura e la generazione dei moduli si possono spegnere, e il prodotto continua a funzionare come una cartella clinica normale. Se il tuo consulente preferisce così, si fa così.