Transparence
Il y a de l’intelligence artificielle, et elle ne décide de rien
Trois fonctionnalités du produit utilisent un modèle linguistique. Voici ce que fait chacune, ce qu’elle ne fait jamais, et qui contrôle le résultat.
01
La dictée de l'anamnèse
- Ce qu’il fait
- Transcrit ce que tu dis pendant la visite et propose les champs pré-remplis.
- Ce qu’il ne fait pas
- Ne sauvegarde rien toute seule. Chaque champ reste modifiable et la sauvegarde est un geste de ta part.
- Qui contrôle
- Toi, avant de sauvegarder.
02
L'ébauche d'un consentement hors catalogue
- Ce qu’il fait
- Construit la structure d’un module pour une procédure qui ne figure pas parmi les modèles prêts à l’emploi.
- Ce qu’il ne fait pas
- N’invente pas de contenu clinique en le faisant passer pour vérifié. Le texte est marqué comme brouillon et doit être revu avant utilisation avec des patients réels.
- Qui contrôle
- Le médecin, et pour le texte clinique, son avocat.
03
Le contrôle des allergies
- Ce qu’il fait
- Compare ce que tu t’apprêtes à prescrire avec les allergies enregistrées dans le dossier et signale l’incohérence.
- Ce qu’il ne fait pas
- Ce n’est pas de l’intelligence artificielle : c’est une comparaison déterministe entre deux listes. Nous l’écrivons ici pour qu’elle soit comptabilisée pour ce qu’elle est, et non pour quelque chose de plus.
- Qui contrôle
- Le signal est un avertissement, pas un blocage. C’est toi qui décides.
Les limites
Cinq choses qui n'arrivent jamais
- Ne formule pas de diagnostic, et aucun écran n’en propose.
- Ne recommande pas de thérapies, dosages ou produits.
- Ne prend aucune décision à ta place : aucune action ne se lance sans que tu la confirmes.
- Ne communique pas avec les patients à ta place dans le dossier médical.
- N’entraîne pas de modèles sur les données de tes patients.
Où circulent les données
La question qui compte vraiment
Un modèle linguistique tourne sur les serveurs de quelqu'un d'autre, et c'est là que la conformité d'un produit de santé se joue vraiment. Les fournisseurs que nous utilisons sont listés dans la page des sous-responsables, avec l'indication de l'endroit où ils traitent les données et l'engagement contractuel de ne pas s'entraîner sur les nôtres.
Aucune de ces étapes n'est indispensable pour tenir le dossier : la dictée et la génération des formulaires peuvent être désactivées, et le produit continue de fonctionner comme un dossier médical normal. Si ton consultant préfère ainsi, on fait ainsi.