Transparenz
Es gibt künstliche Intelligenz, und sie entscheidet nichts
Drei Produktfunktionen nutzen ein Sprachmodell. Hier steht, was jede macht, was sie nie tut und wer das Ergebnis kontrolliert.
01
Diktat der Anamnese
- Was es macht
- Schreibt auf, was du während der Behandlung sagst, und schlägt ausgefüllte Felder vor.
- Was es nicht macht
- Speichert nichts automatisch. Jedes Feld bleibt bearbeitbar, und das Speichern ist deine Entscheidung.
- Wer kontrolliert
- Du, bevor du speicherst.
02
Entwurf einer Einwilligungserklärung außerhalb des Katalogs
- Was es macht
- Erstellt die Struktur eines Moduls für eine Prozedur, die nicht zu den vorgefertigten Vorlagen gehört.
- Was es nicht macht
- Erfindet keinen klinischen Inhalt und gibt ihn nicht als geprüft aus. Der Text wird als Entwurf markiert und muss vor der Verwendung bei echten Patienten überprüft werden.
- Wer kontrolliert
- Der Arzt, und für den klinischen Text sein Anwalt.
03
Allergieprüfung
- Was es macht
- Vergleicht, was du verschreiben möchtest, mit den in der Akte dokumentierten Allergien und weist auf Unstimmigkeiten hin.
- Was es nicht macht
- Das ist keine künstliche Intelligenz: Es ist ein deterministischer Abgleich zwischen zwei Listen. Wir schreiben das hier, damit es für das gezählt wird, was es ist, und nicht für etwas mehr.
- Wer kontrolliert
- Das Signal ist eine Warnung, keine Sperre. Du entscheidest.
Die Grenzen
Fünf Dinge, die nie passieren
- Stellt keine Diagnosen, und kein Bildschirm schlägt eine vor.
- Empfiehlt keine Therapien, Dosierungen oder Produkte.
- Trifft keine Entscheidungen für dich: Es gibt keine Aktion, die ohne deine Bestätigung startet.
- Spricht nicht mit Patienten an deiner Stelle in der Patientenakte.
- Trainiert keine Modelle mit den Daten deiner Patienten.
Wo die Daten verarbeitet werden
Die wirklich entscheidende Frage
Ein Sprachmodell läuft auf Servern Dritter – und genau hier entscheidet sich die Konformität eines Medizinprodukts. Die von uns genutzten Anbieter sind auf der Seite der Unterauftragsverarbeiter aufgelistet, mit Angaben dazu, wo die Daten verarbeitet werden und der vertraglichen Verpflichtung, nicht mit unseren Daten zu trainieren.
Keiner dieser Schritte ist zwingend notwendig, um die Patientenakte zu führen: Diktat und Modulgenerierung lassen sich deaktivieren, und das Produkt funktioniert weiterhin wie eine normale klinische Akte. Wenn dein Berater das bevorzugt, wird es so gemacht.