Verantwortungsvolle KI

KI, die ihre Grenzen kennt.

Sechs Grundsätze für den Einsatz von KI in der psychotherapeutischen Dokumentation — wissenschaftlich begleitet, überprüfbar und so gebaut, dass die fachliche Verantwortung dort bleibt, wo sie hingehört: bei der Therapeut:in.

Mensch in der Verantwortung

Jede KI-Ausgabe ist ein redaktioneller Vorschlag. Fachliche Prüfung, Anpassung und Freigabe liegen bei der approbierten Fachperson — es gibt keine automatisierten Einträge und keine Entscheidung ohne menschliche Kontrolle.

Assistenz, nicht Diagnostik

duktus stellt keine Diagnosen, gibt keine Behandlungsempfehlungen und bewertet keine Risiken. Das System unterstützt beim Formulieren von Dokumentation — bewusst als Assistenz konzipiert, nicht als klinisches Entscheidungssystem.

Datenschutz vor Inferenz

Eingaben werden NAD-basiert pseudonymisiert, bevor sie ein Sprachmodell erreichen. Verarbeitung auf Servern in Deutschland, ohne Drittlandtransfer von Patientendaten — Details auf der Sicherheitsseite.

Keine Trainingsnutzung

Eingaben werden nicht zum Training von KI-Modellen verwendet. Das ist vertraglich zugesichert und technisch so konfiguriert — Ihre Dokumentation bleibt Ihre Dokumentation.

Nachvollziehbarkeit

Sie sehen jederzeit, was die KI aus welchen Eingaben gemacht hat. Vorschläge sind vollständig editierbar, werden nie ungefragt übernommen, und die Grenzen des Systems sind offen dokumentiert.

Wissenschaftliche Validierung

Kernkomponenten werden methodisch geprüft, bevor wir mit ihnen werben — von der Anonymisierungs-Pipeline (Benchmark gegen etablierte Verfahren) bis zur Begleitevaluation des Pilotprogramms mit der Leuphana Universität Lüneburg.

Bewusste Grenzen

Was duktus bewusst nicht tut.

Verantwortungsvolle KI heißt auch, Anwendungsfälle auszuschließen, die technisch möglich, aber fachlich oder ethisch nicht vertretbar wären:

  • Keine Diagnosestellung und keine Behandlungsempfehlungen — die klinische Einschätzung ist und bleibt Aufgabe der Fachperson.
  • Kein Risiko-Scoring von Patient:innen und keine Emotionserkennung.
  • Keine autonome Aktenführung — kein KI-Text gelangt ohne explizite Freigabe in ein Dokument.
  • Keine Nutzung von Patientendaten für Modelltraining, Werbung oder Profilbildung.
  • Keine Chatbot-Therapie: duktus richtet sich an Behandler:innen, nicht an Patient:innen.
Regulatorischer Rahmen

Drei Rechtsrahmen, ein Design-Prinzip.

DSGVO

Gesundheitsdaten nach Art. 9 DSGVO: Verarbeitung nur mit AVV (Art. 28), Pseudonymisierung als technische Maßnahme (Art. 32), Transparenz- und Auskunftsrechte vollumfänglich unterstützt.

§ 203 StGB

Die berufsrechtliche Schweigepflicht bestimmt die Architektur: Befugnisse von Dienstleistern sind vertraglich nach § 203 Abs. 3 StGB geregelt, der Zugriff technisch minimiert.

EU AI Act

duktus ist als Dokumentations-Assistenz konzipiert — keine Entscheidungsautomatisierung in Hochrisiko-Feldern. Transparenz- und AI-Literacy-Anforderungen (Art. 4) adressieren wir in Produkt und Anwender-Dokumentation.

Vertiefung: Sicherheitsarchitektur · EU AI Act für Psychotherapie-Praxen · Laufende Untersuchungen · Anwender-Informationen

Pilotzugang für Ihre Organisation

Strukturierter Einstieg in duktus PRO. Deutsche Infrastruktur. Klare Compliance-Rahmenbedingungen.