Jetzt loslegen
Anforderungen und Prüfverfahren für KI in der SIS‑Dokumentation: Technik, Datenschutz, Human‑in‑the‑Loop, MDK‑Vorbereitung und Audit‑Checkliste.
Die SIS-Dokumentation ist ein zentraler Bestandteil der Pflegedokumentation in Deutschland. Mit dem EU AI Act gelten seit 2025 strengere Vorgaben für KI-gestützte Anwendungen. Pflegeeinrichtungen müssen sicherstellen, dass KI-Tools die SIS-Struktur korrekt abbilden, Datenintegrität gewährleisten und menschliche Überwachung ermöglichen. Fehlerhafte Dokumentation kann schwerwiegende Konsequenzen haben, sowohl rechtlich als auch für die Bewohner.
Wichtige Punkte:
Fehler wie unzureichende menschliche Überwachung oder verzerrte Daten können vermieden werden, indem Pflegekräfte in KI-Kompetenz geschult und Audit-Mechanismen implementiert werden.
Pflegeheime müssen bei der Einführung von KI in die SIS-Dokumentation sowohl technische als auch datenschutzrechtliche Mindeststandards sicherstellen. Dabei handelt es sich nicht nur um einen einfachen Softwarewechsel, sondern um eine komplexe Anpassung, die eine gründliche Prüfung von Schnittstellen, Sicherheitsvorgaben und gesetzlichen Anforderungen erfordert.
Um eine reibungslose Pflegedokumentation zu gewährleisten, ist die technische Kompatibilität von KI-Systemen besonders wichtig. Diese müssen problemlos mit bestehenden Pflegedokumentationssystemen arbeiten können. Die ISiP-Spezifikation der gematik stellt standardisierte Schnittstellen bereit, die den interoperablen Austausch von Gesundheitsdaten ermöglichen. Mithilfe von FHIR-Ressourcen können Daten nahtlos zwischen verschiedenen Systemen übertragen werden. Für KI-generierte Dokumente oder Berichte bietet das ISiK-Dokumentenaustausch-Modul die notwendigen technischen Grundlagen und Leitfäden.
Da viele Pflegekräfte mobile Endgeräte nutzen, müssen KI-Lösungen die BSI TR-03161-Richtlinie erfüllen. Diese definiert Sicherheitsanforderungen speziell für eHealth-Anwendungen auf mobilen Geräten. Zusätzlich liefert der AIC4-Katalog des BSI Kriterien zur Bewertung der Sicherheit von KI-Diensten, die maschinelles Lernen einsetzen, und deckt deren gesamten Lebenszyklus ab. Auch die Einhaltung der IT-Sicherheitsrichtlinien gemäß § 75b SGB V ist Pflicht, da diese speziell für medizinische und pflegerische Umgebungen entwickelt wurden.
„IT-Sicherheit verfolgt im Wesentlichen drei Schutzziele: Vertraulichkeit, Integrität und Verfügbarkeit. Die Einhaltung dieser Anforderungen ist besonders wichtig für mobile Gesundheitsanwendungen." – BSI TR-03161 [4]
Diese technischen Anforderungen sind die Basis für die Umsetzung strenger Datenschutz- und Sicherheitsvorgaben, die für den Umgang mit sensiblen Gesundheitsdaten unerlässlich sind.
KI-Tools, die in der Pflege eingesetzt werden, verarbeiten hochsensible Gesundheitsdaten und zählen daher oft zu den „Hochrisiko-Anwendungen" des EU AI Act. Dementsprechend müssen sie strenge Anforderungen erfüllen, darunter Risikomanagement, Datenqualität, technische Dokumentation und menschliche Aufsicht. Diese Maßnahmen sind entscheidend, um den Schutz der Daten zu gewährleisten, da Gesundheitsinformationen, wenn sie einmal offengelegt sind, nicht mehr zurückgeholt werden können.
Um Qualität und Rückverfolgbarkeit sicherzustellen, müssen KI-Systeme automatisch Ereignisse protokollieren (Logging). Ebenso wichtig ist das „Human-in-the-Loop"-Prinzip, bei dem eine qualifizierte Pflegefachkraft die KI-generierte Dokumentation überprüft, bevor diese finalisiert wird. Die Bundesnetzagentur betont:
„Hochrisiko-KI-Systeme müssen so gestaltet sein, dass sie von natürlichen Personen wirksam beaufsichtigt werden können, beispielsweise durch die Integration einer geeigneten Mensch-Maschine-Schnittstelle, um Risiken zu verhindern oder zu minimieren." – Bundesnetzagentur [1]
Zusätzlich sollten Pflegeheime sicherstellen, dass das KI-Tool Daten lokal auf dem Gerät oder in sicheren, regional gehosteten Clouds verarbeitet. Dies ist besonders relevant, um die Vorgaben der DSGVO einzuhalten, wobei bevorzugt Rechenzentren in Deutschland oder der Schweiz genutzt werden sollten.
5-Schritt-Prozess zur KI-Compliance-Prüfung für SIS-Dokumentation
Nachdem die technischen und rechtlichen Grundlagen geklärt sind, sollten Pflegeheime die SIS-Dokumentation mit KI verbessern und die Konformität des Tools systematisch prüfen. Diese Tests sollten vor der Einführung und regelmäßig danach durchgeführt werden, um sicherzustellen, dass die Dokumentation den Anforderungen des Medizinischen Dienstes entspricht. Hier ist eine Schritt-für-Schritt-Anleitung, wie Sie sicherstellen können, dass das KI-Tool alle SIS-relevanten Anforderungen erfüllt.
Der erste Schritt ist die Überprüfung der sechs zentralen Themenfelder der stationären Pflege: Kognition und Kommunikation, Mobilität und Beweglichkeit, krankheitsbezogene Anforderungen und Belastungen, Selbstversorgung sowie Leben in sozialen Beziehungen. Für ambulante Dienste kommt ein weiteres Themenfeld hinzu: Haushaltsführung [7].
Das KI-Tool sollte in der Lage sein, unstrukturierte Eingaben – wie ein aufgezeichnetes Aufnahmegespräch – korrekt den jeweiligen Themenfeldern zuzuordnen [5]. Testen Sie, ob die KI pflegefachliche Begriffe, Abkürzungen und Dialekte erkennt [5]. Besonders wichtig ist, dass sowohl die Selbsteinschätzung des Bewohners als auch die Experteneinschätzung der Pflegefachkraft korrekt erfasst werden, da die SIS stark auf die individuelle Perspektive des Bewohners ausgerichtet ist [7].
Ein Beispiel: Im Bereich Mobilität sollte die KI objektive Messdaten wie Ganggeschwindigkeit oder Schrittlänge korrekt erfassen können [6].
Ein SIS-konformes KI-Tool muss nicht nur Daten sammeln, sondern auch Risiken analysieren und eine personalisierte Maßnahmenplanung ermöglichen. Testen Sie, ob die KI eine plausible Risikomatrix erstellt, etwa zur Sturz- oder Dekubitusgefahr, und ob sie objektive Daten zur Begründung von Interventionen bereitstellt.
Menia Ettrich von Lindera erklärt dazu:
„Wenn MDK-Prüfer fragen, wie Sie festgestellt haben, dass ein Bewohner Physiotherapie benötigt, können Sie auf objektive Mobilitätsdaten verweisen, die einen funktionellen Rückgang zeigen, nicht nur auf subjektive Beobachtungen" [6].
Maschinelle Lernmodelle zur Ganganalyse können Sturzrisiken mit einer Genauigkeit von 70 bis 96 % vorhersagen [6]. Überprüfen Sie außerdem, ob die KI-Empfehlungen auf etablierten Standards wie dem „Expertenstandard Sturzprophylaxe" basieren [6]. Die Maßnahmenplanung sollte individuell auf den Bewohner zugeschnitten sein und keine generischen Textbausteine enthalten.
Führen Sie einen vollständigen Testdurchlauf durch – von der SIS-Ersterfassung über die Maßnahmenplanung bis hin zur Evaluation. Dabei sollte die KI den vierstufigen Pflegeprozess (Informationssammlung, Maßnahmenplanung, Durchführung, Evaluation) korrekt abbilden.
Testen Sie den Workflow auch unter Offline-Bedingungen, um sicherzustellen, dass die Daten bei Wiederherstellung synchronisiert werden [5]. Sprachassistenten können pro Schicht 20–30 Minuten Arbeitszeit einsparen [5]. Dieser Zeitgewinn ist jedoch nur wertvoll, wenn die Dokumentation am Ende vollständig, korrekt und prüfungssicher ist. Ernennen Sie interne „KI-Coaches“, die das Team bei der Einführung unterstützen und technische Fragen klären [5].
Das KI-Tool muss nahtlos mit Ihrem bestehenden Pflegedokumentationssystem (z. B. Connext Vivendi) zusammenarbeiten [5]. Prüfen Sie, ob die KI erfasste Informationen automatisch den richtigen Feldern im System zuordnet und ob Daten wie Vitalwerte oder Medikamentengaben in Echtzeit auf allen verbundenen Geräten verfügbar sind [5].
Nutzen Sie standardisierte Austauschformate wie das ISiK-Dokumentenaustausch-Modul (basierend auf FHIR-Ressourcen), um Dokumente aus mobilen Apps oder Tablets in das klinische Managementsystem zu integrieren [8]. Da Pflegeteams oft international besetzt sind, sollten Sie die Spracherkennung mit verschiedenen Dialekten und Akzenten testen [5]. Wichtig: Die Spracherkennung sollte direkt auf dem Gerät erfolgen (On-Device-Processing), um die strengen Datenschutzanforderungen der DSGVO zu erfüllen [5].
Nach erfolgreicher Systemintegration folgt die Vorbereitung auf MDK-Prüfungen. Die KI-gestützte Dokumentation muss transparent, vollständig und prüfungssicher sein. Sie sollten nachweisen können, wie die KI zu ihren Ergebnissen gelangt ist. Dafür ist es wichtig, dass das KI-Tool technische Dokumentationen bereitstellt, wie eine „Model Map“, die Trainingsdaten, Entscheidungslogik und Leistungskennzahlen beschreibt [2].
Prüfer werden außerdem darauf achten, wie menschliche Aufsicht eingeplant ist, um fehlerhafte KI-Entscheidungen zu vermeiden und die fachliche Verantwortung sicherzustellen [2]. Ihr System sollte Audit-Trails und Versionierung bieten – also zeitgestempelte Protokolle aller Änderungen an Daten, Code oder Parametern [2]. Nutzen Sie KI-Governance-Tools, die prüfungssichere Berichte exportieren können, und dokumentieren Sie, wann Bias-Tests durchgeführt wurden und wer Modellversionen genehmigt hat [2].
Mit Lösungen wie denen von dexter health können Pflegeeinrichtungen sicherstellen, dass ihre KI-gestützte SIS-Dokumentation alle Compliance-Anforderungen erfüllt und optimal in bestehende Systeme eingebunden ist.
Die Einführung von KI-Tools in die SIS-Dokumentation kann mit einigen Herausforderungen verbunden sein. Ein häufig auftretender Fehler ist das Fehlen menschlicher Aufsicht: Pflegekräfte verlassen sich ausschließlich auf automatisch generierte Texte, ohne diese fachlich zu überprüfen. Dies widerspricht den Vorgaben des EU AI Act, der für Hochrisiko-Systeme im Gesundheitswesen eine „Human-in-the-Loop“-Überwachung vorschreibt [2][9].
Ein weiteres Problem sind verzerrte Trainingsdaten, die zu diskriminierenden oder ungenauen Risikoeinschätzungen führen können. Solche Verzerrungen lassen sich durch eine detaillierte Model Map und regelmäßige Bias-Tests erkennen und beheben [2]. In der Praxis könnte dies bedeuten, dass bestimmte Bewohnergruppen systematisch falsch bewertet werden.
Unsachgemäßer Umgang mit sensiblen Daten und sogenannte KI-Halluzinationen können ebenfalls schwerwiegende Folgen haben. Schätzungen zufolge enthalten etwa 11 % der von ChatGPT-Nutzern eingegebenen Daten vertrauliche Informationen [10]. Ein Beispiel für KI-Halluzinationen liefert der DeepL-Übersetzer, der einen Betrag von „1.050,00 €“ fehlerhaft übersetzte. Solche Fehler verstoßen gegen die DSGVO-Anforderungen an Datengenauigkeit (Art. 5 Abs. 1 lit. d) [13].
Weitere häufige Fehler umfassen unvollständige technische Dokumentation, Model Drift (die schleichende Verschlechterung der KI-Leistung durch veränderte Bedingungen [2]) und ungenehmigte Systemänderungen. Letztere können dazu führen, dass der Nutzer rechtlich vom „Betreiber“ zum „Anbieter“ wird, was strengere Compliance-Pflichten nach sich zieht [9][11].
Nachdem wir die häufigsten Fehlerquellen beleuchtet haben, stellt sich die Frage, wie diese effektiv vermieden werden können.
Um diese Risiken zu minimieren, sind gezielte Maßnahmen notwendig. Eine Human-in-the-Loop-Strategie ist entscheidend: Jeder KI-generierte Eintrag sollte von einer Pflegefachkraft überprüft werden [9].
„Dokumentation macht Verantwortung sichtbar.“ – Marcus Belke, CEO der 2B Advice GmbH [2]
Bias-Tests sollten regelmäßig durchgeführt und die Qualität der Daten kontinuierlich überwacht werden. Mithilfe von Test Cases – das sind Paare aus tatsächlichen Eingaben und gewünschten Ausgaben – können Schwachstellen in den KI-Outputs sichtbar gemacht werden [13]. Zusätzlich bieten Audit-Trails Transparenz, indem sie den Entscheidungsprozess der KI nachvollziehbar machen [9].
Ein weiterer wichtiger Schritt ist die Schulung des Teams in KI-Kompetenz („KI-Literacy“). So wird sichergestellt, dass alle Beteiligten die Grenzen und den sicheren Umgang mit KI-Tools verstehen [9]. Zudem sollten feste Re-Audit-Intervalle eingeplant werden, um Model Drift frühzeitig zu erkennen [2].
Mit Lösungen wie denen von dexter health können Pflegeeinrichtungen sicherstellen, dass ihre KI-gestützte SIS-Dokumentation diese Fehlerquellen systematisch vermeidet und alle geltenden Compliance-Vorgaben erfüllt.
Um sicherzustellen, dass Ihre KI-gestützte SIS-Dokumentation den rechtlichen Vorgaben entspricht, sollten folgende Punkte beachtet werden:
Bei wesentlichen Änderungen am System ist eine erneute Konformitätsbewertung vorgeschrieben [11]. Diese Anforderungen müssen nicht nur zu Beginn, sondern auch während der gesamten Nutzung des Systems eingehalten werden.
Die langfristige Einhaltung der Vorgaben erfordert strukturierte Prozesse nach der Inbetriebnahme. Dabei spielen folgende Maßnahmen eine zentrale Rolle:
„Dokumentation ist kein Selbstzweck. Sie ist der Moment, in dem Verantwortung sichtbar wird." – Marcus Belke, CEO, 2B Advice GmbH [2]
Tools wie der SIS-Assistent von dexter health erleichtern Pflegeheimen die Einhaltung dieser Anforderungen. Durch die nahtlose Integration in bestehende Dokumentationssysteme und automatisierte Qualitätsprüfungen bleibt die KI-gestützte Dokumentation stets auf dem aktuellen Stand und bereit für Prüfungen durch den Medizinischen Dienst.
Ein KI-Tool, das im Bereich der Sozialen Informationssysteme (SIS) eingesetzt wird, fällt gemäß Artikel 6 des EU AI Act in die Kategorie „Hochrisiko“, wenn es eine zentrale Funktion in der Pflegeplanung und Dokumentation übernimmt. Dies gilt insbesondere dann, wenn die Nutzung des Tools direkte Auswirkungen auf die Sicherheit und das Wohl der pflegebedürftigen Personen hat.
Für eine erfolgreiche MDK-Prüfung sind vollständige, plausible und nachvollziehbare Pflegeunterlagen unverzichtbar. Dazu zählen vor allem:
Ein weiterer wichtiger Punkt ist die Einhaltung der gesetzlichen Vorgaben. Dies bedeutet, dass alle Unterlagen den rechtlichen Anforderungen entsprechen und bei Bedarf überprüfbar sein müssen.
Besonders bei der Nutzung von KI-gestützten Systemen ist es entscheidend, dass das Pflegepersonal regelmäßig geschult wird. Nur so kann gewährleistet werden, dass die neuen Technologien korrekt eingesetzt werden und die Dokumentation den Anforderungen genügt. Geschultes Personal sorgt zudem dafür, dass die Vorteile solcher Systeme optimal genutzt und potenzielle Fehler vermieden werden können.
Eine sorgfältige Vorbereitung und kontinuierliche Weiterbildung sind der Schlüssel zu einer erfolgreichen MDK-Prüfung.
Ein KI-Modell, das in der SIS-Dokumentation aufgeführt ist, muss gemäß der EU-KI-Verordnung zehn Jahre nach seiner Inverkehrbringung oder Inbetriebnahme aufbewahrt werden. Diese Regelung dient dazu, die Einhaltung der Vorschriften der Verordnung langfristig sicherzustellen.
