Das Sicherheitsnetz der Zukunft: Wie lernende Systeme Risiken erkennen, bevor Menschen zu Schaden kommen

07.09.2026

In der Notaufnahme kann eine fehlende Information binnen Minuten zum Risiko werden. Ein Befund erreicht das Team zu spät, eine Übergabe bleibt lückenhaft, eine Veränderung im Gesundheitszustand wird übersehen. Patientensicherheit ist deshalb eine Eigenschaft des gesamten Versorgungssystems. Sensorik, vernetzte Daten und Künstliche Intelligenz können kritische Entwicklungen früher sichtbar machen. Entscheidend ist, ob daraus im richtigen Moment eine bessere Entscheidung wird. 

Sicherheit beginnt nicht beim Fehler, sondern im System

Moderne Sicherheitsforschung richtet den Blick nicht auf individuelles Fehlverhalten, sondern auf Bedingungen, die Fehler begünstigen oder abfangen. Medizinische Expertise, Personal, Kommunikation, Technik und Abläufe müssen unter Zeitdruck zusammenspielen. Sicherheit entsteht durch robuste Strukturen, die menschliche Grenzen mitdenken. Max Pongratz, Teamleitung der Zentralen Notaufnahme am Klinikum Nürnberg, erlebt diese Realität täglich. „Entscheidend ist, ob ein System so gestaltet ist, dass es Fehler möglichst früh erkennt und abfängt.“ Technologie wird damit zum Bestandteil eines Sicherheitsnetzes, das Risiken erkennt, Informationen einordnet und Menschen im entscheidenden Moment unterstützt. 

Dieses Sicherheitsnetz muss bereits in der Entwicklung geknüpft werden, betont Herna Munoz-Galeano, Geschäftsführerin von PGXperts: „Sicherheit muss von Anfang an Teil der Entwicklung sein: wissenschaftliche Grundlage, klinische Anforderungen, Softwareentwicklung und die systematische Betrachtung möglicher Risiken müssen zusammengehören.“ 

Von der Reaktion zur Prävention 

Digital-Health-Ansätze verschieben den Fokus von der Reaktion zur Prävention. Während medizinische Entscheidungen häufig auf punktuellen Untersuchungen beruhen, können Sensoren Vitalparameter, Bewegungen oder Verhaltensmuster kontinuierlich erfassen. Algorithmen identifizieren darin relevante Veränderungen, die im Versorgungsalltag verborgen bleiben könnten. Der Mehrwert liegt nicht in der permanenten Datenerhebung an sich, sondern in belastbaren Warnsignalen, die rechtzeitiges Handeln ermöglichen. 

Für Dr. Christian Münzenmayer vom Fraunhofer IIS ist dies ein zentraler Baustein künftiger Patientensicherheit. Bei der Früherkennung von Sturzrisiken können bereits kleine Veränderungen im Gangbild oder in der Stabilität auf eine gesundheitliche Entwicklung hinweisen, bevor ein Zwischenfall eintritt. Für die Versorgung entsteht dadurch ein Zeitfenster, in dem präventive Maßnahmen noch greifen können. Der eigentliche Fortschritt liegt damit nicht allein in einem neuen Sensor oder einem leistungsfähigeren Algorithmus, sondern in der gewonnenen Zeit zwischen dem ersten Warnsignal und dem möglichen Schaden. 

Warum Daten allein nicht genügen

Gesundheitsdaten schaffen jedoch nicht allein Sicherheit. „Mehr Daten bedeuten nicht automatisch mehr Sicherheit“, betont Münzenmayer. Ihr Wert entsteht durch Qualität, klinische Interpretierbarkeit und eine Aufbereitung, die Orientierung statt zusätzlicher Belastung bietet. Systeme müssen relevante von irrelevanten Informationen unterscheiden, Unsicherheiten transparent machen und Ergebnisse so darstellen, dass sie in bestehende Entscheidungsprozesse passen. Andernfalls wird aus dem erhofften Überblick eine weitere Quelle kognitiver Belastung. 

Die Arzneimitteltherapie zeigt diese Übersetzungsleistung besonders deutlich. Neben Erkrankung und Begleitmedikation können Wechselwirkungen, Organfunktionen, demografische Merkmale und genetische Unterschiede für die Auswahl und Dosierung eines Wirkstoffs relevant sein. PGXperts führt deshalb pharmakogenetische, pharmakologische, klinische und demografische Informationen zusammen. „Die entscheidende Frage ist heute, wie aus diesen Informationen eine verlässliche, patientenspezifische Entscheidungshilfe wird“, sagt Munoz-Galeano. Digitale Clinical-Decision-Support-Systeme können dieses Wissen am Point of Care verfügbar machen, ohne die medizinische Einordnung zu ersetzen. 

Deshalb ist Interoperabilität mehr als eine technische Schnittstelle. Informationen müssen nicht nur übertragbar sein, sondern in verschiedenen Einrichtungen, Professionen und Systemen dieselbe Bedeutung behalten. Semantische Eindeutigkeit, strukturierte Daten und eine verlässliche Einbindung in klinische Arbeitsabläufe entscheiden darüber, ob aus Vernetzung tatsächlich Sicherheit entsteht. Auch technische Funktion allein genügt nicht. „Eine Software kann technisch funktionieren und dennoch für einen medizinischen Zweck ungeeignet sein“, warnt Munoz-Galeano. Regulierung schafft den Rahmen, in dem Sicherheit und Leistungsfähigkeit für den vorgesehenen Zweck systematisch bewertet und nachgewiesen werden.

Die größte Herausforderung liegt zwischen den Systemen 

Besonders häufig entstehen Risiken an Übergängen. Beim Wechsel vom Rettungsdienst in die Klinik, von der Notaufnahme auf die Station oder zwischen Professionen wechseln zugleich Informationen und Verantwortlichkeiten. Unter Zeitdruck können unvollständige Befunde, unterschiedliche Dokumentationslogiken oder unklare Zuständigkeiten sicherheitsrelevant werden. „Eine gute Übergabe ist deshalb keine reine Informationsweitergabe, sondern ein sicherheitskritischer Prozess“, sagt Pongratz. Digitale Systeme können Übergaben strukturieren und Informationsverluste reduzieren. Entscheidend bleibt, ob die relevanten Inhalte vollständig, verständlich und rechtzeitig ankommen. 

Der realistische Nutzen von Künstlicher Intelligenz liegt nicht in autonomen Entscheidungen, sondern in gezielter Entlastung. Sie kann große Datenmengen durchsuchen, Muster hervorheben und Prioritäten sichtbar machen. Besonders in hochdynamischen Versorgungssituationen kann sie Aufmerksamkeit dorthin lenken, wo eine rasche fachliche Bewertung erforderlich ist. „KI sollte uns helfen, relevante Informationen schneller zu erkennen und kognitive Belastung zu reduzieren. Die Entscheidung muss beim Menschen bleiben“, sagt Pongratz. Die Qualität eines KI-Systems bemisst sich damit nicht nur an seiner analytischen Leistung, sondern auch daran, wie nachvollziehbar und handlungsrelevant seine Hinweise sind.

Die Zukunft ist kein einzelnes Produkt 

Patientensicherheit lässt sich nicht auf ein Produkt reduzieren. Ebenso wenig sind Regulierung und Innovation Gegensätze. Hohe Anforderungen an Evidenz, technische Dokumentation und klinische Bewertung sind notwendig, binden aber insbesondere in kleineren MedTech-Unternehmen erhebliche personelle, zeitliche und finanzielle Ressourcen. Munoz-Galeano plädiert deshalb nicht für niedrigere Standards, sondern für Rahmenbedingungen, die hochwertige klinische Studien und regulatorische Prozesse besser unterstützen. „Gute Regulierung kann dazu beitragen, dass belastbare Innovationen sicher ihren Weg in die Versorgung finden.“ 

Die Patientensicherheit der Zukunft entsteht im Zusammenspiel belastbarer Prozesse, geeigneter Technologie und menschlicher Verantwortung. Gelingt es, werden aus Daten Orientierung, aus Warnsignalen Prävention und aus Erfahrungen gemeinsames Lernen. Hier setzt Bayern Innovativ Gesundheit an. Wir vernetzen Unternehmen, Forschung, Versorgung und öffentliche Partner, vermitteln Wissen und unterstützen Kooperationen, die technologische Möglichkeiten mit konkreten Bedarfen verbinden und sichere Gesundheitsinnovationen in die Anwendung bringen.