Künstliche Intelligenz für den flächendeckenden Einsatz in medizinischen Versorgungssystemen: Ein Ansatz aus Großbritannien zeigt, wie es funktionieren kann

Shidani et al. haben das Paper „Implementation Framework for AI Deployment at Scale in Healthcare Systems“ veröffentlicht. Sie zeigen einen strukturierten Weg, KI aus dem Labor in die klinische Routine zu überführen, damit KI sowohl für Behandelnde als auch für Patientinnen und Patienten zu einem vertrauenswürdigen Assistenten wird und nicht in einer Black Box endet. 

Frau Shidani, möchten Sie sich den Leserinnen und Lesern unseres Newsletters kurz vorstellen und etwas über sich und Ihre Tätigkeit erzählen? 
Sehr gerne! Zunächst einmal vielen Dank, dass ich hier sein darf – das freut mich sehr. 
Ich bin derzeit Doktorandin im Bereich Statistik und maschinelles Lernen an der Oxford University. Ich habe mich darauf spezialisiert, moderne Machine-Learning-Modelle besser zu verstehen und deren Effizienz, Skalierbarkeit und Generalisierbarkeit zu verbessern. 
Außerdem liegt es in meinem Interesse, die Lücke zwischen theoretischer Forschung und praktischer Anwendung zu schließen, um diese Modelle besonders im Gesundheitswesen und in der Biologie nutzbar zu machen. Mein bisheriger Werdegang ist inhaltlich relativ vielfältig: Mathematik, Informatik, Ingenieurwissenschaften. Darüber hinaus habe ich während meines Studiums Kenntnisse im Bereich der computergestützten Biologie gesammelt. Das beschreibt mich ganz gut, denke ich. 

Wie kam es dazu, dass Sie sich dafür interessieren, KI zur Verbesserung der Gesundheitsversorgung einzusetzen? 
Das ist eine gute Frage. Bei mir begann alles mit einem Kurs im Bachelorstudium namens „Systems Biology“. Es war ein interdisziplinärer Kurs für Studierende aus mathematischen Fachrichtungen, die nicht unbedingt viel Ahnung von Biologie hatten. 
Die erste Hälfte des Kurses widmete sich biologischen Grundlagen und vermittelte uns, wie komplex biologische Systeme sind. Das öffnete mir regelrecht die Augen. Ich war verblüfft darüber, wie kompliziert diese Systeme sind und wie sie ineinandergreifen. 
Mir wurde klar, wie schwierig es ist, auch nur einen Teil eines biologischen Systems vollständig zu erfassen und welches Potenzial computergestützte Werkzeuge haben, um diese Komplexität zu durchdringen. Was mich besonders motivierte, war zu sehen, wie selbst kleine Veränderungen Großes in der Gesundheitstechnologie bewirken können. Es geht nicht nur darum, neue Tools zu schaffen, sondern sie vor allem praxisnah und nutzungsorientiert zu gestalten. 

Sie arbeiten an der Oxford University, einem der führenden Zentren für medizinische KI. Was bedeutet es für Sie, an so einem wichtigen Thema zu forschen? 
Ich schätze mich wirklich glücklich und finde es sehr inspirierend. Nicht nur, weil ich mit führenden Professorinnen bzw. Professoren und Forschenden zusammenarbeite, sondern auch weil die interdisziplinäre Zusammenarbeit mit Menschen aus ganz unterschiedlichen Bereichen wie etwa der Medizin, Informatik oder Ethik für mich so wertvoll ist. Jede und jeder trägt eine eigene Sichtweise bei. 
Es herrscht echte Teamarbeit. Wir engagieren uns gemeinschaftlich, um komplexe Probleme zu lösen. Gerade im Bereich der medizinischen KI ist Vielfalt essenziell, um wirkliche Fortschritte zu erreichen. 

In einem Ihrer neuesten Forschungsartikel stellen Sie ein Framework für den Einsatz von KI in Gesundheitssystemen vor. Können Sie dieses in einfachen Worten erklären und erläutern, warum es so wichtig ist? 
Sehr gerne. Unser Framework bietet einen strukturierten Ansatz, um KI-Tools sicher und breitflächig im Gesundheitswesen einzuführen. Viele KI-Anwendungen funktionieren zwar im Labor gut, stoßen im Klinikalltag aber schnell an ihre Grenzen – unter anderem aufgrund von Vertrauensfragen, Sicherheit für Patientinnen und Patienten und Datenschutz. Unser Konzept ist dafür gedacht, diesen Gap zu schließen. Nicht, um alles zu lösen, sondern um einen Teil dieser Problematik zu lösen. Es ermöglicht Gesundheitssystemen, viele verschiedene KI-Tools gleichzeitig zu testen, zu vergleichen und die optimale Kombination auszuwählen. 
Unser Ansatz folgt dem Prinzip „Human in the Loop“ bzw. „menschenzentrierte KI“, was in der Medizin von großer Bedeutung ist. Als wesentliches Merkmal beurteilt unser Framework die leistungsstärksten Modelle nicht nur klassisch nach Genauigkeit, sondern auch nach Kriterien wie Fairness, Datenschutz und echtem klinischen Nutzen. 
Viele der Bewertungskriterien wurden auf Basis von Feedback der Anwendenden, also von praktischen Ärztinnen und Ärzten, ja sogar Patientinnen und Patienten, definiert. Anders ausgedrückt: Es ist nicht das Ziel, einen perfekten Algorithmus, sondern ein Ökosystem zu entwickeln, in dem KI-Modelle kontinuierlich getestet, verbessert und im Laufe der Zeit als vertrauenswürdig eingestuft werden können. Wir setzen dafür verstärkendes Lernen ein. Schlussendlich wollen wir erreichen, dass KI zu einer verlässlichen Unterstützung in der Gesundheitsversorgung wird – für beide Seiten, also sowohl für Ärztinnen und Ärzte als auch für Patientinnen und Patienten. 

Viele Menschen fürchten, KI könnte Ärztinnen und Ärzte ersetzen. Wie sehen Sie die Unterstützung von medizinischem Personal durch KI? 
Das ist eine spannende Frage, zu der ich sehr viel sagen könnte. Ich verstehe die Sorgen, vor allem in Anbetracht dessen, wie schnell sich KI weiterentwickelt. Was mich betrifft, bin ich optimistisch. Ich glaube nicht, dass KI Ärztinnen und Ärzte ersetzt; vielmehr unterstützt sie sie. 
Biologische Systeme sind extrem komplex. Ich sehe KI als eine Art neue Kollegin oder neuen Kollegen, die bzw. der Daten schneller analysieren und Muster erkennen kann, die Menschen entgehen könnten. Auch Routineaufgaben können durch KI übernommen werden. Dadurch gewinnen Ärztinnen und Ärzte mehr Zeit für die Gespräche mit Patientinnen und Patienten und für komplexe Entscheidungen, die menschliches Urteilsvermögen und Empathie erfordern. 
Außerdem eröffnet KI kostengünstigere Möglichkeiten, neue Medikamente zu testen oder zu entwickeln. Die besten Ergebnisse entstehen aus der Zusammenarbeit zwischen klinischem Fachpersonal und KI, indem die Stärken beider Seiten kombiniert werden. 

In Ihrem Artikel ist oft die Rede von Datenschutz und Erklärbarkeit. Warum sind diese beiden Aspekte im Umgang mit KI und Patientendaten so wichtig? 
Meiner Meinung nach gibt es mindestens zwei Blickwinkel zu betrachten. Auf der einen Seite ist Vertrauen im Gesundheitswesen das A und O. Patientinnen und Patienten müssen sicher sein, dass ihre Daten vertraulich und sicher behandelt werden. Ärztinnen und Ärzte wiederum müssen nachvollziehen können, warum ein KI-System eine bestimmte Empfehlung gibt; sie dürfen diese nicht blind übernehmen. Es ist entscheidend, Risiken zu minimieren. Die Erklärbarkeit eines KI-Systems sorgt für Vertrauen. Durch Datenschutz wird sichergestellt, dass die Rechte von Einzelpersonen gewahrt bleiben. 
Auf der anderen Seite kann Datenschutz die Zusammenarbeit erleichtern. Für eine meiner wissenschaftlichen Veröffentlichungen benötigten wir noch zusätzliche Daten, um unser Modell zu verbessern. Aufgrund von Datenschutzbestimmungen waren diese jedoch nicht zugänglich. Garantieren KI-Systeme den Datenschutz, können Krankenhäuser und Forschungseinrichtungen Daten auf sichere Weise teilen. Damit ließen sich Zusammenarbeit und Forschung für alle Beteiligten verbessern.  
Erklärbarkeit hilft Entwicklerinnen und Entwicklern außerdem zu verstehen, warum ein Modell nicht funktioniert und liefert Feedback, um es zu verbessern. Diese Themen sind dynamisch und entwickeln sich ständig weiter, das müssen wir im Auge behalten. 

Testen oder implementieren Sie bereits Teile des Frameworks in Krankenhäusern oder einem Forschungsumfeld? 
Leider nein, momentan noch nicht. Bei dieser Arbeit handelt es sich in erster Linie um eine Forschungspublikation, aber wir hoffen natürlich, dass Kliniken oder Forschungsinstitute damit beginnen werden, das Framework zu testen. Falls Interesse an einer Partnerschaft besteht, unterstützen wir sehr gerne beim Aufbau der gesamten Infrastruktur. 

Von der Forschung bis zur praktischen Anwendung – wo liegen die größten Herausforderungen? 
Eine große Herausforderung besteht darin, dass Krankenhäuser an sich extrem komplexe Ökosysteme sind. Die Einführung eines neuen KI-Systems beschränkt sich nicht nur auf die Installation von Software, sondern erfordert auch die Integration in bestehende Arbeitsabläufe, die Gewährleistung der Datensicherheit, die Schulung des Personals und den Aufbau von Vertrauen. Das ist schwierig und sehr zeitaufwendig. 
Eine weitere größere Herausforderung ist die Medizinprodukteverordnung. Medizinische KI muss extrem hohen Sicherheitsstandards entsprechen, was den Prozess verlangsamt, ihn aber letztendlich deutlich sicherer macht. Das sind zwei der größten Hürden. 

Welche Arten von Partnerschaft helfen aus Ihrer Sicht dabei, KI-Lösungen in den Klinikalltag zu bringen? 
Es gibt viele Wege der Zusammenarbeit zwischen Institutionen wie Bayern Innovativ, Universitäten, Gesundheitsdienstleistern und Start-ups. Aus universitärer Sicht ist es äußerst wertvoll, wenn solche Organisation uns dabei helfen, die wissenschaftlichen Aspekte des Problems und die damit verbundenen Bedenken in der Praxis zu verstehen. 
Viele Probleme werden nicht gelöst, weil das Problem selbst von Anfang an nicht richtig verstanden wird. Manchmal neigen wir dazu, direkt Lösungen vorzuschlagen, ohne die Bedürfnisse derjenigen zu kennen, die sie letztlich nutzen werden. 
Es ist auch von entscheidender Bedeutung, Studierenden die Möglichkeiten zu geben, zu verstehen, wie die Industrie funktioniert. Die Studentinnen und Studenten verfügen oft über fundierte wissenschaftliche Kenntnisse, es fehlt ihnen jedoch an Praxiserfahrung. Der Kontakt zur Industrie hilft, diese Lücke zwischen Forschung und Anwendung zu schließen. 
Nicht zuletzt ist die finanzielle Unterstützung von Studierenden äußerst wertvoll, da sie wichtige Möglichkeiten für Lehre und Forschung eröffnet. 

Wie könnte das Gesundheitswesen in zehn Jahren aussehen, wenn KI-Frameworks zum Standard werden? 
Es ist schwierig, zehn Jahre vorauszublicken. KI entwickelt sich so rasant, dass selbst ein oder zwei Jahre schwer vorherzusagen sind. Aber grundsätzlich glaube ich, dass die Gesundheitsversorgung deutlich personalisierter und proaktiver werden wird. 
KI könnte Ärztinnen und Ärzten dabei helfen, frühe Krankheitszeichen zu erkennen, Risiken vorherzusehen, bevor Symptome auftreten, und Therapieentscheidungen individuell abzustimmen. Sie könnte auch die Arzneimittelentwicklung und Versuchstests unterstützen, indem Simulationen und synthetische Daten genutzt werden. Somit könnten diese Prozesse kostengünstiger und effizienter gestaltet werden. 
Natürlich sind damit auch ethische Risiken verbunden. KI kann uns jedoch unterstützen, bessere Regelungen für die Zukunft zu entwickeln. Insgesamt hoffe ich, dass KI die Gesundheitsversorgung effizienter, personalisierter und verantwortungsvoller gestalten wird. 

Welchen Rat würden Sie jungen Innovatorinnen und Innovatoren geben, die an Künstlicher Intelligenz mit echtem Mehrwert für den Gesundheitsbereich arbeiten möchten? 
Mein Vorschlag ist sehr einfach – auch wenn ich mich nicht in der Position sehe, Ratschläge zu geben. Meiner Erfahrung nach ist es immer wichtig, zuerst das eigentliche Problem zu verstehen. 
Ich sehe zwei grobe Forschungsrichtungen in der KI für das Gesundheitswesen. Die eine ist vorwiegend explorativ und zielt darauf ab, Methoden oder Wissen zu erweitern. Die andere sucht nach praktischen, realen Auswirkungen. In beiden Fällen ist das Verständnis des Problems wichtig, aber für diejenigen, die angewandte Ansätze verfolgen, wird es noch entscheidender. Ich sehe oft hochmotivierte Menschen, die mit etwas sehr Großem, Komplexem und technologisch Ambitioniertem beginnen, weil es aufregend erscheint, jedoch ohne ein klares Verständnis des konkreten Problems, das sie lösen wollen. Meiner Meinung nach hilft es bei praktischer Forschung, den umgekehrten Weg zu gehen: Zuerst die reale Herausforderung identifizieren und dann KI als Werkzeug einsetzen, um die Herausforderung anzugehen. Und unterschätzen Sie nicht, das Problem in kleinere, leichter zu bewältigende Teile zu zerlegen! 

Vielen Dank!