Von Open-Access-Forschung zur Politikgestaltung, Hochschule für Wirtschaft FHNW

Ein Open-Access-Rahmenwerk, das von Christine Jacob und einem interdisziplinären Forschungsteam entwickelt wurde, hat dazu beigetragen, einen vorgeschlagenen US-Gesetzentwurf zur unabhängigen Bewertung von KI-Systemen zu informieren, die von der Veterans Health AdministraAI for IMPACTS informs a legislative proposal on responsible AI use in Healthcare.tion eingesetzt werden. In diesem Interview erläutert die FHNW-Forscherin, wie diese Verbindung entstanden ist, weshalb eine verantwortungsvolle KI-Bewertung über die reine technische Leistungsfähigkeit hinausgehen muss und welche nächsten Schritte geplant sind.

Christine, was ist das AI for IMPACTS Framework?

AI for IMPACTS ist ein wissenschaftlich fundiertes Framework zur Bewertung der langfristigen Auswirkungen von KI-gestützten Anwendungen im klinischen Alltag. Es entstand aus einer systematischen Analyse von 44 Studien und vereint 28 Bewertungskriterien in sieben Themenbereichen: Integration und Arbeitsabläufe, Monitoring und Governance, Leistung und Qualität, Akzeptanz, Vertrauen und Schulung, wirtschaftliche Bewertung, technologische Sicherheit und Transparenz sowie Skalierbarkeit und Wirkung.

Der zentrale Gedanke dahinter ist, dass ein KI-System nicht als isolierte Softwarelösung bewertet werden sollte. Ebenso wichtig ist es zu verstehen, wie die Technologie mit klinischen Prozessen, Gesundheitsfachpersonen, Patientinnen und Patienten, organisatorischen Strukturen sowie dem Gesundheitssystem als Ganzes interagiert.

Welches Problem sollte das Framework lösen?

Viele bestehende Ansätze konzentrieren sich verständlicherweise auf die technische Leistungsfähigkeit, beispielsweise auf Genauigkeit, Sensitivität oder Spezifität. Diese Kennzahlen sind wichtig, sagen jedoch wenig darüber aus, ob ein KI-Tool sicher in einem bestimmten Spital integriert werden kann, ob Fachpersonen es verstehen und nutzen können, wer für seine Ergebnisse verantwortlich bleibt oder ob es langfristig einen echten Mehrwert schafft.

Ein System kann in einer kontrollierten Studie hervorragende Resultate erzielen und dennoch in der Praxis scheitern, weil es Arbeitsabläufe stört, eine nicht verfügbare Infrastruktur voraussetzt, Ergebnisse liefert, denen Fachpersonen nicht vertrauen, oder neue organisatorische Belastungen verursacht. AI for IMPACTS wurde entwickelt, um diese technischen, menschlichen und organisatorischen Fragestellungen zusammenzuführen.

Wie kam der Kontakt mit dem Ausschuss für Veteranenangelegenheiten des US-Repräsentantenhauses zustande?

Im Juli erhielt ich überraschend eine E-Mail von Reggie Darby, einem Mitarbeitenden des Unterausschusses für Aufsicht und Untersuchungen des Ausschusses für Veteranenangelegenheiten im US-Repräsentantenhaus. Zu seinen Aufgaben gehören die Aufsicht über künstliche Intelligenz, Gesundheitsinformationstechnologien und die technologische Modernisierung im Department of Veterans Affairs.

Herr Darby erklärte, dass sie verschiedene Frameworks zur Governance und Evaluation von KI geprüft hätten. Dabei sei die soziotechnische Perspektive unserer Arbeit besonders herausgestochen, weil sie die Realität der Einführung von KI in einem grossen und komplexen Gesundheitssystem berücksichtige. Zudem informierte er mich darüber, dass der US-Abgeordnete und Arzt Greg Murphy an einem Gesetzesvorschlag gearbeitet habe, der sich unter anderem auf die Arbeit unseres Forschungsteams stützte. Das war ebenso spannend wie ermutigend.

Was haben Sie darüber erfahren, wie das Framework genutzt wurde?

Herr Darby beschrieb das Framework als einen praxisnahen Ansatz, um über KI in komplexen Gesundheitsumgebungen nachzudenken. Es habe geholfen, die Lücke zwischen hochwertiger Forschung und umsetzbarer Politik zu schliessen. Zudem erläuterte er, wie der soziotechnische Ansatz unseres Frameworks den verantwortungsvollen Umgang mit KI im Gesundheitswesen, wie ihn Greg Murphy verfolgt, sinnvoll ergänze.

Wichtig ist jedoch eine präzise Darstellung dieser Verbindung. Das Framework hat den Gesetzesvorschlag mitgeprägt, diente während seiner Entwicklung als Referenz und beeinflusste die zugrunde liegenden Überlegungen. Ich würde jedoch nicht behaupten, dass unser Framework allein zur Entstehung des Gesetzesentwurfs geführt hat.

Was sieht der vorgeschlagene Gesetzentwurf vor?

Der Gesetzentwurf mit dem Titel Responsible Artificial Intelligence for Veterans Act of 2026 wurde am 22. Juli 2026 im US-Repräsentantenhaus eingebracht und an den Ausschuss für Veteranenangelegenheiten überwiesen. Es handelt sich derzeit um einen Vorschlag, der noch nicht verabschiedet wurde.

Der Entwurf verpflichtet den Secretary of Veterans Affairs, eine Vereinbarung mit einem staatlich finanzierten Forschungs- und Entwicklungszentrum abzuschliessen, um mindestens fünf KI-Systeme unabhängig zu evaluieren. Diese Systeme müssen bereits eingesetzt werden, sich in Pilotprojekten befinden oder für den klinischen Einsatz innerhalb der Veterans Health Administration entwickelt werden. Priorität erhalten Anwendungen, die bereits breit eingesetzt werden oder erhöhte klinische, betriebliche oder patientensicherheitsrelevante Risiken aufweisen.

Die vorgeschlagene Evaluation geht weit über die reine Modellgenauigkeit hinaus. Sie umfasst die Integration in bestehende Prozesse und die operative Einsatzbereitschaft, Governance und Verantwortlichkeiten, Modellleistung, Sicherheit und menschliche Aufsicht, veteranenzentriertes Design und Akzeptanz, Kosten und Ressourceneinsatz, Transparenz und Dokumentation sowie Skalierbarkeit und Wirkung im realen Einsatz. Zudem sind Berichts-, Korrektur- und Nachverfolgungsmechanismen vorgesehen.

Warum ist dies ein wichtiges Beispiel für Wissenstransfer?

Dieses Beispiel zeigt, dass akademische Forschung ihren Weg in die Praxis auf oft unerwartete Weise finden kann. Das Framework wurde als Open-Access-Publikation unter einer Creative-Commons-Lizenz veröffentlicht. Dadurch konnten politische Entscheidungsträgerinnen und Entscheidungsträger, Regulierungsbehörden, Gesundheitsorganisationen und Forschende frei darauf zugreifen und die Erkenntnisse weiterverwenden.

Open Access garantiert zwar keinen politischen Einfluss, beseitigt jedoch eine wichtige Hürde. In diesem Fall wurde Forschung, die in einem europäischen Hochschulumfeld entstanden ist, für eine politische Diskussion in einem der grössten integrierten Gesundheitssysteme der Welt relevant. Das ist ein eindrückliches Beispiel dafür, wie frei zugängliche Forschung zum internationalen Wissensaustausch beitragen kann.

Warum muss die verantwortungsvolle Bewertung von KI mehr berücksichtigen als Sicherheit und technische Leistungsfähigkeit?

Verantwortungsvolle Evaluation sollte nicht als Versuch verstanden werden, Innovationen zu bremsen. Ihr Ziel ist es vielmehr, sicherzustellen, dass Innovationen einen nachhaltigen Mehrwert schaffen, ohne Patientinnen und Patienten, Gesundheitsfachpersonen oder Gesundheitssysteme zu gefährden.

Technische Sicherheit ist dabei nur ein Teil der Verantwortung. Ebenso wichtig sind Fragen wie: Passt die Technologie in bestehende klinische Abläufe? Erhalten Mitarbeitende die notwendige Schulung? Profitieren unterschiedliche Patientengruppen gleichermassen? Sind Verantwortlichkeiten klar geregelt? Kann die Leistung des Systems über längere Zeit überwacht werden? Und verfügt die Organisation über die notwendigen Ressourcen, um das System dauerhaft zu betreiben?

Worüber hast du dich im Gespräch mit Herrn Darby ausgetauscht?

Wir haben darüber gesprochen, wie sich die Forschung seit der ursprünglichen Veröffentlichung weiterentwickelt hat, über unseren laufenden internationalen Delphi-Prozess sowie über die Herausforderung, Erkenntnisse aus der Implementierungsforschung in praktikable Ansätze für die Aufsicht über KI-Systeme zu überführen.

Der Austausch war besonders wertvoll, weil zwei unterschiedliche Perspektiven zusammenkamen: die wissenschaftliche Perspektive, die fragt, welche Evidenz benötigt wird, und die politische Perspektive, die sich damit beschäftigt, wie diese Evidenz in praxistaugliche und verantwortungsvolle Strukturen übersetzt werden kann.

Ich habe zudem erläutert, dass unser Delphi-Panel aus 46 Expertinnen und Experten aus 25 Ländern und acht verschiedenen Anspruchsgruppen besteht. Dieser breite Einbezug ist entscheidend, denn ein Framework wie AI for IMPACTS kann nicht allein aus einer fachlichen oder nationalen Perspektive weiterentwickelt werden. Herr Darby äusserte die Hoffnung, dass sich daraus ein kontinuierlicher Dialog zwischen Forschung und Politik entwickeln könnte.

Welche Rolle spielte die FHNW bei dieser Arbeit?

Die Forschung entstand im Rahmen meiner Tätigkeit an der FHNW und in Zusammenarbeit mit einem interdisziplinären Autorenteam der FHNW sowie von Partnerinstitutionen, darunter die ETH Zürich und die Universität Bern.

Das veröffentlichte Framework ist daher nicht die Leistung einer einzelnen Person. Es basiert auf der gemeinsamen Arbeit von Forschenden mit Fachkompetenzen in Medizin, Informationssystemen, Biomedizintechnik und Implementierungsforschung.

Die aktuelle Delphi-Studie baut diese Zusammenarbeit weiter aus, indem Expertinnen und Experten aus unterschiedlichen Ländern und verschiedenen Stakeholder-Gruppen eingebunden werden. Dieser kollaborative Ansatz ist für mich ein zentraler Bestandteil der Geschichte. Hochschulen erzielen Wirkung nicht nur durch die Publikation von Forschungsergebnissen, sondern auch dadurch, dass sie Wissen zugänglich machen, den Austausch zwischen Disziplinen fördern und dessen Anwendung in Entscheidungsprozessen unterstützen.

Wie geht es mit AI for IMPACTS weiter?

Mit der Veröffentlichung wurde die wissenschaftliche Grundlage geschaffen. Das Framework war jedoch nie als endgültige Lösung gedacht. Im nächsten Schritt werden die Kriterien im Rahmen eines internationalen Delphi-Prozesses durch Expertinnen und Experten weiterentwickelt, validiert und priorisiert.

Parallel dazu arbeiten wir an praxisnahen und leicht zugänglichen Bewertungsinstrumenten, die Gesundheitsorganisationen künftig dabei unterstützen sollen, KI-Anwendungen für medizinisches Fachpersonal in ihrem jeweiligen Umfeld zu beurteilen. Diese Instrumente befinden sich derzeit noch in Entwicklung. AI for IMPACTS sollte daher noch nicht als fertiger Standard, validiertes Audit-Instrument oder vollständig ausgearbeitetes Toolkit für Spitäler verstanden werden.

Langfristig wollen wir die Ergebnisse des Expertenkonsenses mit Tests in realen Gesundheitseinrichtungen verbinden. Dadurch können wir nicht nur feststellen, ob die Kriterien wissenschaftlich fundiert sind, sondern auch, ob sie Organisationen bei Entscheidungen über die Einführung, Überwachung, Skalierung oder gegebenenfalls die Einstellung von KI-Systemen unterstützen.

Die nächste Entwicklungsphase von AI for IMPACTS verbindet somit internationalen Expertenkonsens mit praxisorientierter Weiterentwicklung. Während das Delphi-Panel die Bewertungskriterien verfeinert und priorisiert, arbeitet das Forschungsteam an leicht anwendbaren Instrumenten, die später in realen Versorgungskontexten getestet werden sollen. Ziel ist es, Gesundheitsorganisationen dabei zu unterstützen, kontextbezogene Entscheidungen darüber zu treffen, welche KI-Anwendungen eingeführt werden sollten, wie sie überwacht werden können und ob sie langfristig einen klinischen und organisatorischen Mehrwert schaffen.