Die User Experience von KI in der Patient*innenversorgung: Implikationen und Potenziale

In diesem Beitrag stellen wir verschiedene Methoden aus dem Human-Centered Design vor, die beim Design und der Evaluation von KI-Tools im Gesundheitskontext dazu geeignet sind, Herausforderungen und Potenziale zu identifizieren.

Selbstlernende Algorithmen werden zunehmend in verschiedenen Prozessen und Therapien der Patient*innenversorgung eingesetzt. Sie übernehmen und automatisieren Tätigkeiten, die zuvor noch von den Patient*innen selbst übernommen werden mussten und bieten Entscheidungshilfen in komplexen Situationen an.

Dabei agiert und lernt eine künstliche Intelligenz (KI) für Patient*innen oft unbemerkt und wenig nachvollziehbar im Hintergrund.

In ihrem  Beitrag diskutieren Prof. Dr. Fred van den Anker und Dr. Serge Petralito am Beispiel der Insulinpumpentherapie verschiedene Methoden aus dem Human-Centered Design. Sie beschreiben die Auswirkungen der «Black Box» KI auf die User Experience und beleuchten deren Vor- wie auch Nachteile.