Gemeinsam besser: Leitfaden für die optimale Zusammenarbeit von Mensch und KI, Hochschule für Angewandte Psychologie FHNW

Das kürzlich veröffentlichte White Paper «Mensch und KI – gemeinsam besser» untersucht das Zusammenspiel von Mensch und künstlicher Intelligenz (KI) in Arbeitsbereichen, welche eine hohe Fachexpertise und umfangreiches Erfahrungswissen erfordern.

Die Autor*innen Prof. Dr. Toni Wäfler, Andrina Eisenegger, Samira Hamouche und Nicholas Magee haben wichtige Prinzipien zusammengestellt, welche eine effektive und menschenzentrierte Zusammenarbeit zwischen Mensch und KI langfristig gewährleisten.

Grundlage für die Tipps sind Erkenntnisse aus dem Forschungsprojekt Mensch-KI Teaming im industriellen Teile-Management der Hochschule für Angewandte Psychologie FHNW.

Unterstützung der Menschen: Wenn KI Vorschläge macht, die Menschen nicht verstehen, aber trotzdem bewerten müssen, ist dies keine echte Hilfe. Eine wirkliche Unterstützung durch KI fördert das menschliche Denken, indem sie menschliche Eigenheiten berücksichtigt und einzelne Denkprozesse unterstützt.

Erkennbarkeit: KI-Systeme wie z. B. Bots sollten klar als solche erkennbar sein und nicht vortäuschen, menschlich zu sein. Dies verhindert, dass Menschen ihnen fälschlicherweise menschliche Eigenschaften zuschreiben.

Erklärbarkeit: Die KI muss ihre Empfehlungen und Massnahmen nachvollziehbar und kontextbezogen erklären können. Dies steigert nicht nur das Vertrauen in die KI, sondern hilft den Menschen auch, fundierte Entscheidungen zu treffen.

Transparenz: Menschen müssen stets den Überblick über den aktuellen Stand der Aufgabenbearbeitung und die Aufgabenteilung zwischen Mensch und KI behalten. Dies fördert eine reibungslose Kooperation.

Verzerrungen offenlegen: KI-Systeme sollten transparent machen, aus welchen Daten sie ihre Schlüsse ziehen und welche möglichen Verzerrungen diese Daten beinhalten könnten.

Menschliche Kontrolle: Die Zusammenarbeit sollte so gestaltet sein, dass Menschen jederzeit die Möglichkeit haben, einzugreifen, wenn die KI an ihre Grenzen stösst. Dies gewährleistet Sicherheit und Zuverlässigkeit in kritischen Situationen.

Training und Aufrechterhaltung von Fähigkeiten: Menschen müssen jederzeit in der Lage sein, Aufgaben sowohl mit als auch ohne KI-Unterstützung auszuführen.

Gemeinsame Tests: Bevor KI-Systeme in sicherheitskritischen Umgebungen eingesetzt werden, sollten sie gemeinsam mit den Menschen getestet werden. Dies umfasst die Überprüfung der Verständlichkeit der KI und die Fähigkeit der Menschen, unvorhergesehene Verhaltensweisen der KI zu erkennen und darauf zu reagieren.