Gesellschaftliche Auswirkungen von KI-Design

Einführung in die technischen Perspektive der gesellschaftlichen Auswirkungen von Design-Entscheiden bei der KI-Entwicklung und dem KI-Einsatz.

Vermeintliche Details in Implementations- und Design-Entscheidungen während des Trainings und Einsatzes von künstlicher Intelligenz und Machine Learning Systemen können weitreichende Konsequenzen für Betroffene sowie die Gesellschaft als Ganzes bergen.

Dies ist nicht nur eine Angelegenheit von Unternehmensrichtlinien oder regulatorischen Anforderungen, sondern betrifft aufgrund der technischen Tiefe und des benötigten Fachwissens auch direkt die Data Scientisten, die diese Modelle entwickeln und deren Betrieb überwachen.

Dieses Modul vermittelt verschiedene Fallstricke mittels technischer Beispiele und Implementationsaufgaben. Die möglichen Konsequenzen werden beleuchtet und potentielle Umgehungsstrategien werden vermittelt.

Die Studierenden sind in der Lage, die potenziellen Risiken für Einzelpersonen und die Gesellschaft im Zusammenhang mit Datensätzen und Algorithmusentwicklung zu identifizieren und mit Massanhmen zu mitigieren.

Dazu gehören die verschiedenen Biases bei Datensätzen, unbedachte Effekte durch Limitationen von verschiedenen Algorithmen, kulturelle Differenzen und ihre Einflüsse in Design-Entscheidungen, widersprüchliche Optimierungsmetriken wie bei Fairness und Rückkopplungseffekte beim Datenpool der Trainingsdaten.

Studierende haben eine Übersicht über die möglichen Probleme bezüglich der Risiken für Individuen und Gesellschaft beim Einsatz von KI oder Machine Learning Algorithmen. Weiter kennen die Studierende Massnahmen, um die Probleme zu mitigieren.

Dazu gehört das Risiko des Datenabflusses durch den unüberlegten Einsatz, die Auswirkung der fehlenden Reflexionsfähigkeit der Algorithmen, die Bedeutung der Einsatzortes und -bereich (Einsatzfunktion) eines Systems, die fehlende Neutralität und Objektivität der Systeme sowie Technologiegläubigkeit der Benutzer und die Effekte des Einsatzes, sowie verzerrende Auswirkungs-Effekte auf das Umfeld des Systems.

Die Studierenden sind in der Lage, die Schritte eines verantwortungsbewussten Entwicklungszyklus für KI-Modelle zu verstehen und anzuwenden. Sie haben den gesamten Prozess, angefangen von der ersten Idee bis zur Entwicklung, Operationalisierung und langfristigen Nutzung, anhand eines praktischen Beispiels durchgeführt.

Dieser verantwortungsbewusste Entwicklungsvorgang besteht aus einer initialen Bewertungsphase mit Einsatzevaluation, Metrikreflektion und Impact Assessment, einer Entwicklungsphase mit Prototyp, Daten- und Modellversionierung, sowie eine Einsatzphase, wo eine mehrjährige Einsatzdauer simuliert wird. Ziel ist, mit dem in den vorherigen Blöcken angeeigneten Wissen, die Fallstricke zu erkennen und umgehen zu können.

• GPR
• EDA
• WER
• LLR
• GDS