Ethik und Technologiefolgenabschätzung

Die Studierenden lernen Grundlagen der Ethik kennen. Der Blick richtet sich auf Künstliche Intelligenz (KI) und Robotik. Damit spielt insbesondere die angewandte Ethik eine Rolle, mit ihren Bereichsethiken (Informationsethik, Roboterethik, KI-Ethik) und der Maschinenethik.

Eine Einführung in die Technologiefolgenabschätzung (TA) macht mit dieser speziellen Form der Politikberatung vertraut, wiederum mit Fokus auf KI und Robotik. Es wird erklärt, wie Risikotechnologien identifiziert und studiert und die Erkenntnisse an Parlamente und Ministerien vermittelt werden.

Den Studierenden werden Technologien, Methoden und Modelle im KI-Umfeld nähergebracht, die aus ethischer Sicht als besonders produktiv oder kritisch gelten. Sie analysieren und reflektieren ausgewählte Anwendungsgebiete und Problemfelder, etwa über Use Cases. Zudem wenden sie Methoden wie Prompt Engineering für Guardrails in Übungen an und interagieren mit KI-Systemen. Nicht zuletzt lernen sie Regulierungen kennen.

Die Veranstaltung legt zunächst Wert auf eine fundierte theoretische Grundlegung. Sie konzentriert sich dann vor allem auf Anwendungsbeispiele und Problemfälle der betrieblichen Praxis und im wirtschaftlichen Kontext. Sie zeigt Implikationen der KI-Nutzung für Gesellschaft, Wirtschaft und Wissenschaft auf.

Wissen und Verstehen: Die Studierenden ...

• kennen die Grundlagen der Ethik und der angewandten Ethik.
• kennen die Grundlagen von Informations-, Roboter- und KI-Ethik sowie Maschinenethik.
• kennen die Technologiefolgenabschätzung als interdisziplinäres Feld und im Verhältnis zu KI und Robotik.
• identifizieren ausgewählte Technologien, Methoden und Modelle: Gesichts- und Stimmerkennung; Chatbots, Sprachassistenten; soziale Roboter mit Simulation von Emotionen und Empathie; Machine Learning und Deep Learning.

Urteilen: Die Studierenden ...

• analysieren Megatrends und Buzzwords: Responsible AI, Trustworthy AI, Explainable AI, Generative AI.
• analysieren und reflektieren ausgewählte Problemfelder: Gesichts-, Sprach- und Stimmerkennung in Bezug auf informationelle Selbstbestimmung; Emotionserkennung in Bezug auf das Persönlichkeitsrecht; Dialogsysteme und soziale Roboter in Bezug auf informationelle Selbstbestimmung sowie Betrug und Täuschung; Bias bei generativer KI; Deep Learning in Bezug auf Datenverwendung; Jailbreaking und Hijacking bei generativer KI.
• analysieren und reflektieren ausgewählte Anwendungsgebiete: KI im Recruiting; KI in der medizinischen Diagnose und Therapie; KI und Robotik im Pflege- und Therapiebereich; KI in der Unternehmenssteuerung und -führung; Automatisierung der Kundenberatung; KI in der Produktentwicklung; Algorithmen auf kommerziellen Plattformen; generative KI in der Geschäftswelt; Text-, Bild-, Video- und Audiogeneratoren für verschiedene Berufe und Geschäftszweige.

Anwendung von Wissen und Verstehen: Die Studierenden ...

• erstellen annotierte Entscheidungsbäume.
• konzipieren Moralmenüs für KI-Systeme und Roboter.
• entwickeln Guardrails mit Hilfe von Prompt Engineering.
• interagieren mit KI-Instanzen wie Virtual Learning Companions.

• Grundlagen der Ethik und der angewandten Ethik
• Grundlagen von Informations-, Roboter- und KI-Ethik sowie Maschinenethik
• Technologiefolgenabschätzung als interdisziplinäres Feld und im Verhältnis zu KI und Robotik
• Ausgewählte Technologien, Methoden und Modelle: Gesichts- und Stimmerkennung; Chatbots, Sprachassistenten; soziale Roboter mit Simulation von Emotionen und Empathie; Machine Learning und Deep Learning; Megatrends und Buzzwords: Responsible AI, Trustworthy AI, Explainable AI, Generative AI
• Ausgewählte Problemfelder: Gesichts-, Sprach- und Stimmerkennung in Bezug auf informationelle Selbstbestimmung; Emotionserkennung in Bezug auf das Persönlichkeitsrecht; Dialogsysteme und soziale Roboter in Bezug auf informationelle Selbstbestimmung sowie Betrug und Täuschung; Bias bei generativer KI; Deep Learning in Bezug auf Datenverwendung; Jailbreaking und Hijacking bei generativer KI
• Ausgewählte Anwendungsgebiete: KI im Recruiting; KI in der medizinischen Diagnose und Therapie; KI und Robotik im Pflege- und Therapiebereich; KI in der Unternehmenssteuerung und -führung; Automatisierung der Kundenberatung; KI in der Produktentwicklung; Algorithmen auf kommerziellen Plattformen; generative KI in der Geschäftswelt; Text-, Bild-, Video- und Audiogeneratoren für verschiedene Berufe und Geschäftszweige
• Annotierte Entscheidungsbäume; Moralmenüs für KI-Systeme und Roboter; Guardrails mit Hilfe von Alignment und Prompt Engineering, KI-Instanzen wie Virtual Learning Companions

Kontaktstudium:

Vorlesung

Diskussion

Gruppenarbeiten

Präsentation (in Gruppen)

Fallstudien

keine

Anwesenheit wird erwartet

Note 1-6 (halbe Noten)

Bendel, Oliver: 300 Keywords Generative KI. Springer Gabler, Wiesbaden 2024.

Bendel, Oliver: 400 Keywords Informationsethik. 2. Aufl. Springer Gabler, Wiesbaden 2019.

Bendel, Oliver (Hrsg.). Soziale Roboter. Springer Gabler, Wiesbaden 2021.

Bendel, Oliver (Hrsg.). Handbuch Maschinenethik. Springer VS, Wiesbaden 2019.

Misselhorn, Catrin. Grundfragen der Maschinenethik. Reclam, Ditzingen 2018.

Zweig, Katharina. Die KI war’s! Heyne, München 2023.