In einem Tagungsbeitrag an der Universität Potsdam plädierte Arno Schubbach, Leiter Forschung am Institute Digital Communication Environments (IDCE), dafür, die Verfahren des Machine Learning und ihren Bezug zur Sozialität kritisch zu reflektieren.
Die öffentlichen Debatten über die Künstliche Intelligenz scheinen gebannt von der Frage, ob Maschinen zu eigenständigen Akteur:innen werden, die den Menschen ersetzen oder bedrohen könnten. In seinem Vortrag «Machine Learning and the Social Fabric» im Rahmen der Tagung «Maschinen des Sozialen. Künstliche Intelligenz und Soziale Kognition» am Center for Post-Kantian Philosophy der Universität Potsdam vom 23./24. Mai 2024 argumentierte Arno Schubbach, Leiter Forschung am Institute Digital Communication Environments (IDCE) der HGK Basel, dagegen, dass die kritische Reflexion verstärkt die Verfahren des Machine Learning (ML) und ihren neuartigen Bezug zur Sozialität in den Blick nehmen sollte.
Denn die Funktionalität von ML-basierten Anwendungen beruht allgemein auf Mustern und stochastischen Verteilungen, die aus den Trainingsdaten extrahiert wurden. Wenn Texte, Bilder und ähnliches als Trainingsdaten für generative KIs benutzt werden, dann werden also aus kulturellen Erzeugnissen und sozialen Praktiken, insoweit die Daten sie widerspiegeln, stochastische Muster extrahiert und zugleich operationalisiert, was vom Datenschutz bis zu Fragen des geistigen Eigentums vielfältige Herausforderungen nach sich zieht.
Arno Schubbach diskutiert aber vor allem, welche Auswirkungen es haben wird, wenn die generierten Texte und Bilder vermehrt Teil unserer alltäglichen sozialen Kommunikationen und digitalen Kultur werden. Die «stochastischen Papageien», als die Emily M. Bender, Timnit Gebru et al. grosse Sprachmodelle beschrieben haben, scheinen allzu niedlich, um ein solches statistisches Feedback digitaler Kultur kritisch zu reflektieren.