Prof. Dr. Klemens Böhm (IPD)

Prof. Dr. Armin Grunwald (ITAS)

Prof. Dr. Christian Seidel (ITZ)

Künstliche Intelligenz, algorithmisches Entscheiden und maschinelles Lernen bieten vielfältiges Potential für Wirtschaft und Gesellschaft, für die Wissenschaften, für Arbeitswelt, Gesundheit und Mobilität, für die individuelle Lebensgestaltung und für die Gestaltung gesellschaftlicher Teilbereiche. Ihre rasche Entwicklung wirft jedoch auch besorgte bis kritische Fragen auf, etwa nach mangelnder Nachvollziehbarkeit, nach der Fairness KI-basierter Entscheidungen und nach Kontrollierbarkeit der Missbrauchsgefahren. Das Ziel des Workshops ist, anhand verschiedener Impulsvorträge aus Philosophie, Informatik und Technikfolgenabschätzung das Feld der Chancen und Risiken zu explorieren, um Forschungsfragen herauszuarbeiten und Gelegenheiten für interdisziplinäre Kooperationen zu erkunden.

Zeit: Dienstag, 28. Mai 2019, 11.00 – 16.45 Uhr

Ort: Campus Süd, Gebäude 30.95 (Hörsaal-Gebäude am Forum), Raum 121

Für die Mittagsverpflegung steht die KIT-Mensa gegenüber dem Veranstaltungsgebäude zur Verfügung (Selbstzahler, bitte bringen Sie Ihre KIT-Karte mit). Dort sind Plätze reserviert, damit wir gemeinsam das Mittagessen einnehmen können.

Für die Verpflegung mit Getränken, Kaffee und Snacks während des Workshop wird ein Unkostenbeitrag von 10 Euro erhoben.

Die Anzahl der TeilnehmerInnen ist begrenzt. Eine Anmeldung ist leider nicht mehr möglich.

Gregor Betz (ITZ): Von künstlichen Sprechern zu künstlichen epistemischen Akteuren

OpenAI hat ein neuronales Netzwerk entworfen und trainiert, das man durchaus als kompetenten Sprecher der englischen Sprache bezeichnen kann. Die veröffentlichten Beispiele legen zudem nahe, dass das System zu einfachen schlussfolgernden Überlegungen fähig ist. Welche Eigenschaften würden dieses KI-System zu einem epistemischen Akteur machen?

Oliver Grothe (IOR): Gute Entscheidungen, oder schlechte? Die (wichtige) Rolle von Verlustfunktionen und Metriken beim Trainieren und Evaluieren von Maschinen.

In meinem Beitrag geht es um die Evaluation von Maschinenentscheidungen, also rund um Loss-Funktionen. Das Thema hat mehrere Aspekte: Spezielle Eigenschaften von Loss-Funktionen, Kompatibilität der beim Trainieren und Evaluieren verwendeten Loss-Funktionen sowie Kommunikation einer Loss-Funktion (Beispiel: Trivialerweise hohe Spezifizität bei seltenen Ereignissen) an die Menschen.

Veit Hagenmeyer (IAI): Überlegungen zur Zuverlässigkeit von Informatik-Modellen

Der Informatiker Bernd Mahr hat ein Modell des Modellseins entworfen, das Diskussionsgrundlage einer gemeinsamen Arbeit von Armin Grunwald, Ines Langemeyer (beide KIT), Kollegen der Universität Münster aus der geisteswissenschaftlichen Fakultät und mir zu einer Modellkritik darstellt. Dieses Modell des Modellseins wird kurz vorgestellt, um dann zu diskutieren, welcher Modellbegriff für Modelle der KI gelten kann. Insofern ist dann offen zu fragen, wie es um die Zuverlässigkeit von Informatik-Modellen bestellt ist bzw. was ihren Geltungsbereich konstituiert.

Peter Königs (ITZ): Massenüberwachung mittels künstlicher Intelligenz

Bedingt durch technologischen Fortschritt hat in jüngster Zeit in vielen Lebensbereichen ein Ausbau von Überwachungsmaßnahmen stattgefunden. Ausgewertet werden diesen Daten immer häufiger nicht von Menschen, sondern von intelligenten Algorithmen. Forschungsfrage ist, wie die KI-getriebene Überwachung ethisch zu bewerten ist, insbesondere ob KI-getriebene Überwachung die Privatsphäre der Überwachten in höheren Maße bewahrt als übliche Formen der Überwachung.

Anne Koziolek (IPD): KI-Komponenten in software-intensiven technischen Systemen: Herausforderungen für Entwurf und Qualitätssicherung

Carsten Orwat (ITAS): Diskriminierungsrisiken durch Verwendung von Algorithmen - Eine kurze Einführung

Algorithmen werden zunehmend bei Entscheidungen verwendet, die die Lebensführung und freie Persönlichkeitsentfaltung von Menschen betreffen. Sie umfassen nicht nur differenzierte Entgelte für Produkte und Dienste oder Kreditentscheidungen, sondern z.B. auch Personaleinstellungen, Bestimmung von Strafmaßen, Polizeieinsätzen oder Sozialleistungen. Anhand von Beispielfällen tatsächlicher und potentieller Diskriminierungen, bei denen Algorithmen und künstliche Intelligenz eine maßgebliche Rolle spielen, werden Problematik und Fragestellungen eingeführt.

Michael Schefczyk (ITZ): KI und das Problem statistischer Diskriminierung

Ali Sunyaev (AIFB): Der transformative Beitrag der Blockchain-Technologie

Our research takes a holistic approach and tackles the combination of Distributed Ledger Technology (DLT) and Artificial Intelligence (AI) on various levels. From a technological perspective, we strive for deep insight into the technical requirements and processes that enable the exchange of data between users and AI providers via a DLT infrastructure to enable use of AI without the need to disclose sensitive user data. We investigate the use of DLT as a new kind of data sharing platform, where individuals and organizations can dynamically and transparently grant and revoke access to their personal data for services, which make use of AI. Our research fosters the understanding of why and under what circumstances individuals participate in data-driven research. On an organizational level, we investigate how organizations can effectively and efficiently account for varying data protection requirements and focus on the development of methods and approaches for deciding how to store and process certain types of data in DLT-based data sharing infrastructure. On a societal and economic level, we explore the benefits and drawbacks of the use of DLT as an enabler for an intermediary-free data exchange platform for AI.

Karsten Wendland (ITAS): RoboAdvisor - KI-basierte „Berater“ für finanzielle Transaktionen

Als RoboAdvisor werden KI-basierte Finanzdienstleistungen bezeichnet, die automatisiert Empfehlungen für Kunden aussprechen und im Kundenauftrag selbsttätig Finanztransaktionen durchführen können. Vorgestellt werden mehrere RoboAdvisor-Ansätze verschiedener Finanzdienstleister.