Das Teilprojekt beschäftigt sich mit der Frage, ob KI sich in der Zukunft der Kontrolle entziehen könnte und dadurch ein existenzielles Risiko für die Menschheit darstellt. Der Diskurs zu dieser Befürchtung wird aufgearbeitet, indem die Argumente systematisiert und bewertet werden. Dabei werden die bedeutungsgebenden Narrative und Visionen berücksichtigt. Im Rahmen einer narrativen Literaturstudie wird die Literatur zum Themenfeld „Unkontrollierbare künstliche Intelligenz“ synthetisiert und analysiert. Auf Grundlage der Literaturstudie wird zur Erfassung eines möglichst detaillierten Meinungsbildes eine Delphi-Befragung durchgeführt. Zusätzlich werden qualitative Interviews mit Expertinnen und Experten geführt, die dazu dienen, die Ergebnisse der Delphi-Befragung und der Literaturstudie in Bezug auf den deutschen Kontext zu bewerten und weiter zu konkretisieren.

Das Teilprojekt „Unkontrollierbare künstliche Intelligenz“ gehört zum zweiteiligen, interdisziplinären Projekt „Systemische und existenzielle Risiken der KI“. Ziel dieses Projekts ist es, Wissen aus unterschiedlichen disziplinären Bereichen zusammenzuführen, um fundierte Einschätzungen und Empfehlungen zu ermöglichen. Neben den eigenen Forschungen sollen dazu auch externe Gutachten zu spezifischen Fragestellungen vergeben werden.

Im Gegensatz zu den unmittelbaren Folgen von KI für betroffene Einzelpersonen oder Unternehmen liegen zu möglichen systemischen oder existenziellen Risiken der KI bisher keine konsistenten Bewertungs- und Handlungsansätze vor. Es gibt jedoch gerade in jüngster Zeit konkrete Hinweise auf systemische Risiken, beispielsweise durch die Folgen von generativer KI für die Gesellschaft. Weiterhin wird von den Medien und unterschiedlichen Akteuren aus dem Feld der KI auch auf existenzielle Risiken für die gesamte Menschheit hingewiesen, die mit der ungebremsten Fortentwicklung von KI einhergehen könnten. Für die erfolgreiche und gesellschaftlich akzeptable Implementierung von KI-Technologien und damit letztendlich für deren wirtschaftlichen Erfolg ist die frühzeitige Berücksichtigung möglicher Risiken und Befürchtungen unerlässlich.

Tel.: 0721 608-26815
E-Mail