Rückblick: Themenwoche „Karlsruhe – Roboterhauptstadt?“

Roboter haben bereits Einzug in unser Leben gehalten, als Lieferdrohnen, in der Bibliothek, im Museum oder in der Industrie 4.0. Zukünftig könnten sie unseren Alltag jedoch noch viel mehr bestimmen und uns an verschiedenen Stellen des öffentlichen Lebens begegnen: im Park, auf dem Markt oder beim Bäcker, beim Arzt, im Pflegeheim, oder bei uns zuhause. Doch in welchen Lebensbereichen wollen Bürgerinnen und Bürger Robotern überhaupt begegnen? Wie sollen uns Roboter unterstützen und wie nicht? Was sollen Roboter können? Was nicht? Und wie sollen Robotern in verschiedenen Lebensbereichen aussehen?

Mit diesen Fragen beschäftigten sich insgesamt knapp über 100 Bürgerinnen und Bürger unterschiedlicher Altersgruppen bei drei vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) organisierten Veranstaltungen. Gemeinsam nahmen Bürgerinnen und Bürgern bei zwei Workshops und einer interaktiven Ausstellung vielfältige Chancen und Herausforderungen rund um den Einsatz von Robotern und verschiedene Entwicklungsziele in den Blick. Ort des Geschehens waren die Räumlichkeiten der „TRIANGEL“ am Kronenplatz, und des „Karl 9 – Wissenschaftslokals für Technik und Gesellschaft“ des ITAS.

Workshop „Wie wollen wir mit Robotern in Karlsruhe leben?“

Am Abend des 21. November wurden gleich zu Beginn die Anwesenden von Nora Weinberger, der Leiterin des Organisationsteams der Themenwoche, und von Tamim Asfour, Professor am Institut für Anthropomatik und Robotik (IAR), begrüßt. Bevor es in den intensiven Austausch ging, stellte Konsortialführer und Robotikforscher Asfour das Projekt „Reallabor Robotische KI“ vor. Dieses war Ausgangspunkt für den ersten Workshop. Im Anschluss daran bildeten die Bürgerinnen und Bürger eine „Lebendige Statistik“. Pascal Vetter stellte unterschiedliche Statements und Fragen vor und bat die Anwesenden darum, sich entsprechend ihrer Einschätzung im Raum zu positionieren. Beispielsweise wurde gefragt, welche Vorteile sich durch den Einsatz von Robotern zukünftig ergeben. Die Bürgerinnen und Bürger verorteten sich dann entlang der folgenden Antworten: Roboter übernimmt lästige Routineaufgaben – Roboter machen weniger Fehler– Roboter übernimmt körperlich anstrengende oder gefährliche Tätigkeiten – Roboter übernimmt Fürsorge- und Pflegeaufgaben.

Nach einer kurzen Einführung in den Ablauf von Nora Weinberger ging es das erste Mal an vier Diskussionstische zu den Lebensbereichen (i) Stadtleben (Ladengeschäfte, Markplatz, Park, etc.), (ii) Kultur (z.B. Museum, Theater, Kino), (iii) Bildung (Kindergarten, Schule, Ausbildung, Studium) und (iv) Gesundheit (Krankenhaus, Arztpraxis, im eigenen Zuhause). In allen vier Gruppen sollten die folgenden Fragen diskutiert werden:

• Bei welchen Aufgaben soll uns ein Roboter unterstützen? In welchen Situationen wollen wir Robotern begegnen?
• Was darf der Roboter in diesen Situationen?
• Gibt es Bereiche, wo ein Roboter nicht eingesetzt werden sollte?
• Welche Beziehung wollen wir zum Roboter aufbauen?

Nach einer Pause, bei der sich die Bürgerinnen und Bürger mit Getränken und Finger Food stärken konnten, ging es in den zweiten Teil des Abends. Tamim Asfour stellte den Entwicklungsstand des an seinem Institut entwickelten Roboters ARMAR vor. Im Anschluss sammelten die Teilnehmenden Ideen zur konkreten Gestaltung von humanoiden Robotern in denselben Gruppen. So sollten die Bürgerinnen und Bürger ausgehend von den folgenden Fragen ihre(n) Wunschroboter für den jeweiligen Lebensbereich entwerfen:

• Was soll der Roboter (technisch) können? Was soll der Roboter nicht können? 
• Wie soll der Roboter bei welcher Unterstützung aussehen?
• Denken Sie dabei an die Beziehung, die sie jeweils zu dem Roboter haben wollen! Hängt davon das Aussehen/Design des Roboters ab? 

Zum Schluss des Abends wurden die Diskutantinnen und Diskutanten gebeten, ihre Gedanken aus den beiden Diskussionsrunden im Plenum vorzustellen. Die Ergebnisse wurden live von dem Illustrator Jens Hahn dokumentiert. Währenddessen konnten die Teilnehmenden aus den anderen Gruppen nachfragen, ergänzen und die Ergebnisse der jeweils anderen Gruppen diskutieren.

Im Zuge der Diskussionen wurden ganz unterschiedliche Aufgaben angedacht, die Roboter zukünftig übernehmen könnten, zum Beispiel: Roboter als Touristenführer, der alle Sprachen spricht, Roboter als Kulturschaffender, Roboter als Taxifahrer, Roboter, die im Krankenhaus Essen und Medikamente bringen und Patientinnen zu verschiedenen Untersuchungen fahren, Roboter, die im Unterricht Lehrer unterstützen zum Beispiel bei Demonstrationen im Physikunterricht, Roboter, die gebrechliche/ältere Personen sicher durch die Stadt begleiten uvm.

Die Teilnehmenden diskutierten auch ganz klar, dass es ihrer Ansicht nach Aufgaben gebe, die ein Roboter niemals übernehmen sollte. Hier seien nur einige Beispiele angeführt: Roboter als Standesbeamte, Roboter als Trauerredner, Roboter, die schlechte Diagnosen überbringen, Roboter, die Religionsunterricht übernehmen. Außerdem dürften Roboter nie die finale Entscheidung bei ethischen, moralischen oder juristischen Überlegungen treffen, wie zum Beispiel die finale Therapieentscheidung bei Patientinnen und Patienten oder ein Urteil in einem Prozess fällen.

Beim Aussehen bzw. dem Design der Roboter waren sich alle Teilnehmenden unmittelbar einig, dass – ganz unabhängig vom Lebensbereich oder Einsatzgebiet – Roboter klar als Maschinen erkennbar sein müssten. Ansonsten spiele das Aussehen für die teilnehmenden Bürger*innen keine entscheidende Rolle: das Design folge der Funktion („design follows function“).

Workshop „Mein Roboter – Meine Pflegekraft?“

Am Abend des 23. November fand der zweite Workshop mit Bürgerinnen und Bürgern statt. Nach einer kurzen Begrüßung und der Vorstellung des Projekts „Jung bleiben mit Robotern“ durch Nora Weinberger, ging es um die Vision(en) zu robotergestützter Pflege aus Sicht der Bürgerinnen und Bürger. Zu Beginn bildeten die Bürgerinnen und Bürger auch an diesem Abend eine „Lebendige Statistik“. Kai Soedibjo stellte unterschiedliche Statements und Fragen vor und bat die Anwesenden darum, sich entsprechend ihrer Einschätzung im Raum zu positionieren. Beispielsweise wurde gefragt: Werden Roboter in der Pflege der Zukunft eine Rolle spielen? Die Teilnehmenden stellten sich dann entlang der folgenden Positionen im Raum auf: Auf jeden Fall – Nur in bestimmten Bereichen – Eher nein – Wird viel drüber geredet, wird aber nie Wirklichkeit werden. Danach wurde das Plenum gefragt, was für sie gute Pflege beinhaltet. Hier wurden u.a. folgende Stichworte genannt: individuell, selbstbestimmt, barrierefrei, anregend, Rausgehen, Hilfe zur Selbsthilfe, Gesundheitszustand erhalten/verbessern, empathisch, räumlich abgestimmt, jemand der mich aufbaut, Universalgenie, Schutz, Zuhörer*in, Gesprächspartner*in, Zeitmanager*in, Schnittstelle zu „Neuen Medien“.

Nach einer kurzen Einführung in den Ablauf von Nora Weinberger ging es dann an vier Diskussionstische. Hierzu zogen die Teilnehmende Lose mit „Pro“ und „Kontra“. In der anschließenden Gruppenrunde hatten die Bürgerinnen und Bürger die Aufgabe, entweder eine dezidiert positive oder eine dezidiert negative Einstellung zu Robotern einzunehmen, um die Kernargumente der jeweiligen Positionen herauszuarbeiten, auch wenn sich die Bürger*innen selbst nicht dieser spezifischen Position zuordnen würden. So sollten die Teilnehmenden der beiden Pro-Gruppen folgende Fragen diskutieren:

• Was sind die Chancen von Robotern in der Pflege von älteren Menschen?
• Was sollen Roboter können?
• Wie sollen Roboter aussehen?

Die beiden Kontra-Gruppen verhandelten hingegen die ‚Gegenfragen‘:

• Was befürchten Sie, wenn Roboter zur Pflege von älteren Menschen eingesetzt werden?
• Was sollen Roboter auf gar keinen Fall können?
• Wie sollen Roboter auf gar keinen Fall aussehen?

Anschließend wurden die Gesprächsteilnehmer gebeten, ihre Gedanken zu den jeweiligen Positionen zu notieren und nach einer kleinen Stärkung mit Finger Food im Plenum vorzustellen. Wie beim ersten Bürger*innenworkshop wurden die Ergebnispräsentation live von einem Visual Recorder, dem Business Illustrator Jens Hahn, dokumentiert. Unterdessen konnten die Teilnehmenden aus den anderen Gruppen nachfragen, ergänzen und die Ergebnisse der jeweils anderen Gruppen diskutieren.

Auf dieser Grundlage wurde eine Fülle an möglichen Entwicklungszielen für Entwickler von robotischer Künstlicher Intelligenz erarbeitet und Grenzen der Entwicklung als von den Teilnehmenden nicht akzeptierte Einsatzbereiche und abgelehnte Designs von Robotern identifiziert. So waren sich auch im Bereich der Pflege die Teilnehmenden sofort einig, dass Roboter nicht bedrohlich aussehen dürften und klar als Maschinen erkennbar sein müssten, besonders bspw. für Menschen mit Seheinschränkungen, Menschen mit Demenz, Menschen mit Autismus. Außerdem äußerten die Bürgerinnen und Bürger die Sorge, dass die Maschine den Menschen dominieren könnte – wobei diese Befürchtung nicht pflegespezifisch sei. Zudem wurde über Haftungsfragen („Notfallaus“) und Schutz von besonders sensiblen gesundheits- und körperbezogenen Daten diskutiert. Wichtig erschien den Diskutierenden auch die Finanzierungsfrage: zwar könnten Roboter zukünftig in Serie und damit günstiger produziert werden, doch wäre der Roboter eine Krankenkassenleistung? Und wenn nicht, würde es dann nicht zu einer Dreiklassengesellschaft im Gesundheitssystem kommen? Doch trotz einiger Bedenken wurden Robotern durchaus Potentiale zur Erfüllung der zuvor von den Teilnehmenden geäußerten Erwartungen an eine gute Pflege zugeschrieben: Roboter könnten den Zupflegenden in jeder Situation Schutz bieten, gut zuhören und ein dazulernender adaptiver Gesprächspartner sein. Roboter könnten Notsituationen schneller erkennen und lösen, könnten für den Erhalt des Gesundheitszustands durch Ansprache und durch gemeinsame Spaziergänge usw. sorgen, Roboter könnten alle Routineaufgaben übernehmen (Essen und Medikamente bringen bzw. an das Nehmen von Medikamenten oder das regelmäßige Trinken erinnern). Roboter könnten Einsamkeit reduzieren. Zudem konnten sich die Bürger*innen vorstellen, dass Roboter eine Schnittstelle zu den „Neuen Medien“ sein werden. Außerdem könnten nach Ansicht der Teilnehmenden Roboter eine individuelle Pflege ermöglichen, die heutzutage durch den Pflegekräftemangel nicht möglich wäre. Jede zu pflegende Person hätte die robotische Pflegekraft, die sie will, ausgestattet mit den individuellen Pflegealgorithmen, die sich die- oder derjenige wünscht – vorausgesetzt, die Roboter wären bezahlbar oder würden von den Krankenkassen bezahlt. Hierdurch könnte auch ein selbstbestimmtes Leben im eigenen Zuhause länger ermöglicht werden.

Interaktive Ausstellung „Roboterzukünfte - zwischen Fiktion und Realität“

Am 25. November 2023 wurden im „Karl9 – Wissenschaftslokal für Technik und Gesellschaft“ des ITAS aktuelle Roboterentwicklungen und Visionen von robotischer künstlicher Intelligenz ausgestellt. Von 10:00 bis 17:00 Uhr konnten sich die Bürgerinnen und Bürger an verschiedenen Stationen informieren, sie waren aber auch zum Mitmachen eingeladen. Maria Maia (ITAS-Koordinatorin Projekt „Jung bleiben mit Robotern“) und Kai Soedibjo vom ITAS begrüßten die Besucher und erklärten die einzelnen Stationen.

Was tun wir Forschende: An einer Station konnte sich die Besucherinnen und Besucher ein Bild von den Zielen der vom Institut für Anthropomatik und Robotik zusammen mit ITAS und vielen anderen Partnern aus Wissenschaft und Praxis durchgeführten Projekte „Reallabor Robotische KI“ und „Jung bleiben mit Robotern“ machen. Außerdem wurden erste Ergebnisse aus den Projekten vorgestellt. Daneben wurde an einer Station der Stand der Technik des von Tamim Asfour und seinem Team am IAR entwickelten Roboter ARMAR und von anderen humanoiden Robotern in verschiedenen Videos und einer Diashow präsentiert.

KI-Bilder zum Nachdenken: Im Raum verteilt hingen ca. 20 von Ralf Schneider mithilfe des KI-Tools MIdjourney erzeugte Bilder, die Szenarien, wie unsere Zukunft mit Robotern aussehen könnte, zeigen.

Die Besucherinnen und Besucher konnten online über einen QR Code und Mentimeter oder offline über ausliegende Bewertungszettel diese Bilder beurteilen und ausdrücken, was sie über die Bilder denken.

Klicker: An dieser Station hingen 16 Statements/Fragen von der Decke (wie beispielsweise: „Ich sehe eine Zukunft, in der Roboter eine wichtige Rolle in unserer Gesellschaft spielen, indem sie verschiedene alltägliche Tätigkeiten übernehmen.“ oder „Roboter sollten nur dann in unsere Gesellschaft integriert werden, wenn sie Aufgaben übernehmen, bei denen es einen menschlichen Kontakt gibt. So können wir den Roboter kontrollieren.“). Wenn die Besucherinnen und Besucher mit der Aussage einverstanden waren, konnte sie über einen Klicker ihre Stimme abgeben.

Male deinen Wunschroboter: An zwei Stationen konnten sowohl Erwachsene als auch Kinder zeichnen, wie ihrer Meinung nach Roboter in der Zukunft aussehen sollen. Die Erwachsenen durften zudem beschreiben, welche Funktionen der Roboter haben soll.

Zukünftige Einsatzbereiche von Robotern: Über den Bing Image Creator, mit dem man mithilfe künstlicher Intelligenz ganz einfach Bilder generieren kann, konnten Besucher Situationen erstellen, bei denen sie sich einen Einsatz/eine Unterstützung durch einen Roboter vorstellen können. Dabei sollten sie an eine bestimmte Aufgabe denken und in die Eingabezeile zum Beispiel folgende Beschreibung eingeben: „Roboter, humanoid, weiß, nett aussehend, hilft beim Einkaufen und schiebt einen Einkaufswagen“.

Welcher „Robotertyp“ bin ich: Nach einem kurzen Test zur Technikaffinität über einen Fragebogen sollten die Besucher an dieser Station eine Ballfarbe auswählen, je nachdem wie technikaffin sie sind (Ball in Grün = ich bin von Technik begeistert, Gelb = neutral, Rot = Ich nutze Technik, weil ich es muss). Danach sollten sich die Besucher auf einem Whiteboard entsprechend ihrer Meinung in einem Koordinatensystem einordnen und ihren Ball platzieren (Achsenpaare: Ich bin für Roboter – Ich bin gegen Roboter; Ich sehe keinen Nutzen – Ich finde sie sinnvoll).

Spezieller Dank geht an Prof. Dr. Tamim Asfour (IAR) und Martha Loewe (WIPO) für die Unterstützung und das Engagement beim Workshop sowie Dr. Bettina Barisch-Fritz (IfSS) für die Unterstützung bei der Ausstellung. Außerdem ein Dankeschön an die Kolleginnen und Kollegen vom ITAS Claudia Brändle, Meike Hebich und Jonas Moosmüller für die großartige Unterstützung sowie an Ralf Schneider für die tollen MIdjourney-Bilder, die ein echter Besuchermagnet waren. Außerdem danken wir den vielen Projektpartnerinnen und -partnern aus Wissenschaft und Praxis (Reallabor Robotische KI (Gesamtprojekt) und Jung bleiben mit Robotern (Gesamtprojekt))für die gemeinsame Forschung.

Das Organisationsteam:

Nora Weinberger¹, Maria João Maia¹, Pascal Vetter², Jérémy Lefint¹, Kai Soedibjo¹

¹Forscher*innen der Forschungsgruppe „Gesundheit und Technisierung des Lebens“

²Forscher der Forschungsgruppe „Digitale Technologien und gesellschaftlicher Wandel“

Das Projekt „Reallabor Robotische KI“ wird durch das Ministerium für Wissenschaft, Forschung und Kunst Baden-Württemberg (MWK) gefördert und das Projekt „Jung bleiben mit Robotern“ von der Carl-Zeiss-Stiftung.