MOTRA-TM – Technologiemonitoring im Rahmen des Verbundprojektes „Monitoringsystem und Transferplattform Radikalisierung“
- Projektteam:
Büscher, Christian (Projektleitung); Alexandros Gazos, Miltos Ladikas, Tim Röller, Georg Plattner, Octavia Madeira, Constanze Scherz (bis 2023), Isabel Kusche (bis 2021), Julia Hahn (bis 2021)
- Förderung:
Bundesministerium für Bildung und Forschung über das Rahmenprogramm Forschung für die zivile Sicherheit
- Starttermin:
2019
- Endtermin:
2024
- Projektpartner:
Bundeskriminalamt, Wiesbaden; Berghof Foundation, Berlin; German Institute of Global and Area Studies (GIGA), Hamburg; Institut für Kommunikationswissenschaft und Medienforschung, LMU München; Kriminologische Zentralstelle Wiesbaden; Lehrstuhl für Kriminologie an der Universität Hamburg; Wissenschaftszentrum Berlin für Sozialforschung
- Forschungsgruppe:
Projektbeschreibung
Neue Technologien erweitern, insbesondere im Kontext der Digitalisierung, die Möglichkeiten, extremistisches Gedankengut zu verbreiten, können die Vernetzung extremistischer Akteure erleichtern und Radikalisierungsprozesse bis hin zu Gewalttaten fördern. Gleichzeitig schaffen sie aber auch für die Sicherheitsbehörden, die solche Gewalttaten verhindern wollen, neue Möglichkeiten der Kontrolle und Überwachung.
Der vom BMBF geförderte Forschungsverbund MOTRA zielt auf die Prävention und Bekämpfung gewaltaffiner Radikalisierung. Ziel des Gesamtvorhabens ist, Radikalisierungsprozesse zu analysieren, staatliche und nichtstaatliche Akteure miteinander zu vernetzen und die praktische Präventionsarbeit in Deutschland zu stärken.
In diesem Rahmen hat das vom ITAS verantwortete Teilprojekt Technologiemonitoring das Ziel, Entwicklungspotenziale und -trends neuer Technologien im Hinblick auf gewaltaffine Radikalisierungsprozesse und deren Bekämpfung abzuschätzen. Zum einen geht es darum, die Identifikation und Einordnung neuer Technologien zu erleichtern, die solche Radikalisierungsprozesse befeuern oder eindämmen können. Zum anderen werden sowohl Folgen extremistischer Vernetzung für Schutzgüter als auch gesellschaftliche Nebenfolgen und ethische Aspekte von technologiebasierten Präventionsmöglichkeiten in den Blick genommen.
Die Dimensionen des Technologiemonitorings analysiert das Projekt als Konstellation von System-Umwelt-Beziehungen, in der staatliche und nichtstaatliche Akteure mit unterschiedlichen Problemen umgehen müssen und dabei gegebenenfalls auf Technologien zurückgreifen.
Für die Sicherheitsbehörden ist das Problem der Beobachtung sich radikalisierender Akteure zentral, um extremistische Radikalisierungen und Gewalttaten verhindern zu können. Mögliche Lösungen dieses Problems werfen hinsichtlich gesamtgesellschaftlicher Folgen aber schnell rechtliche und ethische Fragen auf, nicht zuletzt, weil Radikalisierung nicht automatisch in Extremismus und Gewaltbereitschaft mündet.
Für extremistische Akteure ist das Problem des Schutzes von Kommunikation vor Beobachtung zentral. Im Falle der Verbreitung extremistischen Gedankenguts geht es ihnen darum, ihre Identität vor Entdeckung zu schützen, im Falle einer gemeinschaftlichen Planung von Gewalttaten darüber hinaus auch den Inhalt ihrer Kommunikation. Sofern solchen Akteuren, gegebenenfalls gestützt auf Technologien, Angriffe auf vulnerable Schutzgüter gelingen, können ihre Aktivitäten massive gesamtgesellschaftliche Folgen haben.
Diese Konzeption der Akteurskonstellation erlaubt es, für das Technologiemonitoring Anleihen bei der Innovationsforschung zu machen und in einem ersten Schritt Bedarfe der verschiedenen Akteure zu identifizieren, auf die neue Technologien möglicherweise eine Antwort bieten. Dabei werden verschiedene Grade von Neuheit unterschieden, die vom nicht-bestimmungsgemäßen Gebrauch einer vorhandenen Technologie über die Rekombination mehrerer Technologen bis hin zu genuin neuen Technologien reichen. Auf dieser Grundlage und unter Verwendung verschiedener Wissensquellen (Literatur, Internetdokumente, Datenbestände und Forschungsergebnisse anderer Partner des Verbundprojektes, Expertengespräche und -workshops) wird das Projekt Relevanzkriterien und Bewertungsschemata entwickeln, um ein Monitoring relevanter Technologien umzusetzen.
Projekt-Website: https://www.motra.info
Publikationen
Organising AI for safety: Identifying structural vulnerabilities to guide the design of AI-enhanced socio-technical systems
2025. Safety Science, 184, 106731. doi:10.1016/j.ssci.2024.106731
New and emerging perspectives for technology assessment: Malevolent creativity and civil security
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (2), 9–15. doi:10.14512/tatup.33.2.09
Malevolent creativity and civil security: The ambivalence of emergent technologies
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (2), 8–54. doi:10.14512/tatup.33.2.08
Technologiemonitoring: „Haltlose Komplexität“ - Die Möglichkeiten und Grenzen des Assessments neuer und aufkommender Technologien zur Prävention von Extremismus und terroristischer Gewalt
2024. Monitoringsystem und Transferplattform Radikalisierung: "Transformationen von Extremismus und Intoleranz in Deutschland und Europa" (MOTRA-K 2024), Wiesbaden, Deutschland, 7.–8. März 2024
Resilience is not futile. Wie kann den Herausforderungen durch malevolenten Technologieeinsatz demokratisch begegnet werden?
2024. Monitoringsystem und Transferplattform Radikalisierung: "Transformationen von Extremismus und Intoleranz in Deutschland und Europa" (MOTRA-K 2024), Wiesbaden, Deutschland, 7.–8. März 2024
Künstliche Intelligenz und Extremismus
2024. Fachgespräch "Künstliche Intelligenz, Radikalisierung und Prävention", Bundesarbeitsgemeinschaft religiös begründeter Extremismus Kompetenznetzwerk „Islamistischer Extremismus“ (2024), Online, 10. September 2024
Impuls #13: KI und Islamismus – Künstliche Intelligenz und ihr malevolenter Einsatz am Beispiel islamistischer Akteur*innen
2024. Violence Prevention Network
Technologiemonitoring: Das Potenzial von Metaverse und KI für extremistische Verwendungszwecke
2023. MOTRA-Monitor 2022. Hrsg.: U. Kemmesies, 226–252, Monitoringsystem und Transferplattform Radikalisierung (MOTRA)
MOTRA-Monitor 2022
2023. Monitoringsystem und Transferplattform Radikalisierung (MOTRA). doi:10.53168/ISBN.978-3-9818469-6-6_2023_MOTRA
Die soziomaterielle Konstitution von Cybersicherheit in der Dynamik kritischer Informationsinfrastrukturen
2023. Polarisierte Welten : Verhandlungen des 41. Kongresses der Deutschen Gesellschaft für Soziologie 2022. Hrsg.: P.-I. Villa
Aktuelle Befunde aus dem Technologiemonitoring – Extremismus und Radikalisierung imMetaverse. MOTRA-Spotlight 08/23
2023. Monitoringsystem und Transferplattform Radikalisierung (MOTRA)
Critical Infrastructure Resilience and the anticipatory Control of Circulations
2023. STS-Hub.de (2023), Aachen, Deutschland, 15.–17. März 2023
OK Google, zeig mir Propaganda! KI als Game Changer für Extremismus und Radikalisierung?
2023. technik.kontrovers "Technik EXTREM" (2023), Karlsruhe, Deutschland, 3. Mai 2023
KI - Fluch oder Segen?
2023. KI : Fluch oder Segen (2023), Online, 7. Dezember 2023
Ok Google, zeig mir Propaganda: KI als Tool lfür Radikalisierung und Prävention
2023, September 5. 2. Wissenschaftskonferenz - Meinungsbildung 2.0 - Strategien im Ringen um Deutungshoheit im digitalen Zeitalter (2023), Berlin, Deutschland, 5.–6. September 2023
Trends der zukünftigen Technologienutzung im Kontext von Extremismus und Terrorismus: erste Erkenntnisse aus dem MOTRA-Technologiemonitoring
2022. Kemmesies, Uwe; Wetzels, Peter; Austin, Beatrix; Büscher, Christian; Dessecker, Axel; Grande, Edgar; Rieger, Diana (Hg.): MOTRA-Monitor 2021, 248–281, Monitoringsystem und Transferplattform Radikalisierung (MOTRA). doi:10.53168/isbn.978-3-9818469-4-2_2022_MOTRA
Die soziomaterielle Konstitution von Cybersicherheit in der Dynamik kritischer Informationsinfrastrukturen
2022, September 28. Deutsche Gesellschaft für Soziologie / Polarisierte Welten (DGS 2022), Bielefeld, Deutschland, 26.–30. September 2022
Metaverse - New Freedom or Breeding Ground for Extremism?
2022. 14th The Future of Terrorism and Terrorism Research : 14th Annual International Conference (2022), Coventry, Vereinigtes Königreich, 8.–9. September 2022
Metaverse - neue Freiheit oder Nährboden für Extremismus?
2022. MOTRA-K (2022), Wiesbaden, Deutschland, 1. September 2022
MOTRA-Technologiemonitoring
2021. MOTRA-Monitor 2020. Hrsg.: U. Kemmesies, 188–204, Bundeskriminalamt – Forschungsstelle Terrorismus/Extremismus, Wiesbaden
MOTRA-Monitor 2020
2021. Bundeskriminalamt – Forschungsstelle Terrorismus/Extremismus, Wiesbaden. doi:10.53168/isbn.978-3-9818469-9-7_2021_MOTRA
Krisenfolgenabschätzung in der Sicherheitsforschung
2021. Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 30 (2), 67–68. doi:10.14512/tatup.30.2.67
Resilient Transformations of Critical Infrastructures in Crisis
2021. Transformation of Infrastructure Systems (2021), Online, 4.–5. November 2021
Technologiemonitoring: Eine Delphi-Studie zum zukünftigen Technologiegebrauch extremistischer Akteure
2021. MOTRA-K #2 - Jahreskonferenz des Forschungsverbundes Monitoringsystem und Transferplattform Radikalisierung (2021), Wiesbaden, Deutschland, 1. September 2021
Emerging Technologies and Terrorist Threats: A Monitoring Approach
2021. 15th Conference of the European Sociological Association (2021), Online, 31. August–3. September 2021
MOTRA-Technologiemonitoring : Eine Einführung
2020. MOTRA-K #1 - Jahreskonferenz des Forschungsverbundes Monitoringsystem und Transferplattform Radikalisierung (2020), Wiesbaden, Deutschland, 1. September 2020
Technologiemonitoring zur Prävention von Extremismus und terroristischer Gewalt
2020. 40. Kongress der Deutschen Gesellschaft für Soziologie (DGS-Kongress 2020), Online, 14.–24. September 2020
Kontakt
Karlsruher Institut für Technologie (KIT)
Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Postfach 3640
76021 Karlsruhe
Tel.: 0721 608-23181
E-Mail