Die Digitalisierung großer Bereiche der menschlichen Lebenswelt schreitet in schnellem Tempo voran. Sie führt nicht nur zu einem technischen und wirtschaftlichen, sondern auch zu sozialem Wandel. IT-Infrastrukturen sorgen dafür, dass unsere moderne Gesellschaft funktioniert. Vernetzte Informations- und Kommunikationstechnologien machen intelligente Stromnetze, neue medizinische Anwendungen und neue Formen der Arbeit möglich. Dahinter stecken Algorithmen und riesige Datenmengen, die genauso große Potenziale, wie auch gesellschaftliche Herausforderungen, z.B. an adäquate Regulierung, mit sich bringen.
Die Reichweite und Dynamik der digitalen Transformation spiegelt sich in vielen Projekten am ITAS. Forschende bearbeiten zum einen konzeptionelle Fragen, etwa zu Vertrauen und Risiko, Governance von und durch Algorithmen oder zur Ethik lernender Systeme. Zum anderen führen sie Analysen zur fortschreitenden Automatisierung und Digitalisierung der Gesellschaft anhand konkreter digitaler Technologien durch. Von besonderer Bedeutung ist die Frage, wie verantwortlich mit den Entwicklungen der Digitalisierung umgegangen werden kann.
Digitale Arbeit
Technische Fortschritte in der Robotik, Sensorik und in digitalen Verfahren verändern die Arbeitswelt grundlegend. Die digitale Transformation betrifft alle Qualifikationsstufen. Gleichzeitig entstehen neue Geschäftsfelder, für Digitalkonzerne, aber auch für Start-ups. Neben dem Wandel der industriellen Produktion untersucht das ITAS verstärkt Veränderungen im Dienstleistungsbereich: Im EU-Projekt Crowdwork 21 steht beispielsweise das Phänomen der Plattformarbeit, bei der Arbeitsaufgaben über das Netz verteilt werden, im Mittelpunkt. Hierbei werden nicht zuletzt auch Visionen für eine gelingende Gestaltung der digitalen Transformation der Arbeitswelt in den Blick genommen.
Governance und Algorithmen
Sei es bei Fragen der Vergabe von Krediten, Arbeitsstellen oder Studienplätzen, der Bemessung juristischer Strafen oder sogar bei der Identifizierung von Terroristen. Immer häufiger „sprechen“ Computersysteme bei Entscheidungen mit, die die Möglichkeiten der freien Persönlichkeitsentfaltung maßgeblich beeinflussen. Das ITAS untersucht Diskriminierungsrisiken durch Algorithmen und beschäftigt sich im Projekt GOAL mit Strukturen und Gestaltungsmöglichkeiten der Governance von Algorithmen, insbesondere im Hinblick auf Risiken für Grundrechte und weitere gesellschaftliche Werte.
Künstliche Intelligenz
Ein weiterer Forschungsschwerpunkt am ITAS sind lernende Systeme. Forschende untersuchen die zentrale Frage nach dem gesellschaftlichen Vertrauen in Technologien, die Künstliche Intelligenz einsetzen. So nahm das ITAS beispielsweise politische Optionen im Umgang mit Deepfakes – mittels KI manipulierte, aber realistisch wirkende Foto, Audio- und Videoaufnahmen – für das Europäische Parlament in den Blick. Darüber hinaus untersuchen die Forschenden auch gesellschaftliche Perspektiven auf Digitalisierung und den Einsatz von KI in Landwirtschaft und Bioökonomie, etwa im Projekt DESIRA. Auch vorherrschende Diskurse und gesellschaftliche Bedarfe sind Gegenstand der Forschung, wie zum Beispiel die Gestaltungsoptionen oder die Inklusion benachteiligter Gruppen.
(Un-)Sicherheit, Risiko und Politik
Sicherheit hat eine große Bedeutung für moderne Gesellschaften. Dennoch oder gerade deshalb müssen sie ständig mit Unsicherheit umgehen. Insbesondere die Politik kann bei ihren Entscheidungen oft nur auf unsicheres Wissen zurückgreifen. Das Projekt MOTRA analysiert exemplarisch, wie im Themenfeld der Extremismusprävention das Streben nach Sicherheit und das Entstehen neuer Unsicherheit miteinander verschränkt sind.
Expertinnen und Experten
- Digitale Arbeit:
Dr. Linda Nierling - Digitalisierung in der Landwirtschaft:
Dr. Christine Rösch - Governance von/durch Algorithmen:
Dr. Carsten Orwat - Künstliche Intelligenz:
Reinhard Heil - (Un-)Sicherheit, Risiko und Politik:
Dr. Christian Büscher
Weiterer Kontakt
Jonas Moosmüller
Presse- und Öffentlichkeitsarbeit
Tel.: +49 721 608-26796
E-Mail
Projekte zum Thema
- DESIRA - Ökonomische und soziale Auswirkungen der Digitalisierung im ländlichen Raum
- Diskriminierungsrisiken durch Algorithmen
- EU-Projekt Crowdwork
- Gesellschaftlichen Vertrauen in lernende Systeme
- Governance von und durch Algorithmen (GOAL)
- Graduiertenkolleg KATE (Accessibility through AI-based Assistive technology)
- MOTRA-TM – Technologiemonitoring im Rahmen des Verbundprojektes „Monitoringsystem und Transferplattform Radikalisierung
- Reallabor „Robotische Künstliche Intelligenz“
- Umgang mit Deepfakes im neuen KI-Rechtsrahmen
- Visionen und Best Practices für die digitale Transformation
Zur vollständigen Projektliste
Publikationen zum Thema
Organising AI for safety: Identifying structural vulnerabilities to guide the design of AI-enhanced socio-technical systems
2025. Safety Science, 184, 106731. doi:10.1016/j.ssci.2024.106731
Ask Me Anything! How ChatGPT Got Hyped Into Being
2024. Center for Open Science (COS). doi:10.31235/osf.io/jzde2
The trustification of AI. Disclosing the bridging pillars that tie trust and AI together
2024. Big Data & Society, 11 (2). doi:10.1177/20539517241249430
Demokratische Technikgestaltung in der Arbeitswelt
2024. WSI-Mitteilungen, 77 (1), 50–57. doi:10.5771/0342-300X-2024-1-50
Digital transformation of fruit farming in Germany: Digital tool development, stakeholder perceptions, adoption, and barriers
2024. NJAS: Impact in Agricultural and Life Sciences, 96, Article no: 2349544. doi:10.1080/27685241.2024.2349544
New and emerging perspectives for technology assessment: Malevolent creativity and civil security
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (2), 9–15. doi:10.14512/tatup.33.2.09
Malevolent creativity and civil security: The ambivalence of emergent technologies
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (2), 8–54. doi:10.14512/tatup.33.2.08
Structuring different manifestations of misinformation for better policy development using a decision tree‐based approach
2024. Policy & Internet. doi:10.1002/poi3.420
Künstliche Intelligenz außer Kontrolle?
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (1), 64–67. doi:10.14512/tatup.33.1.64
KI-Textgeneratoren als soziotechnisches Phänomen – Ansätze zur Folgenabschätzung und Regulierung
2024. KI:Text – Diskurse über KI-Textgeneratoren. Ed.: G. Schreiber, 341–354, De Gruyter. doi:10.1515/9783111351490-021
Algorithmische Differenzierung und Diskriminierung aus Sicht der Menschenwürde
2024. Künstliche Intelligenz und ethische Verantwortung. Hrsg.: M. Reder, 141–166, transcript Verlag. doi:10.14361/9783839469057-009
Normative Challenges of Risk Regulation of Artificial Intelligence
2024. NanoEthics, 18 (2), Art.-Nr.: 11. doi:10.1007/s11569-024-00454-9
What do algorithms explain? The issue of the goals and capabilities of Explainable Artificial Intelligence (XAI)
2024. Humanities and Social Sciences Communications, 11 (1), Art.-Nr.: 760. doi:10.1057/s41599-024-03277-x
Drawings for Insight on Preschoolers’ Perception of Robots
2024. Companion of the 2024 ACM/IEEE International Conference on Human-Robot Interaction, 920–924, Association for Computing Machinery (ACM). doi:10.1145/3610978.3640608
TA for human security: Aligning security cultures with human security in AI innovation
2024. TATuP - Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis, 33 (2), 16–21. doi:10.14512/tatup.33.2.16
Trust “in the field”: reflections on a real-world lab deploying social robots in childcare settings
2024. Proceedings of the SCRITA 2024 Workshop on Trust, Acceptance and Social Cues in Human-Robot Interaction at IEEE RO-MAN 2024, 26th-30th August 2024, Pasadena, Ca., CEUR-WS.org