Normative Herausforderungen

Projekttitel: Normative Herausforderungen

Projektdauer: 04/2021 – heute

Forschungsbereich: Verantwortungsvolle KI

Das Forschungsprojekt konzentriert sich auf zentrale normative Herausforderungen, die sich aus dem Einsatz von KI-Technologien im sozialen Bereich ergeben. Im Mittelpunkt stehen dabei sowohl kritische Risiken als auch potenzielle Vorteile, denen der demokratische Diskurs und seine verfassungsrechtlichen Voraussetzungen im Zusammenhang mit dem Einsatz von KI-Technologien in der sozialen Kommunikationspraxis ausgesetzt sind. Darüber hinaus werden die rechtlichen Rahmenbedingungen für den Einsatz von KI in der öffentlichen Verwaltung untersucht.

Ziele

Der Einsatz von KI durch Online-Plattformen wird aus rechtlicher Sicht analysiert. Auf dieser Grundlage lassen sich regulatorische Maßnahmen formulieren und aktuelle Gesetzgebungsvorhaben – wie beispielsweise der Digital Services Act oder der AI Act – begleiten.

Im Hinblick auf den Einsatz von KI in der öffentlichen Verwaltung – z. B. zur Kommunikation mit Bürgern, zur Vorbereitung oder Fassung von Entscheidungen oder zur Rechtsdurchsetzung – besteht das Ziel darin, mögliche Anwendungsbereiche zu identifizieren und den entsprechenden rechtlichen Rahmen auszuarbeiten.

Problemstellung

KI-basierte Lösungen werden zunehmend eingesetzt, um die schiere Menge an nutzergenerierten Inhalten auf Online-Plattformen zu bewältigen. Während KI den demokratischen Diskurs durch die Strukturierung von Inhalten und die effizientere Bekämpfung schädlicher Äußerungen fördern kann, führen private Kontrolle und technische Einschränkungen zu Risiken wie Intransparenz, übermäßiger Sperrung und Diskriminierung. Dies führt zu komplexen rechtlichen Konflikten, die durch die Vielzahl der Akteure und Interessen noch weiter verkompliziert werden.

Im Bereich der öffentlichen Verwaltung stellen sich Fragen zu Grundrechten und verfassungsrechtlichen Grundsätzen wie Demokratie und Rechtsstaatlichkeit, insbesondere im Zusammenhang mit automatisierten Entscheidungsprozessen. Eine damit verbundene Frage ist, wie KI-spezifische Probleme rechtlich angegangen werden können. Ein Beispiel hierfür ist die begrenzte Erklärbarkeit von KI, die die gerichtliche Überprüfung und einen wirksamen Rechtsschutz erschwert.

Ausblick

Ein Beitrag des Projektleiters zum Thema „Der öffentliche Dienst und künstliche Intelligenz“ mit vergleichenden Verweisen auf das europäische Recht und andere nationale Rechtssysteme wird als Teil eines internationalen Handbuchs zum öffentlichen Dienst in Europa veröffentlicht. Eine weitere Veröffentlichung ist zum Thema der Bedeutung der Rechtsstaatlichkeit im Zusammenhang mit dem Einsatz von KI in der öffentlichen Verwaltung geplant. Darüber hinaus werden in absehbarer Zeit zwei Promotionsvorhaben abgeschlossen. Das eine befasst sich mit der grundrechtlichen Einordnung der Moderation von Hassreden im Internet unter besonderer Berücksichtigung des Einsatzes KI-gestützter Tools. Das andere konzentriert sich auf den Einfluss von Social Bots auf den öffentlichen Diskurs.

Publikationen

• Stephanie Schiedermair: The Civil Service and Artificial Intelligence. In Karl-Peter Sommermann, Adam Krzywoń, Cristina Fraenkel-Haeberle (eds.), The Handbook of Civil Service in Europe (forthcoming).
• Stephanie Schiedermair, Johannes Weil: Zwischen Effizienz und Kontrollverlust: Der Einsatz von Künstlicher Intelligenz durch die Verwaltung im Spiegel des Rechts. In Bundesamt für die Sicherheit der nuklearen Entsorgung (ed.): Quo Vadis Künstliche Intelligenz in der nuklearen Entsorgung?| 2023 (Link: https://www.base.bund.de/SharedDocs/Downloads/BASE/DE/broschueren/bfe/ki-endlagersuche-broschuere.pdf).
• Stephanie Schiedermair, Johannes Weil: Online-Intermediäre als Träger der Meinungsfreiheit – Eine Betrachtung der deutschen, europäischen und amerikanischen Judikatur zum Content Management von Webplattformen. Die Öffentliche Verwaltung – Zeitschrift für Öffentliches Recht und Verwaltungswissenschaften| 08, 2022, April, 305-313.
• Amelie Röhling, Johannes Weil: „Marg bar Khamenei“: Art. 14(4) DSA in light of Iranian Online Protest. VerfBlog| 2023, February 10.17176/20230204-113045-0 (Link: https://verfassungsblog.de/marg-bar-khamenei).
• Amelie Röhling, Johannes Weil: Die Grenzen privater Normsetzung durch soziale Netzwerke: Zur Drittwirkung der Unionsgrundrechte bei Community Standards am Beispiel von Hate Speech. In Simon Schrör, Alexandra Keiner, Ferdinand Müller, and Pablo Schumacher (eds.): Entscheidungsträger im Internet| 2022, 151-180 10.5771/9783748934981-151 (Link: https://doi.org/10.5771/9783748934981-151).

Team

Teamleitung

• Prof. Dr. Stephanie Schiedermair

Teammitglieder

• Johannes Weil