Big-Data- und KI-Technologien gewinnen sowohl im Leben des Einzelnen als auch in der Gesellschaft zunehmend an Bedeutung. Die Allgegenwärtigkeit dieser Technologien birgt jedoch zahlreiche Unsicherheiten und offene Fragen: Wie wird KI unsere Arbeit, unser Leben und unsere Selbstwahrnehmung verändern? Wie werden wir vor diesem Hintergrund weiterhin Verantwortung übernehmen? Welche Art von Bildung werden wir in Zukunft benötigen? Was ist eigentlich verantwortungsvolle KI?

Forschungsschwerpunkt

Unsere Forschung bietet einen Rahmen für verantwortungsvolle Innovation bei der Entwicklung und dem Einsatz von KI-bezogenen Technologien. Daher konzentrieren wir uns sowohl auf technologische als auch auf menschliche Faktoren, die bei den vielfältigen Interaktionen mit KI auftreten. Als interdisziplinäres Team vertreten wir gleichermaßen ethische, rechtliche, technologische und pädagogische Perspektiven und befassen uns mit relevanten Themen auf verschiedenen Ebenen.

Wir untersuchen, wo, wann und wie die Entwicklung bzw. Anwendung von KI-Technologien Normen hervorbringt. Dies setzt beispielsweise voraus, dass wir analysieren, wo normativ relevante Entscheidungen im technologischen Design getroffen werden. Darüber hinaus identifizieren wir explizite und implizite Annahmen aller Beteiligten, da diese ihre Sichtweisen und ihr Verständnis von KI prägen – einschließlich ihrer Akzeptanz, ihrer möglichen Fähigkeiten und ihrer Grenzen. Transparenzanforderungen für KI sind in diesem Zusammenhang von zentraler Bedeutung. Gleiches gilt für einen Regulierungsrahmen für Trainingsdaten für KI, der im Rahmen unserer Forschung entwickelt werden soll. Im weiteren Sinne untersuchen wir, welchen Veränderungen der demokratische Diskurs und seine verfassungsrechtlichen Voraussetzungen aufgrund der beschriebenen Veränderungen aus rechtlicher Sicht ausgesetzt sind.

Rechtliche Aspekte

Darüber hinaus untersuchen wir Möglichkeiten für die technologische Umsetzung der oben genannten, vorwiegend rechtlich und politisch geprägten Bedingungen und Ziele, beispielsweise durch datenschutzkonforme Verknüpfung von Datensätzen bei der Datenerhebung und durch maschinelles Lernen. Weiterhin streben wir an, Sprachverarbeitungssysteme in relevanten Funktionen transparent und erklärbar zu machen (z. B. im Rahmen argumentativer Erklärungen). Neben Datenschutz, Transparenz und Erklärbarkeit suchen wir nach Möglichkeiten, die Sprachverarbeitung weiterzuentwickeln, um ihre Fähigkeiten zur Manipulation von Sprache und deren Umwandlung in verwertbares Wissen zu verbessern.

Ethik und Bildung

Schließlich konzentrieren wir uns auch auf ethische und pädagogische Fragen für die Gegenwart und noch mehr für die Zukunft. Es ist von entscheidender Bedeutung, KI sowohl als Technologie als auch als Faktor zu verstehen, der unsere Selbstwahrnehmung und unser Verantwortungsbewusstsein beeinflusst. Daher analysieren wir, welche Kompetenzen bereits in der Schule vermittelt werden können, insbesondere im Hinblick auf den Alltag von Schüler:innen, in dem sie mit diesen Technologien interagieren. Technologisches Wissen, Anwendungskompetenzen sowie die Fähigkeit, über die individuelle Rolle nachzudenken, werden benötigt, wenn leistungsstarke Technologien Teil unseres Alltags werden.

Ziele

Wir verstehen verantwortungsvolle KI in einem ganzheitlichen Sinne als Forschungsziel, das nur durch interdisziplinären Diskurs erreicht werden kann. Daher verbinden wir unsere jeweiligen Fachperspektiven in vier relevanten Forschungsbereichen:

• vertrauenswürdige Technologie (in Bezug auf Fairness, Sicherheit, Transparenz und Erklärbarkeit),
• vertrauenswürdige Rahmen (rechtliche, ethische und gesellschaftliche Aspekte),
• normative Beteiligung (zum Beispiel im Zusammenhang mit technischen Designfragen) und
• Bildung (für verschiedene Referenzgruppen, Anwendungen und Entwicklungen).

All diese Themen werden interdisziplinär erforscht und nach den Grundsätzen der forschungsbasierten Lehre und des forschungsbasierten Lernens vermittelt.