KI-Datenschutz und Fairnessbewertungen

Projekttitel: KI-Datenschutz und Fairnessbewertungen

Projektdauer: Fortlaufend seit April 2022

Forschungsbereich: Verantwortungsvolle KI

Der Einsatz künstlicher Intelligenz (KI) in digitalen Diensten, z. B. in der Personalbeschaffung, bei medizinischen Anwendungen oder bei Smart-Home-Produkten, wirft neue Herausforderungen in Bezug auf Ethik und Datenschutz auf. KI-Algorithmen können Vorurteile aus den Trainingsdaten übernehmen, was dazu führen kann, dass bestimmte Bevölkerungsgruppen ungerechtfertigt bevorzugt, andere diskriminiert oder ungenaue Ergebnisse bzw. Entscheidungen geliefert werden usw. Darüber hinaus ist KI häufig auf die Verarbeitung riesiger Mengen personenbezogener Daten angewiesen, und durch die weitverbreitete Einführung von KI wird die zögertlose Nutzung solcher Daten zur neuen Normalität. Zudem funktionieren KI-Algorithmen in der Regel als „Black Boxes“, d. h., die im Modell enthaltenen Daten und die Entscheidungsfindung sind nicht transparent. Dieses Projekt nutzt interdisziplinäre Forschung in den Bereichen Informatik, Ethik und Rechtswissenschaft, um datenschutzbewusste und faire KI-Anwendungen zu entwickeln.

Ziele

In diesem Projekt verfolgen wir drei Forschungsansätze. Erstens untersuchen wir Ansätze wie „Federated Learning“, die es ermöglichen, Modelle zu trainieren, ohne personenbezogene Daten bei einer zentralen Stelle zusammenführen zu müssen und ohne dass dabei die Modellqualität beeinträchtigt wird, wie dies bei anderen datenschutzfördernden Ansätzen der Fall ist. Zweitens streben wir die Entwicklung einer Toolkette an, die es uns ermöglicht, Fairnessaspekte wie Voreingenommenheit, Ethik, Moral usw. mithilfe von KI-Modellen und fundierten linguistischen Ansätzen zu bewerten. Drittens wollen wir diese Toolkette nutzen, um die Fairness in Datenschutzrichtlinien und anderen Rechtstexten, die für Nutzer KI-basierter Dienste von hoher gesellschaftlicher Relevanz sind, automatisch zu bewerten.

Zu diesem Zweck identifizieren wir verschiedene für KI relevante Fairness-Dimensionen, z. B. informative Fairness, repräsentative Fairness sowie Ethik und Moral. Wir untersuchen, wie sich diese Dimensionen in Datenschutzrichtlinien widerspiegeln könnten. Schließlich streben wir eine qualitative und quantitative Bewertung von Fairness-Aspekten in einem umfangreichen Textkorpus an. Damit sollen Behörden, Unternehmen und Jurist:innen Belege für bewährte Verfahren erhalten, die Möglichkeit, Ausreißer in einem großen Textkorpus schnell zu identifizieren, sowie ein Werkzeug zur Abgabe von Empfehlungen. Außerdem wollen wir diesen Ansatz nutzen, um Fairness-Probleme im KI-Modell selbst zu identifizieren, indem wir es Texte mit bekannten Fairness-Problemen als Referenz bewerten lassen.

Problemstellung

Nach unserem Kenntnisstand sind wir die Ersten, die KI einsetzen, um Fragen der Gleichbehandlung in Datenschutzrichtlinien zu identifizieren. Wir streben eine enge Zusammenarbeit mit Jurist:innen und Ethiker:innen an, um ganzheitliche Konzepte zu entwickeln, die einen fairen, transparenten und datenschutzbewussten Einsatz von KI-Ansätzen gewährleisten. Unsere Herausforderungen liegen daher nicht nur in den technischen Aspekten der Fairnessbewertung mit bestehenden Ansätzen, die von großen Sprachmodellen bis hin zu linguistischen Ansätzen reichen. Wir arbeiten zudem an einem gemeinsamen Verständnis von Fairness-Problemen aus der Perspektive von Jurist:innen, Ethiker:innen und Informatiker:innen.

Technologie

Wir nutzen verschiedene große Sprachmodelle, Ansätze der natürlichen Sprachverarbeitung, linguistische Maße und Verfahren des föderierten Lernens.

Ausblick

In dieser Phase unseres Projekts haben wir bereits ein gutes Verständnis für vielversprechende zukünftige Forschungsansätze gewonnen. Derzeit prüfen wir Möglichkeiten zur Erstellung eines interdisziplinären Forschungsantrags mit dem Ziel, unsere Zusammenarbeit auf die nächste Stufe zu heben. Außerdem planen wir, unsere Forschung auf „Federated Learning“ und ähnliche Ansätze auszuweiten, die es ermöglichen, hochwertige Modelle zu entwickeln, ohne sensible Daten übertragen zu müssen.

Publikationen

• FREIBERGER, Vincent; BUCHMANN, Erik. Beyond the Fine Print: Fairness in Privacy Policies. (Accepted Poster) In: AI Ethics & Human-Computer Interaction Conference, Graz, 2024
  
• FREIBERGER, Vincent; BUCHMANN, Erik. Fairness Certification for Natural Language Processing and Large Language Models. (To Appear) In: Proceedings of the 10th Intelligent Systems Conference (IntelliSys’24), 2024
  
• FREIBERGER, Vincent; BUCHMANN, Erik. Fairness Certification for Natural Language Processing and Large Language Models. In: arXiv.2401.01262, 2024
  
• BARTELT, Bianca; BUCHMANN, Erik. Transparency in Privacy Policies. (To Appear) In: Proceedings of the 12th International Conference on Building and Exploring Web Based Environments (WEB’24), 2024
  
• HANNEMANN, Anika; ÜNAL, Ali B.; SWAMINATHAN, Arjhun; BUCHMANN, Erik; AKGÜN, Mete. A Privacy-Preserving Framework for Collaborative Machine Learning with Kernel methods. In: Proceedings of the 5th IEEE International Conference on Trust, Privacy and Security in Intelligent Systems and Applications (TPS-ISA’23), 2023
  
• HANNEMANN, Anika; ÜNAL, Ali B.; SWAMINATHAN, Arjhun; BUCHMANN, Erik; AKGÜN, Mete. A Privacy-Preserving Federated Learning Approach for Kernel Methods. In: arXiv:2306.02677, 2023

Team

Teamleitung

• Prof. Dr. Erik Buchmann

Teammitglieder

• Anika Hannemann
• Victor Jüttner
• Vincent Freiberger

Partner

• Prof. Dr. Birte Platow
• Dr. Hermann Diebel-Fischer
• Prof. Dr. Anne Lauber-Roensberg
• Julia Moeller-Klapperich
• Bianca Bartelt