Datenschutzkonformes maschinelles Lernen

Projekttitel: Datenschutzkonformes maschinelles Lernen

Projektdauer: ongoing since April 2020

Forschungsbereich: Responsible AI

Maschinelles Lernen unter Einhaltung der Privatsphäre ist ein Forschungsgebiet an der Schnittstelle zwischen maschinellem Lernen und Datenschutz. Ziel ist es, Methoden zu entwickeln, die das Training und den Einsatz von Modellen ermöglichen, ohne die Vertraulichkeit sensibler Daten zu gefährden. Mit der zunehmenden Verbreitung datengesteuerter Technologien haben Bedenken hinsichtlich Datenschutzverletzungen an Bedeutung gewonnen. Die Forschung in diesem Bereich nutzt kryptografische Techniken wie homomorphe Verschlüsselung und sichere Mehrparteienberechnung sowie Anonymisierungsmethoden wie k-Anonymität und Differential Privacy (DP), um Algorithmen zu entwickeln, die mit verschlüsselten oder verzerrten Daten arbeiten. Darüber hinaus ermöglicht das dezentrale „Federated Learning“, dass Modelle über mehrere Geräte hinweg trainiert werden können, ohne dass Rohdaten die einzelnen Geräte verlassen. Das übergeordnete Ziel besteht darin, ein Gleichgewicht zwischen der steigenden Nachfrage nach ausgefeilten Modellen des maschinellen Lernens und der Notwendigkeit zu finden, die Privatsphäre der Personen zu schützen, die zu deren Training beitragen.

Ziele

Dieses Projekt zielt darauf ab, das datenschutzkonforme maschinelle Lernen (Privacy-Preserving Machine Learning, PPML) voranzubringen, indem bestehende Techniken untersucht, Kompromisse zwischen Datenschutz und Nutzen analysiert, neue Methoden entwickelt, deren Wirksamkeit getestet und Fragen der Skalierbarkeit behandelt werden. Das Ziel besteht darin, ein Gleichgewicht zwischen Modellleistung und Datennutzen einerseits und Datenschutz andererseits herzustellen, um eine verantwortungsvolle KI zu fördern und eine breitere Anwendung des maschinellen Lernens in sensiblen Bereichen wie persönlichen Gesundheits- und Standortdaten zu ermöglichen.

Problemstellung

Ein grundlegender Aspekt von PPML ist der inhärente Zielkonflikt zwischen Nutzen und Datenschutz. Wenn Schutzmaßnahmen wie die Einblendung von Rauschen implementiert werden, beeinträchtigen sie gleichzeitig die Wirksamkeit von Modellen des maschinellen Lernens. Es ist entscheidend, ein Gleichgewicht zu finden; aggressive Datenschutzmaßnahmen können zu einem schlechten Modellnutzen führen und dessen Leistungsfähigkeit mindern. Aktuelle Techniken beschäftigen sich mit der Optimierung dieses Zielkonflikts und zielen auf datenschutzkonforme Verfahren ab, die Risiken mindern und gleichzeitig die Modellleistung aufrechterhalten.

Technologie

PPML nutzt Techniken wie homomorphe Verschlüsselung und sichere Mehrparteienberechnung für die Verarbeitung verschlüsselter Daten. Anonymisierungsmethoden wie k-Anonymität und Differential Privacy verzerren Daten, um die Privatsphäre zu schützen. Federated Learning ermöglicht ein dezentrales Modelltraining, bei dem die Rohdaten auf den einzelnen Geräten verbleiben. Die Verknüpfung von Informationen aus bestehenden Datensätzen oder die Erstellung von GANs kann dabei helfen, Schwachstellen aufzudecken, aber auch die verfügbaren Datenmengen zu erweitern.

Ausblick

Unser Ziel ist es, Datenschutzrisiken bei Gesundheits- und Standortdaten zu bewerten, beispielsweise aus Wearables oder Smartphones. Wir versuchen, aktuelle Anonymisierungsmethoden durch Angriffe zu unterlaufen, um damit die Notwendigkeit des Datenschutzes zu verdeutlichen. Darüber hinaus untersuchen wir die Einfügung von Rauschen als Mittel zum Schutz sensibler personenbezogener Daten und zur Verhinderung einer Re-Identifizierung. Zudem erwägen wir die Erstellung privater synthetischer Datensätze auf der Grundlage realer Daten, um die Genauigkeit und Skalierbarkeit bestehender Modelle zu verbessern.

Publikationen

• Lange, Lucas, Nils Wenzlitschke, and Erhard Rahm. “Generating Synthetic Health Sensor Data for Privacy-Preserving Wearable Stress Detection.” arXiv, January, 2024. https://doi.org/10.48550/arXiv.2401.13327.
• Lange, Lucas, Borislav Degenkolb, and Erhard Rahm. “Privacy-Preserving Stress Detection Using Smartwatch Health Data.” In 4. Interdisciplinary Privacy & Security at Large Workshop, INFORMATIK 2023. Gesellschaft für Informatik e.V., September, 2023. https://doi.org/10.18420/inf2023_66.
• Vogel, Felix, Lucas Lange. “Privacy-Preserving Sentiment Analysis on Twitter.” In SKILL 2023. Gesellschaft für Informatik e.V., September, 2023. doi not yet available.
• Lange, Lucas, Tobias Schreieder, Victor Christen, and Erhard Rahm. “Privacy at Risk: Exploiting Similarities in Health Data for Identity Inference.” arXiv, August, 2023. https://doi.org/10.48550/arXiv.2308.08310.
• Lange, Lucas, Maja Schneider, Peter Christen, and Erhard Rahm. “Privacy in Practice: Private COVID-19 Detection in X-Ray Images.” In 20th International Conference on Security and Cryptography (SECRYPT 2023). SciTePress, July, 2023. https://doi.org/10.5220/0012048100003555.
• Lange, Lucas, Maja Schneider, Peter Christen, and Erhard Rahm. “Privacy in Practice: Private COVID-19 Detection in X-Ray Images (Extended Version).” arXiv, November, 2022. https://doi.org/10.48550/arXiv.2211.11434.
• Schneider, Maja, Lukas Gehrke, Peter Christen, and Erhard Rahm. „D-TOUR: Detour-based point of interest detection in privacy-sensitive trajectories“.  In 3. Interdisciplinary Privacy & Security at Large Workshop, INFORMATIK 2022. Gesellschaft für Informatik e.V., September, 2022. https://doi.org/10.18420/inf2022_20.
• Schneider, Maja, Jonathan Schneider, Lea Löffelmann, Peter Christen, and Erhard Rahm. „Tuning the Utility-Privacy Trade-Off in Trajectory Data“. In 26th International Conference on Extending Database Technology (EDBT), 2023. http://dx.doi.org/10.48786/edbt.2023.78

Team

Teamleitung

• Prof. Dr. Erhard Rahm

Teammitglieder

• Maja Schneider
• Lucas Lange