Strukturbewusstes maschinelles Lernen

Forschungsbereich: KI-Algorithmen und -Methoden

Forschungsgruppenleiter: Dr. Xiaowei Xu

Institution: ScaDS.AI, Universität Leipzig

Überblick

Das moderne maschinelle Lernen hat in einer Vielzahl von Anwendungsbereichen bemerkenswerte Erfolge erzielt. Viele bestehende Ansätze stützen sich jedoch in hohem Maße auf umfangreiche Datenmengen und Rechenressourcen, während sie die zugrunde liegenden Strukturen der zu lösenden Probleme nicht ausreichend nutzen.

Die Forschungsgruppe „Structure-Aware Machine Learning“ untersucht, wie räumliche, zeitliche, populationsbezogene und verteilungsbezogene Strukturen als induktive Vorbedingungen in das maschinelle Lernen integriert werden können, um Skalierbarkeit, Robustheit, Generalisierbarkeit und Interpretierbarkeit zu verbessern. Der Schwerpunkt unserer Forschung liegt auf der Entwicklung generalisierbarer Methoden des maschinellen Lernens mit Anwendungsmöglichkeiten in den Bereichen Computer Vision, medizinische künstliche Intelligenz und anderen datenintensiven wissenschaftlichen Bereichen.

Ziele

Unser übergeordnetes Ziel ist es, strukturbewusste Lernprinzipien zu etablieren, die es Modellen des maschinellen Lernens ermöglichen, komplexe Daten besser darzustellen, zu verstehen und daraus zu verallgemeinern. Die Gruppe konzentriert sich auf vier miteinander verknüpfte Forschungsrichtungen:

• Räumliche und Objektstrukturen: Erlernen von Darstellungen, die räumliche Organisation, geometrische Beziehungen und strukturelle Abhängigkeiten zwischen Objekten und ihren Komponenten erfassen.

• Zeitliche und Prozessstrukturen: Modellierung dynamischer Beziehungen und zeitlicher Abhängigkeiten, um das Lernen aus Videos, Längsschnittbeobachtungen und sich entwickelnden Prozessen zu verbessern.

• Populations- und Verteilungsstrukturen: Nutzung von Beziehungen zwischen Stichproben und Populationen, um die Verallgemeinerungsfähigkeit bei Verteilungsverschiebungen, Datenheterogenität und begrenzten Annotationen zu verbessern.

• Strukturierte Repräsentationen: Entwurf von Repräsentationen und Lernmechanismen, die strukturelle induktive Tendenzen integrieren, um Effizienz, Robustheit und Interpretierbarkeit zu verbessern.

Zentrale Herausforderungen

Trotz der Fortschritte im maschinellen Lernen bestehen weiterhin einige grundlegende Herausforderungen:

• Lernen aus begrenzten oder unvollständigen Daten: Für viele wissenschaftliche und praxisbezogene Anwendungen fehlen große, einheitlich annotierte Datensätze.

• Verallgemeinerung über verschiedene Umgebungen hinweg: Modelle weisen oft eine verminderte Leistungsfähigkeit auf, wenn sie auf neue Populationen, Domänen oder Erfassungsbedingungen angewendet werden.

• Strukturelle Konsistenz: Herkömmliche Lernansätze können wichtige räumliche, zeitliche und relationale Einschränkungen möglicherweise nicht bewahren.

• Skalierbarkeit und Effizienz: Die Einbeziehung komplexer struktureller Informationen sollte keine unzumutbaren Rechenkosten verursachen.

• Interpretierbarkeit und Zuverlässigkeit: Das Verständnis, wie Modelle strukturelle Informationen nutzen, ist wichtig für die Entwicklung vertrauenswürdiger KI-Systeme.

Ausblick und zukünftige Forschungsausrichtung

Die Gruppe hat sich zum Ziel gesetzt, einheitliche und skalierbare Ansätze für das strukturbewusste Repräsentationslernen über verschiedene Datenmodalitäten und Problemstellungen hinweg zu entwickeln. Zukünftige Forschungsarbeiten befassen sich mit strukturgeführtem Lernen unter begrenzter Überwachung, der Generalisierung über heterogene Umgebungen hinweg sowie der effizienten Modellierung komplexer räumlicher und zeitlicher Abhängigkeiten. Die medizinische KI stellt einen wichtigen Anwendungsbereich dar, in dem anatomische Strukturen, physiologische Prozesse und populationsbedingte Variabilität Möglichkeiten bieten, neue Methoden des maschinellen Lernens zu untersuchen und zu validieren. Durch die Zusammenarbeit zwischen ScaDS.AI und anderen Forschungseinrichtungen bemüht sich die Gruppe, die Grundlagenforschung im Bereich des maschinellen Lernens mit anspruchsvollen Anwendungen aus der Praxis zu verbinden.

Ausgewählte Publikationen des Forschungsgruppenleiters

Y. Zhu and X. Xu*. Decoupled Single-Mask Annotation Noise Detection via Cross-Sectional Patch Self-Consistency. MICCAI, 2026. (Oral Presentation)

J. Qiao, J. Chen, and X. Xu*. MiNQVIS: Mitigating Noisy Queries for Robust Online Video Instance Segmentation. ECCV, 2026.

S. Song et al., including X. Xu*. Domain Knowledge based Comprehensive Segmentation of Type-A Aortic Dissection with Clinically-oriented Evaluation. Medical Image Analysis, 2025.

J. Zhang et al., including X. Xu*. HCM-Net: Structure-aware Excised Myocardium Segmentation Network for the Surgical Planning of Hypertrophic Cardiomyopathy. Expert Systems with Applications, 2023.

J. Yang, X. Xu*, and X. Li*. CardiacNet: Learning to Reconstruct Abnormalities for Cardiac Disease Assessment from Echocardiogram Videos. ECCV, 2024.

J. Yang, X. Ding, Z. Zheng, X. Xu*, and X. Li*. GraphEcho: Graph-Driven Unsupervised Domain Adaptation for Echocardiogram Video Segmentation. ICCV, 2023. (Oral Presentation)

S. Li, X. Li*, X. Xu*, and K.-T. Cheng. Dynamic Subcluster-Aware Network for Few-Shot Skin Disease Classification. IEEE Transactions on Neural Networks and Learning Systems, 2023.

X. Xu et al. A Clinically Applicable AI System for Diagnosis of Congenital Heart Diseases based on Computed Tomography Images. Medical Image Analysis, 2023.

X. Xu et al. Quantization of Fully Convolutional Networks for Accurate Biomedical Image Segmentation. CVPR, 2018.

X. Xu, Y. Ding, S. X. Hu, M. Niemier, J. Cong, Y. Hu, and Y. Shi. Scaling for Edge Inference of Deep Neural Networks. Nature Electronics, 2018.

Team

Leitung

Dr. Xiaowei Xu

Teammitglieder

Es ist geplant, zwei Doktoranden einzustellen.

Partners

Forschungskooperationen werden hinzugefügt, sobald sie geschlossen werden.