Copula-basierte Autoencoder

Projekttitel: Copula-basierte Autoencoder

Forschungsbereich: Mathematische Grundlagen und statistisches Lernen

In unserem Projekt „Copula-basierte Autoencoder“ hinterfragen wir die Normalitätsannahme in der Statistik und im maschinellen Lernen und nutzen dabei den Satz von Sklar (1959), um die Randverteilung von der Abhängigkeitsfunktion zu trennen. In der Praxis stellt die Auswahl der geeigneten Abhängigkeitsfunktion trotz einer Reihe von Anpassungsgütefunktionen nach wie vor eine entscheidende Herausforderung dar. Copula-Modelle leiden im Vergleich zu Gauß-Modellen unter zeitaufwändigen Schätzverfahren, insbesondere bei hohen Dimensionen, wie beispielsweise bei Faktor-Copula-Modellen. Gleichzeitig untersuchen wir zeitliche Abhängigkeiten, einen in der Copula-Theorie bislang wenig erforschten Aspekt, der für reale, zeitlich und räumlich abhängige Daten von entscheidender Bedeutung ist. Darüber hinaus versuchen wir, Verbindungen zu modernen Deep-Learning-Theorien herzustellen, wobei wir uns auf die Integration neuronaler Netze konzentrieren. Die zugrunde liegende Logik beruht auf der Verbindung zwischen Autoencodern aus dem maschinellen Lernen und Faktormodellen in der Statistik.

Ziele

Im Projekt „Copula-basierte Autoencoder“ verfolgen wir drei Hauptziele:

• Bereitstellung einer Schätzmethode, die je nach Eignung des Modells für die Daten verschiedene Verfahren wie die Momentenmethode oder die Maximum-Likelihood-Methode nutzt.
• Ausweitung der Schätzung auf zeitabhängige Daten mit strukturellen Veränderungen.
• Bereitstellung einer semiparametrischen Schätzmethode für das Faktor-Copula-Modell, bei der die Verknüpfungsfunktion nichtparametrisch geschätzt wird.

Problemstellung

Autoencoder sind äußerst leistungsfähig bei der Extraktion von Merkmalen für verschiedene Aufgaben wie autonomes Fahren, Einflussfaktoren auf dem Finanzmarkt usw. Ihre theoretischen Eigenschaften sind jedoch kaum erforscht. Lineare Autoencoder (Faktormodelle) basieren auf der Annahme der Normalverteilung und haben sich als zu stark vereinfacht erwiesen. Copula-basierte Faktormodelle lassen Nichtlinearität zu und erweisen sich als sehr flexibel. Die Theorie dazu steckt noch in den Kinderschuhen. Indem ich die Verknüpfungsfunktion in den Faktormodellen auf die nichtlineare Form ausweite, treibe ich die Entwicklung des gesamten Fachgebiets in Richtung traditioneller Autoencoder voran. Diese Brücke ermöglicht die Entwicklung der erforderlichen Theorie, Schätzverfahren und weiterer Eigenschaften. Die weitere Ausweitung auf zeitliche Abhängigkeiten stellt eine weitere Herausforderung dar.

Technologie

• Nichtlineare Abhängigkeit
• Nichtlineares Faktormodell (Copula-basierter Autoencoder)
• Theorie des maschinellen Lernens

Ausblick

Durch die Verknüpfung von Faktormodellen und Autoencodern sowie die Erweiterung der Faktormodelle (mit praktikabler Schätzung, insbesondere für zeitliche Daten) hin zur semiparametrischen Schätzung werden wir einen neuartigen, copula-basierten und statistisch fundierten Autoencoder für zeitabhängige Daten bereitstellen.

Publikationen

• Okhrin, O., and Ristig, A., Penalized estimation of hierarchical Archimedean copula, Journal of Multivariate Analysis 2024, 105274, DOI: 10.1016/j.jmva.2023.105274
• Hautsch, N., Okhrin, O., and Ristig, A. Maximum-Likelihood Estimation Using the Zig-Zag Algorithm, Journal of Financial Econometrics, 2023, 1346-1375, DOI: 10.1093/jjfinec/nbac006

Team

Teamleitung

• Prof. Dr. Ostap Okhrin