Softwaretechnologie

Da KI-gestützte Systeme allgegenwärtig werden, wird die Nachfrage nach Softwarelösungen, die deren Produktionsreife unterstützen, unverzichtbar. Der jüngste Erfolg von Large Language Models wäre ohne geeignete Softwarelösungen zur Skalierung von Training und Inferenz solcher Modelle nicht möglich gewesen. Gleichzeitig ermöglicht der Einsatz von Künstlicher Intelligenz und Machine-Learning für neuartige Softwarelösungen neue Arten von Hardware, wie etwa FPGA-basierte Machine-Learning-Beschleuniger und spezialisierte Compiler für Machine-Learning-Algorithmen. Der Bereich Software Engineering von ScaDS.AI Dresden/Leipzig zielt darauf ab, diese Chancen zu nutzen, um die Entwicklung und Optimierung der nächsten Generation KI-basierter Systeme zu ermöglichen.

Fokus der Forschung

Konkret konzentrieren wir uns auf drei Forschungsbereiche: MLOps und Produktionsreife, Unterstützung für FPGA-basierte Machine-Learning-Beschleuniger und Machine-Learning-gestützte Compileroptimierungen.

• Erstens wollen wir die Haupthindernisse und Herausforderungen bei der Produktionsreife von Machine-Learning-Modellen aufdecken. Dazu gehören soziotechnische Herausforderungen innerhalb von Teams und Organisationsstrukturen sowie technologische Unklarheiten in KI-Pipelines, insbesondere bei Systemen auf Basis von Large Language Models.
• Darüber hinaus streben wir an, die Energie- und Leistungseffizienz KI-basierter Systeme durch moderne Sampling-, Lern- und Large-Language-Model-basierte Techniken zu verbessern.
• Ziel ist es, Methoden zur Verbesserung der Produktionsreife moderner KI-Systeme zu erforschen.

Ziele

Das übergeordnete Ziel unserer Arbeiten ist es, eine effiziente Nutzung von Methoden und Werkzeugen der Künstlichen Intelligenz zu ermöglichen. Das heißt, wir streben an, die Leistung und den Energieverbrauch beim Training, bei der Inferenz und beim Deployment von Machine-Learning-Modellen und -Code erheblich zu verbessern sowie neuartige Hardwareplattformen zu ermöglichen. Wir verfolgen einen strategischen Ansatz, der die gesamte Palette KI-relevanter Aspekte abdeckt: Von spezialisierter Hardwareunterstützung (z. B. Machine-Learning-fokussierte FPGAs) über spezialisierte Compiler für Machine-Learning-Code bis hin zur Integration des Machine-Learning-Modells und -Codes in die Infrastruktur und den Software-Stack (d. h. MLOps).