Alle Lernmaterialien für deinen Kurs Rechnerarchitekturen für Deep-Learning Anwendungen

Diese Sektion behandelt die grundlegenden Konzepte der Rechnerarchitektur. Studierende werden in die Funktionsweise und Struktur moderner Computer eingeführt.

• Computersysteme und ihre Komponenten
• Von-Neumann-Architektur
• Speicherhierarchie und Caches
• Prozessorarchitekturen: RISC vs. CISC
• Einführung in Parallelität und Multithreading

In dieser Sektion werden die theoretischen Grundlagen des Deep Learning behandelt. Studierende lernen die Prinzipien und Algorithmen, die für das Training von Deep-Learning-Modellen notwendig sind.

• Neuronale Netze und ihre Architektur
• Gradientenabstieg und Backpropagation
• Verlustfunktionen und Optimierungsverfahren
• Überanpassung (Overfitting) und Regularisierung
• Grundlagen der Konvolutionalen und Rekurrenten Neuronalen Netze

Diese Sektion fokussiert sich auf spezialisierte Hardware, die für Deep-Learning-Anwendungen entwickelt wurde. Studierende lernen die Eigenschaften und die Vor- und Nachteile verschiedener Hardwarelösungen kennen.

• Grafikprozessoren (GPUs) und deren Architektur
• Tensor Processing Units (TPUs)
• Field-Programmable Gate Arrays (FPGAs)
• Application-Specific Integrated Circuits (ASICs)
• Vergleich der Energieeffizienz und Leistung verschiedener Hardware

In dieser Sektion geht es um die Optimierung von Deep-Learning-Modellen und deren Implementierungen. Studierende lernen Techniken, um die Effizienz und Leistung ihrer Modelle zu verbessern.

• Hyperparameter-Tuning
• Model-Kompression und Quantisierung
• Beschleunigung durch Parallelisierung und Verteilung
• Optimierung der Speicherlaufzeiten
• Echtzeit-Inferenz und Latenzreduktion

Begleitend zu den Vorlesungen gibt es praktische Übungen, in denen Studierende das Gelernte anhand konkreter Anwendungsfälle umsetzen. Dies ermöglicht einen praxisnahen Wissenstransfer.

• Implementierung einfacher neuronaler Netze
• Anwendung von Deep-Learning-Frameworks wie TensorFlow und PyTorch
• Analyse und Visualisierung von Trainingsprozessen
• Optimierung und Testen auf spezialisierter Hardware
• Abschlussprojekt zur Integration und Anwendung des erlernten Wissens