Mathematische Grundlagen großer Sprachmodelle

Sie werden von der einfachen Verwendung von KI-Tools zu einem tiefen Verständnis der Formeln, Vektoren und neuronalen Netzwerkmechaniken übergehen, die sie funktionieren lassen.\n\nWas Sie lernen werden:\n- Verstehen Sie die grundlegenden mathematischen Konzepte, einschließlich linearer Algebra und Wahrscheinlichkeit, die neuronalen Netzwerken zugrunde liegen\n- Verfolgen Sie die Mechanik der Tokenisierung, Einbettungen und positionalen Kodierungen mathematisch\n - Berechnen Sie Schritt für Schritt Selbstaufmerksamkeit, Mehrkopfaufmerksomkeit und Abfrageschlüssel-Wert-Matrizen\n – Erkunden Sie die Architektur von Encoder-Decoder Modellen wie GPT und BERT durch klare schriftliche Aufschlüsselungen\n– Lernen Sie die Grundkonzepte moderner Feintuning-Techniken wie LoRA und parametereffiziente Anpassung\n\- Analysieren Sie, wie Verlustfunktionen und Optimierungsalgorithmen das Modelltraining und die Konvergenz steuern\r\nWir beginnen mit den mathematischen Grundvoraussetzungen und grundlegendsten Definitionen, bevor wir tief in den Transformatorblock eintauchen. Sie werden durch detaillierte schriftlichen Erklärungen und Schritt-für-Schritt-mathematischer Durchgänge fortschreiten, die komplexe Gleichungen in LLMs sehr zugänglich machen.\n \ nDieser Kurs richtet sich an angehende KI-Ingenieure, Datenwissenschaftler und neugierige Programmierer, die eine solide konzeptionelle und mathematische Grundlage in LMLs wünschen.