In diesem Modul werden wir uns mit der verallgemeinerten kleinsten Quadrate (GLS) beschäftigen. GLS ist eine statistische Methode, die die Methode der gewöhnlichen kleinsten Quadrate (OLS) erweitert, um Heteroskedastizität und serielle Korrelation in den Fehlertermen zu berücksichtigen. Heteroskedastizität ist die Bedingung, bei der die Abweichung der Fehler nicht über alle Niveaus der Prädiktorvariablen konstant ist, während serielle Korrelation die Bedingung ist, bei der die Fehler über Zeit oder Raum korreliert sind. GLS hat viele praktische Anwendungen, z. B. im Finanzwesen zur Modellierung von Vermögenserträgen, in der Ökonometrie zur Modellierung von Zeitreihendaten und in der räumlichen Analyse zur Modellierung räumlich korrelierter Daten. Am Ende dieses Moduls werden Sie ein gutes Verständnis dafür haben, wie GLS funktioniert und wann es sinnvoll ist, es einzusetzen. Sie werden auch in der Lage sein, GLS in R mit Hilfe der gls()-Funktion im nlme-Paket zu implementieren.

In diesem Modul werden wir uns mit Ridge Regression, LASSO und der Hauptkomponentenanalyse (PCA) beschäftigen. Diese Techniken werden häufig für Regression und Dimensionalitätsreduktion beim Maschinellen Lernen und in der Statistik eingesetzt.

In dieser Woche werden wir uns mit dem Konzept der Kreuzvalidierung befassen, einer wichtigen Technik zur Bewertung und zum Vergleich der Leistung verschiedener statistischer Lernmodelle. Wir werden verschiedene Arten von Kreuzvalidierungstechniken untersuchen, darunter die k-fache Kreuzvalidierung, die Leave-One-Out-Kreuzvalidierung und die stratifizierte Kreuzvalidierung. Wir werden ihre Stärken, Schwächen und besten Praktiken für die Implementierung diskutieren. Außerdem wird untersucht, wie Kreuzvalidierung für die Modellauswahl und die Abstimmung der Hyperparameter verwendet werden kann.

In unserem letzten Modul werden wir uns mit Bootstrapping beschäftigen. Bootstrapping ist eine Resampling-Technik, die es uns ermöglicht, Einblicke in die Variabilität statistischer Schätzer zu gewinnen und die Unsicherheit in unseren Modellen zu quantifizieren. Durch die Erstellung mehrerer simulierter Datensätze mittels Resampling können wir die Verteilung von Stichprobenstatistiken untersuchen, Konfidenzintervalle konstruieren und Hypothesentests durchführen. Bootstrapping ist besonders nützlich, wenn die parametrischen Annahmen schwer zu erfüllen sind oder wenn wir nur begrenzte Daten haben. Am Ende dieser Woche werden Sie Bootstrapping und seine praktischen Anwendungen beim statistischen Lernen verstanden haben.