Dans ce module, nous nous intéresserons aux moindres carrés généralisés (MCO). Les MCO sont une méthode statistique qui étend la méthode des moindres carrés ordinaires (MCO) pour tenir compte de l'hétéroscédasticité et de la corrélation sérielle dans les termes d'erreur. L'hétéroscédasticité est la condition dans laquelle la variance des erreurs n'est pas constante pour tous les niveaux des variables prédictives, tandis que la corrélation sérielle est la condition dans laquelle les erreurs sont corrélées dans le temps ou l'espace. Les GLS ont de nombreuses applications pratiques, notamment en finance pour la modélisation des rendements des actifs, en économétrie pour la modélisation des données de séries chronologiques, et en analyse spatiale pour la modélisation des données corrélées dans l'espace. A la fin de ce module, vous aurez une bonne compréhension du fonctionnement des GLS et des cas où il est approprié de les utiliser. Vous serez également en mesure d'implémenter les GLS dans R à l'aide de la fonction gls() du package nlme.

Dans ce module, nous allons explorer la régression ridge, LASSO, et l'analyse composantes principales (ACP). Ces techniques sont largement utilisées pour les tâches de régression et de réduction de dimensionnalité dans l'apprentissage automatique et les statistiques.

Cette semaine, nous allons explorer le concept de validation croisée, une technique cruciale utilisée pour évaluer et comparer les performances de différents modèles d'apprentissage statistique. Nous explorerons différents types de techniques de validation croisée, notamment la validation croisée k-fold, la validation croisée leave-one-out et la validation croisée stratifiée. Nous discuterons de leurs forces, de leurs faiblesses et des meilleures pratiques à mettre en œuvre. En outre, nous examinerons comment la validation croisée peut être utilisée pour la sélection de modèles et le réglage des hyperparamètres.

Pour notre dernier module, nous allons explorer le bootstrap. Le bootstrap est une technique de rééchantillonnage qui nous permet de mieux comprendre la variabilité des estimateurs statistiques et de quantifier l'incertitude dans nos modèles. En créant plusieurs ensembles de données simulées par rééchantillonnage, nous pouvons explorer la distribution des statistiques de l'échantillon, construire des intervalles de confiance et effectuer des tests d'hypothèse. Le Bootstrap est particulièrement utile lorsque les hypothèses paramétriques sont difficiles à respecter ou lorsque nous disposons de données limitées. À la fin de cette semaine, vous aurez compris ce qu'est le bootstrap et ses applications pratiques dans le domaine de l'apprentissage statistique.