Dans ce module, nous continuerons à explorer le perceptron. Nous nous pencherons sur la Descente gradient stochastique (SGD), une technique d'optimisation fondamentale qui permet au perceptron, et à d'autres modèles, d'apprendre à partir des données en mettant à jour de manière itérative les paramètres du modèle afin de minimiser les erreurs. Nous nous pencherons ensuite sur les méthodes à noyau. Ces techniques permettent de séparer deux ensembles de points de manière plus complexe, en s'inspirant du fonctionnement de l'œil humain.

Dans ce module, nous allons explorer les réseaux entièrement connectés. Ces réseaux sont des modèles sophistiqués que l'on peut considérer comme un perceptron posé sur un autre perceptron, continuant ainsi. Chaque couche d'un réseau entièrement connecté reçoit des données de la couche inférieure, s'efforce de séparer les points de données (tels que les points rouges et bleus dispersés) un peu mieux que celle qui la précède, puis les transmet à la couche suivante.

Nous terminerons ce cours par l'étude de la rétropropagation, qui est un algorithme permettant d'entraîner les réseaux neurones à trouver le meilleur ensemble de poids qui minimise l'erreur sur les données. La rétropropagation applique la règle de la chaîne du calcul pour calculer efficacement les gradients de la fonction de perte par rapport aux poids, ce qui permet au modèle de mettre à jour ses poids dans la direction opposée au gradient. Nous discuterons de l'importance des ensembles de données typiques composés d'images, de phrases et de sons, et de la manière dont les réseaux neurones peuvent tirer des enseignements des régularités spatiales présentes dans ces données