In diesem Modul werden wir die Erforschung des Perceptrons fortsetzen. Wir werden uns mit dem stochastischen Gradientenabstieg (SGD) befassen, einer grundlegenden Optimierungstechnik, die es dem Perceptron und anderen Modellen ermöglicht, aus Daten zu lernen, indem die Parameter des Modells iterativ aktualisiert werden, um Fehler zu minimieren. Danach werden wir uns mit Kernel-Methoden beschäftigen. Diese Techniken können zwei Punktesätze auf kompliziertere Weise trennen, wobei sie sich an der Funktionsweise des menschlichen Auges orientieren.

In diesem Modul werden wir uns mit vollständig vernetzten Netzwerken befassen. Bei diesen Netzwerken handelt es sich um hochentwickelte Modelle, die man sich als ein Perceptron vorstellen kann, das auf einem anderen Perceptron sitzt und so weitergeht. Jede Schicht in einem vollständig verbundenen Netzwerk nimmt Eingaben von der darunter liegenden Schicht auf, arbeitet daran, die Datenpunkte (z. B. die roten und die blauen Streupunkte) ein wenig besser zu trennen als die vorherige Schicht, und gibt sie dann an die nächste Schicht weiter.

Zum Abschluss dieses Kurses befassen wir uns mit Backpropagation, einem Algorithmus zum Training neuronaler Netzwerke, um den besten Gewichtungssatz zu finden, der den Fehler in den Daten minimiert. Backpropagation wendet die Kettenregel aus der Infinitesimalrechnung an, um effizient die Gradienten der Verlustfunktion in Bezug auf die Gewichte zu berechnen, so dass das Modell seine Gewichte in der entgegengesetzten Richtung des Gradienten aktualisieren kann. Wir erörtern die Bedeutung typischer Datensätze, die aus Bildern, Sätzen und Tönen bestehen, und wie neuronale Netze aus den in solchen Daten vorhandenen räumlichen Regelmäßigkeiten lernen können