在本模块中，我们将讨论深度网络学习的数学基础。首先，我们将讨论如何将深度网络学习问题定义为数学函数的最小化问题。在定义数学目标后，我们将介绍验证方法，以估计所学深度网络在现实世界中的性能。然后，我们将讨论如何利用梯度下降这一经典优化技术来实现这一数学目标。最后，我们将讨论为什么以及如何在实践中使用随机梯度下降来学习深度网络。

本周的内容包括模型训练、迁移学习和微调。除了学习 CNN 的基本原理和应用方法外，还将仔细讨论 CNN 的直觉，目的是提供概念性理解。

本周将介绍神经网络在自然语言处理（NLP）中的应用，从简单的神经网络模型到更复杂的神经网络模型。本周将讨论词嵌入的基本概念，以及如何在多个 NLP 应用的模型学习和使用中采用此类方法。此外，还讨论了各种神经 NLP 模型，包括递归神经网络，特别是长短期记忆 (LSTM) 模型。

本周我们将介绍变形网络（Transformer Network），这是一种深度机器学习模型，旨在比循环神经网络（RNN）更灵活、更健壮。首先，我们将回顾变形网络的几个机器学习构件：单词向量的内积、注意力机制以及序列到序列编码器和解码器。然后，我们将把所有这些组件组合在一起，探索完整的变形网络。

本周将介绍 "强化学习"（Reinforcement Learning），这是机器学习中的一个基本概念，它关注的是在特定情况下采取适当的行动以获得最大回报。在学习了强化学习的初始步骤后，我们将转向 Q 学习以及深度 Q 学习。我们将讨论 "探索"（Exploration）和 "利用"（Exploitation）这两个概念之间的区别以及它们的重要性。