数据可以解释为向量。通过向量，我们可以讨论长度、距离和角度等几何概念，从而描述向量之间的相似性。这将在课程后面讨论 PCA 时变得非常重要。在本模块中，我们将介绍并练习内积的概念。通过内积，我们可以讨论向量空间中的几何概念。更具体地说，我们将从作为内积特例的点积（我们在学校可能还知道）开始，然后转向更一般的内积概念，它在机器学习的某些领域中扮演着不可或缺的角色，例如核机器（包括支持向量机和高斯过程）。在本模块中，我们将通过大量练习来练习和理解内积的概念。

在本模块中，我们将研究高维向量空间中的向量向低维子空间的正交投影。这将在下一模块推导 PCA 时发挥重要作用。我们将首先从几何角度来解释什么是正交投影，然后再进行相应的推导。最后，我们将得到一个单一方程，它允许我们将任何向量投影到一个低维子空间上。不过，我们还要了解这个方程是如何产生的。与其他模块一样，我们既有纸笔练习，也有使用 jupyter 笔记本的小型编程示例。

我们可以把降维看作是一种压缩数据的方法，但会有一定的损失，类似于 jpg 或 mp3。主成分分析（PCA）是机器学习中最基本的降维技术之一。在本模块中，我们将利用本课程前三个模块的成果，从几何角度推导出 PCA。在本课程中，本模块是最具挑战性的一个模块，我们将通过对 PCA 的明确推导和一些编码练习，使我们成为 PCA 的熟练用户。