随机森林是一种数据挖掘算法，可以从大量变量中挑选出对确定要解释的目标变量或响应变量最重要的变量。与决策树不同，随机森林的结果可以很好地概括新数据。

套索回归分析是线性回归模型的一种收缩和变量选择方法。套索回归的目标是获得对定量响应变量预测误差最小的预测因子子集。套索回归是通过对模型参数施加限制，使某些变量的回归系数向零收缩来实现这一目标的。在缩小过程后，回归系数等于零的变量将被排除在模型之外。回归系数不为零的变量与响应变量的关联性最强。解释变量可以是定量变量，也可以是分类变量或两者兼而有之。在本课中，您将应用并解释套索回归分析。您还将积累使用 k 倍交叉验证选择最佳拟合模型的经验，并获得对模型测试误差率的更准确估计。 要测试套索回归模型，您需要从数据集中确定一个定量响应变量（如果还没有这样做），并选择一些额外的定量和分类预测（即解释）变量，以建立一个更大的预测变量库。 如果有更多的预测变量可供测试，就能最大限度地丰富套索回归分析的经验。请记住，套索回归是一种机器学习方法，因此您对其他预测因子的选择并不一定要依赖于研究假设或理论。抓住机会，尝试一些新变量。lasso 回归分析将帮助您确定哪些预测因子最重要。还需注意的是，如果您使用的数据集相对较小，则无需将数据分成训练数据集和测试数据集。您采用的交叉验证方法就是为了在观测数据数量有限的情况下消除分割数据的需要而设计的。

聚类分析是一种无监督的机器学习方法，它将数据集中的观测值划分为一组较小的聚类，其中每个观测值只属于一个聚类。聚类分析的目标是根据多个变量的相似性将观测值分组或聚类。聚类变量应主要是定量变量，但也可包括二元变量。在本节课中，我们将向您展示如何使用 k-means 聚类分析来识别数据集中的观察结果聚类。您将获得解释聚类分析结果的经验，使用图表方法帮助您确定需要解释的聚类数量，并检查聚类变量的手段以评估聚类概况。最后，您将有机会通过检查聚类分析中未包含的变量在聚类间的差异来验证您的聚类解决方案。 您可以使用与过去几周相同的变量作为聚类变量。如果之前的解释变量大多或全部是分类变量，则应从数据集中找出一些额外的定量聚类变量。理想情况下，大部分聚类变量都是定量变量，但也可以包括一些二进制变量。此外，您还需要从数据集中确定一个不包含在聚类分析中的定量或二元响应变量。您将使用这一变量来验证您的聚类，方法是使用统计方法（如方差分析或卡方分析）评估您的聚类在这一响应变量上是否存在显著差异。还请注意，如果您使用的是相对较小的数据集，则无需将数据分成训练数据集和测试数据集。