Notes on An Introduction to Statistical Learning with Applications in Python

link 2 Statistical Learning 2.1 什么是统计学习 $Y = f(X) + \epsilon$ $f(X)$ 是我们要用模型去估计的目标。随机噪声（误差项 error term） $\epsilon$ 是不可约误差。 预测 Prediction：只关心预测的准确度，不关心过程，模型可以是黑箱 推断 Inference：关心为什么，理解变量与结果之间的关联性 Parametric Method：先假设模型，再拟合（训练）模型 模型假设可能不符。如果用更灵活的模型，引入更多参数，可能会导致过拟合 overfitting，把噪声也学习了。 Non-Parametric Method：避免了预设模型严重不符的情况。但是需要更多数据。 准确性与模型可解释性之间的 Trade-off。 监督学习与无监督学习。 无监督学习没有对应的响应变量。我们可以对观测进行聚类分析 cluster analysis，判断各观测可否划分成若干个相对独立的组。 如果只有两个变量，观察平面散点图就能识别聚类。但如果有 $p$ 个变量，不同的散点图就有 $p(p-1)/2$ 幅，需要自动化的聚类方法。 变量可以分为定量的和定性的。输出定量变量的叫做回归 Regression，输出定性变量的叫做分类 Classification。基于此选择统计学习的方法。不过输入变量的类型不太重要。 2.2

• #notes
• #learning
• #introduction
• #applications