引入

回归问题和分类问题以前老是弄混，最直接的记法就是，分类问题是针对离散空间的，就比如说给定一张图片，根据其特征判断这张图片是猫还是狗，这就是分类问题；回归问题的话是针对连续空间的，比如预测距离，概率等。

引入

开始前先回顾一下贝叶斯决策理论。

线性降维（Linear Dimensionality Reduction）（以PCA为例）

引入

主成分分析（Principal Component Analysis，PCA）是最常见的线性降维方法。

时间复杂度

常用的时间复杂度有7种：

引入

一个经典的SLAM模型由一个运动方程和一个观测方程构成

引入

与其它机器学习方法类似，DNN在训练过程中也会遇到过拟合的现象，尤其是当参数数量多于输入数据量时。为了防止过拟合现象，除了增加训练样本外，最常见的就是各种正则化方法，比如：数据增强、$L1$ 正则化、$L2$ 正则化、Dropout、DropConnect 和早停法（Early stopping）等。
下面对这些方法进行逐一介绍。