courase machine learning 课程笔记 - 大招的博客

1. 回归

梯度下降更新的时候要同步更新
theta 一般初始值都为 0

batch gradient descent

事实证明，用于线性回归的代价函数总是一个凸函数convex function 因此这个函数没有局部最优只有全局最优

数据similar scale 能够更快收敛

缩放其实不需要太精确，目的是为了让梯度下降更好地工作

画收敛图来验证梯度下降的效果

纵轴是j（theta）横轴是iteration

如果j（theta）上升或者波动可能就是learning rate的值调太大了此时应该减少学习步长

选择learning rate α 可以尝试 0.001，0.003,0.01，0 03,0.1，…,1 …

多项式回归

特征结合

我们的模型可能不是线性的，用多项式回归可能更好地fit数据

不过多项式回归可能导致不同特征直接的差异性很大，所以应该要scale一下，以便更好地进行梯度下降

ormal equation

X*theta =y

利用矩阵知识求得

theta = inv（X’*X）*X’*y

特征不需要归一化

2. 逻辑回归

Cost Fuction

通过推导，逻辑回归的梯度方程跟线性回归一样，这是hypothesis不一样

Advanced Optimization

还有很多其他的优化算法例如共轭梯度法、BFGS，LBFGS等

优点：

不需要手动选学习步长
更快收敛

缺点：

比梯度下降复杂度更高

不推荐自己实现，可使用matlab的库函数fminunc

我们需要写一个CostFunction函数返回J(theta) 和此时的梯度

function [jVal, gradient] = costFunction(theta)
  jVal = [...code to compute J(theta)...];
  gradient = [...code to compute derivative of J(theta)...];
end

例子：

options = optimset('GradObj', 'on', 'MaxIter', 100);
initialTheta = zeros(2,1);
   [optTheta, functionVal, exitFlag] = fminunc(@costFunction, initialTheta, options);

过拟合？ overfitting high variance

欠拟合 underfitting high bias

过拟合的解决方法：

减少特征： 1）手工选择 2）从模型中选择

PS：舍弃特征=丢弃信息

正则化 Regulization 1）保留所有特征，但减小了theta （岭回归 l2范数）

Regulization

Small value of parameters theta1,theta2…thetan

‘simpler’ hypothesis
less prone to overfitting

假如有一个模型需要预测，我们不知道哪些特征是重要的，所以我们才一起缩减全部的theta参数，通过J（theta）乘法函数里面加一则正则化项（惩罚项，一般不对theta0做正则）

PS: λ太大会导致所有θ≈0 underfitting

应用到梯度下降：

应用到normal equation：

此外，正则化可以为我们处理XTX不可逆的情况（例如m < n）

Recall that if m < n, then xtx is non-invertible. However, when we add the term λ⋅L, then + λ⋅L becomes invertible.

3. 神经网络

神经元 = 计算单元

activation function 激励函数（例如sigmoid）

神经网络由不同的神经元组成

三层结构

输入层隐藏层（多层）输出层

activation units

Forward propagation

神经网络的计算单元跟逻辑回归很像（只不过输入由上一层计算得来）

神经元实现OR | AND 逻辑:

下面是一个利用AND （NOT） AND (NOT) OR 来构建更加复杂的XNOR逻辑的例子：

神经网络->多分类问题(handwriting recognition) one vs all

例如有4个待分类的类别标签使用one-hot编码 [1;0;0;0] or [0;1;0;0] [0;0;1;0] [0;0;0;1]

神经网络的 Cost Function ：

BP 算法（反向传播算法）求出J(theta)的偏导

For training example t =1 to m:

Set a(1):=x(t)
Perform forward propagation to compute a(l) for l=2,3,…,L
Using y(t) , compute δ(L)=a(L)−y(t)
Compute δ(L−1),δ(L−2),…,δ(2) using δ(l)=((Θ(l))Tδ(l+1)) .∗ a(l) .∗ (1−a(l))
Δ(l)i,j:=Δ(l)i,j+a(l)jδ(l+1)i or with vectorization, Δ(l):=Δ(l)+δ(l+1)(a(l))T 计算完Δ矩阵之后，可以根据以下公式计算J(theta)的偏导数
- D(l)i,j:=1m(Δ(l)i,j+λΘ(l)i,j) , if j≠0.
- D(l)i,j:=1mΔ(l)i,j If j=0
```
 δ(2)2 = Θ(2)12 *δ(3)1 +Θ(2)22 *δ(3)2 .
```
  Unrolling Parameters
  
  因为神经网络有多层theta向量，所以要在CostFuction中要展开以便更好地运算

matlab命令：

合并：

thetaVector = [ Theta1(:); Theta2(:); Theta3(:); ]
deltaVector = [ D1(:); D2(:); D3(:) ]

展开：
```
Theta1 = reshape(thetaVector(1:110),10,11)
Theta2 = reshape(thetaVector(111:220),10,11)
Theta3 = reshape(thetaVector(221:231),1,11)
```
梯度检验

因为反向传播算法容易出BUG，所以我们需要用梯度检验这一数值算法来检验我们的反向传播算法是否正确计算。一旦我们确认反向传播backpropagation是没有错误之后我们就可以关掉gradient checking，因为其复杂度高运行时间长。

代码：

epsilon = 1e-4;
for i = 1:n,
  thetaPlus = theta;
  thetaPlus(i) += epsilon;
  thetaMinus = theta;
  thetaMinus(i) -= epsilon;
  gradApprox(i) = (J(thetaPlus) - J(thetaMinus))/(2*epsilon)
end;

breaking symmetry

theta 的初始值要怎么设定才好呢？

像逻辑回归一样设为0吗？这样做在逻辑回归里面是可以的，但是在神经网络里面是不行的，会导致对称的现象出现，因此为了breaking symmetry，要随机初始化theta的值

综合

首先要选择一个合适的架构（多少层多少节点）

输入节点：跟特征数一样
输出节点：跟分类问题的类别一样
隐藏层的层数：一般来说大于1，默认一层，一般隐藏层每层的单元数相等

接下来是训练神经网络

随机初始化theta
实现forward propagation
实现cost function
计算误差，进行back propagation计算偏导数
使用梯度检验验证back prop的正确与否
使用优化算法优化J(theta)

PS: 神经网络的J(theta) 不是convex的，所以我们不能保证一定收敛到全局最优

4. 模型选择、特征选择

一般来说训练集要分三部分训练集60% 交叉验证集20% 测试集%

训练集用来优化J(theta) 验证集用来调参或者特征工程测试集是评估模型的好坏

总的来说一定不能让测试集参与到训练的过程让测试集代表那些模型从未接触过的新数据

欠拟合：训练集误差高验证集误差高
过拟合：训练集误差低验证集误差高（泛化能力差）

learning curve

高偏差 high bias 增加样本是没用的

高方差 high variance （gap）增加训练样本可能有用

接下来看看那种方法应对哪种情况

Deciding What to Do Next Revisited

Our decision process can be broken down as follows:

Getting more training examples: Fixes high variance
Trying smaller sets of features: Fixes high variance
Adding features: Fixes high bias
Adding polynomial features: Fixes high bias
Decreasing λ: Fixes high bias
Increasing λ: Fixes high variance. 一般来说先撸一个baseline model 以便分析是不是要加特征、减特征、增数据？建造新特征或者做特征工程的时候可以用来做对比

小型的神经网络：计算复杂度小但是容易欠拟合

大型的神经网络（隐藏层多计算units多）：计算复杂度高可能会回出现过拟合一般来说比较偏向于去使用大型的神经网络+正则项（J（theta）里加Theta矩阵的总平方）

Error Analysis

The recommended approach to solving machine learning problems is to:

Start with a simple algorithm, implement it quickly, and test it early on your cross validation data.
Plot learning curves to decide if more data, more features, etc. are likely to help.
Manually examine the errors on examples in the cross validation set and try to spot a trend where most of the errors were made.

对于一些skewed classes的模型单纯用一些简单的正确率是不能很好地评价的因此我们引入了召回率和准确率

一般来说召回率和准确率是两个相反的极端：

阈值很高的时候也就是很有信心才判1的情况下准确率很高召回率很低

保守一点很容易判1的情况就召回率很高准确率很低

F1 score = 2 * PR / (P+R) F值权衡了准确率和召回率

5. SVM（support vector machine ）

也被称为large margin classifier
对ourlier 离群点非常敏感

对于核函数的讲解，吴老师有不同的解释方式

** SVM Kernel**

对于非线性的划分边界我们之前的做法是加多项式特征，然而

多项式是否真的是我们需要的特征
当原本特征数量多的时候，例如图像识别，做多项式似乎是不可行的有别的方法吗？kernel

高斯核函数：

对于我们要建造的新的三个特征值，我们选中三个参考点计算我们的训练集点与这三个点的相似性

相似性计算公式：

如果离参考点很近：≈1

如果离参考点很远： ≈0

二维向量的情况下画出来大概是这样：

当标准差σ变小是峰会变窄，增大时峰会变平缓

上面这幅图说明当选们θ0取-0.5 θ1=1 θ2= 1 θ3= 0时，离参考点1、2越近那么就越容易被判为1，因此决策边界如上图红线所示。因此也获得了非线性的决策边界。

但是问题来了？如何挑选参考点？-将自己的训练样本作为参考点 -> 特征多

大的方差，模型缓慢，y变化可能也缓慢，所以是更好的泛化性，所以高偏差低误差为什么叫做最大margin？

其中，p(i) 是x(i) 在θ向量上的投影

观察下图哪个投影比较大？肯定是右边所以能够更好地min θ

SVM需要我们选择C 选择σ 选择核函数（相似性函数）

注意：当训练样本比较少的情况下，应该不适用核函数，因为容易过拟合

核函数：满足默塞尔条件的核函数-原因是能够满足各种高级优化方法从而能够快速求θ 线性核的时候跟逻辑回归没有差别

逻辑回归的cost函数：

SVM的：

C= 1/λ 即svm提出了λ 其实意义还是一样 No kernel = linear kernel 其他核（比较少用）：多项式核、卡方核

svm与逻辑回归的应用场合

6. unsupervised learning

聚类
PCA
K-means algorithm

两个输入
簇的个数k
没有label的training set PS：这个时候training set 是n维的不用加常数项了

执行的时候分为两个阶段：

cluster assignmentc(i) -> 跟踪每个样本属于那个类可以证明这个是在min 损失函数通过改变 c(1)…c(m)
move centroid u(i)->跟踪每个聚类的中心可以证明这个是在min 损失函数通过改变 u(1)…u(m)

伪代码：

PS: 有可能某一个类一个点都没有，这时候删除掉这个类是比较好的做法

优化目标：

用多几次k-means取找全局最优怎样选择k？

一般来讲手工来选
elbow methow
根据后续操作来选k
PCA（主成分分析）
- 作用：降维压缩数据
- 例如：加入两个特征高度相关，那么就需要降维

可视化：将高维数据映射到低维然后plot出来

假设数据点是二维的

目的：找一条直线来做映射

优化：找低维度的面，将投影误差的平方最小化
前期准备：归一化标准化规范化

尽管PCA和线性回归有点像，但是是两个totally different的算法首先线性回归是找垂直距离，PCA是找直角距离，其次线性回归是预测y，PCA没啥好预测的

 数据预处理：如果特征变量之间的跨度很大的化，需要归一化

svd奇异值分解获取u

Sigma = 1/m * X’ * X (假设X ∈ m×n维)

其中U n×n矩阵，就是我们变换后的方向矩阵（取前k个特征即可）：这个相当于是找了k个方向

我们需要获取的是变换后的z(x是n×1维的)：z = Ureduce’ * x

PS：跟k-means算法一样，不需要用到常数项

reconstruct

PCA是将高维压缩到低维度，那么我们有时候也需要将压缩完了的数据恢复到高维情况下（例如3维数据压缩到2维，我们想回去看看再三维的情况下哪个映射平面是怎样的）

因此

接下来继续降维的问题，怎样取选择k（主成分的数量）呢？尽可能保留数据的差异性

事实上实际大部分数据的特征都是高度相关的，所以维度下降的幅度大，然而数据的差异性也保持得很好

PS：利用S矩阵来计算不同得k是否满足上面得原则 k=1、k=2、…

PCA的作用：

减轻磁盘储存压力
加速算法学习
压缩到2维或者3维来可视化数据
PCA的错误用法
不应该用来作为减少特征从而避免过拟合（应该加正则项才是更适合）
不应该在项目的一开始就将PCA考虑进去，我们应该处理原始数据，直至有实质性的数据支撑我们需要用到PCA时我们才使用（例如收敛过慢、内存开销太大、磁盘开销太大等）
异常检测 Anomaly detection

利用已有数据建模P(x) 测试新样本是否存在异常情况（P(x) < ε）