跳转至

机器学习学习笔记

术语表

常见层:

Flatten 压平层把多维的数据化成一维常用在从卷积层到全连接层的过渡
Dense   全连接层
Dropout 训练时依据概率随机拿掉一些神经元防止过拟合
softmax 归一化指数函数常用来做输出层比如分类器网络的输出有10个节点不同节点得到了不同的置信率后接一层softmax层就能找到
Embedding 嵌入层常用于NPL领域的输入层一方面能改变维度一方面在网络中增加参数为原本毫无关联的输入项建立关联学习过程中调整的参数即是在动态调整这些关联),参考深度学习中 Embedding层两大作用的个人理解

编码:

one-hot 一种编码方式,多用在NPL领域,比如词语集one two three可以表示为1 2 3也可以表示为[1 0 0] [0 1 0] [0 0 1],后者就是one-hot编码,它容易计算

参考

工具

  • Keras API https://keras.io/zh/
  • Keras 是一个用 Python 编写的高级神经网络 API,它能够以 TensorFlow, CNTK, 或者 Theano 作为后端运行。Keras 的开发重点是支持快速的实验。能够以最小的时延把你的想法转换为实验结果,是做好研究的关键。

教程:李宏毅2020深度学习(完整版)国语

P3. Regression - Case Study

如何用机器学习解决问题:

  1. 定义预测函数
  2. 定义损失函数:函数对训练数据的损失越小,这个函数就越好,表示损失程度的函数就是损失函数
  3. 选出最优函数——梯度下降法(Gradient Descent)

梯度下降法可以得到一个局部最优解(Local optimal):

image-20210327145622194

但在线性方程中,不用担心这个问题:

image-20210327150418004

这里举了个例子,用pokemon的“进化前cp值”去预测“进化后的cp值”:

​ 用二次函数比一次函数模型来做,testing data的average error要更好:

image-20210327151226587

但用三次函数时,发现效果反而更差了:

image-20210327151427436

这就是过拟合(Overfitting):

image-20210327151538310

改进的方法是,损失函数中加一项,表示“尽可能地使输出对输入不敏感”(平滑),正则化“Regularization”:

image-20210329143441391

平滑,但不希望太平滑:

image-20210329143740916

4.Basic Concept

error分为bias & variance

image-20210330094943240

简单的model,variance会比较小;

复杂的model,bias会比较小(图里黑线为假设的目标函数,蓝线是用不同数据集算出的函数平均出(?)的函数)

image-20210330095640282

bias大的解决方法,考虑欠拟合、过拟合,改进model:

  • 欠拟合可能是模型不够复杂、存在未考虑的input(特征)
  • 过拟合可能是模型过于复杂

variance大的解决方法:

  • 增加数据集容量
  • 之前提到的正则化

image-20210330100338100

模型的选择

数据集分为:

  • 网上公开的Testing Set
  • 别人私有的Testing Set

用网上公开的数据集筛选出的模型,对于私有的Testing Set肯定会有更高的误差。

正确的做法是:把数据集分为:Training Set / Validation Set,千万不要参考“验证数据集”筛选(修改)模型。

image-20210330101803887

一种方法是,把数据集分为3份,两份用来训练一份用来训练,做三次,找出Avg Err最小的模型:

image-20210330102221477