关于本章

本章主要描述的是deep learning相关理论：

deep learning基础理论：以deep learning book为参考，在Book-deep-learning章节记录了阅读笔记；

Attention：在Attention章节描述；

end-to-end：在End-to-end章节描述；

概括

model是对关系的假设，是对无法形式化描述的关系的表达；model有着parameter，如何学习到一个model？显然就是学习这个model的parameter；

显然这些parameter是我们需要学习的；那如何学习呢？

通过minimize loss来进行学习；如何来定义loss？真实与model输出之间的关系；

minimize loss function即最小化损失函数

优化理论，寻找最优解的过程了。就好比高中课程中所学习的函数在何处取得极值。

正向传播与反向传播。