深度学习（花书）——笔记_深度学习花书笔记

第一章 前言

1、表示学习：使用机器学习来发掘表示本身，而不仅仅是把表示映射到输出。
学习到的表示往往比手动涉及的表示表现更好
表示学习算法的典型例子是自编码器，自编码器由一个编码器 (encoder) 函数和一个解码器 (decoder) 函数组合而成。

2、当设计特征或设计用于学习特征的算法时，我们的目标通常是分离出能解释观察数据的变差因素

3、深度学习 (deep learning) 通过其他较简单的表示来表达复杂表示，解决了表示学习中的核心问题。

第二章 线性代数

1、确定 Ax = b 是否有解 相当于 确定向量 b 是否在 A 列向量的生成子空间中。这个特殊的生成子空间被称为 A 的列空间 (column space) 或者 A 的值域 (range)。

2、范数：衡量向量的大小

p=1：即统计非零元素的个数
p=2：欧几里得范数 ：表示从原点到向量x的欧式距离。

（类似于向量的L2范数）

3、特征分解：非方针矩阵没有特征分解

特征分解：假设矩阵 A 有 n 个线性无关的特征向量 {v(1), . . . ,v(n)}，对应着特征值{λ1, . . . , λ