Diagon Alley

一个一个一个人 / 谁比谁容易 / 又有什么了不起

Deep Learning | Chapter 6 · Deep Feedforward Networks

深度前馈网络定义函数 $\pmb{y}=f(\pmb{x};\pmb{\theta})$ ，并学习参数 $\theta$ 以获得对于函数 $y=f^*(\pmb{x})$ 的最佳近似。训练数据是含有噪声的 $f^* (\pmb{x})$ 的近似实例，每个 $\pmb{x}$ 的标签 $y \approx f^*(\pmb{x})$ 。只有输出层能够决定网络输出的 $y$ ，其他层被称之为隐藏...

  • vineash
  • 2020 年 11 月 26 日
  • 暂无评论

    • Deep Learning | Chapter 5 · Machine Learning Basics

    5.1 Learning AlgorithmsLearn 的定义： Task( $T$ ) + Experince( $E$ ) + Performance( $P$ ) 。5.1.1 The Task, $T$分类：有函数 $f$ ，一般可以分为两种$f$ 将 $x\in \mathbb{R}^n$ 映射为一个表示种类的数 $y\in \{1,\dots,k\}$ 。$f$ 将 $x\i...

  • vineash
  • 2020 年 11 月 14 日
  • 暂无评论

    • Deep Learning | Chapter 4 · Numerical Computation

    4.1 Overflow and Underflow接近零的数被四舍五入为零时发生下溢，当大数被近似为 $+\infty$ 或 $-\infty$ 时发生上溢。以 softmax 函数为例， $\mathrm{softmax}(\pmb{x})_i=\frac{e^{x_i}}{\sum_{j=1}^ne^{x_j}}$ 。分母太小造成除零错误，解决方法：令 $a=\mathrm{max}x...

  • vineash
  • 2020 年 11 月 05 日
  • 暂无评论

    • Deep Learning | Chapter 3 · Probability and Information Theory

    3.1 Why Probability?不确定性的三种来源频率派概率和贝叶斯概率3.2 Random Variables随机变量：可以随机取不同值的变量。例如， $x_1$ 和 $x_2$ 都是随机变量 $\mathrm{x}$ 可能取的值。3.3 Probability Distributions3.3.1 Discrete Variables and Probability Mass F...

  • vineash
  • 2020 年 10 月 30 日
  • 暂无评论

    • Deep Learning | Chapter 2 · Linear Algebra

    老板让读的书 Deep Learning - Ian Goodfellow，从第二章开始随便记点笔记。2.1 Scalars, Vectors, Matrices and Tensors标量、向量、矩阵张量：超过两维的数组。矩阵的转置广播：$\pmb{C}=\pmb{A}+\pmb{b}$ ，其中 $C_{i,j}=A_{i,j}+B_{i,j}$ 。2.2 Multiplying Matr...

  • vineash
  • 2020 年 10 月 20 日
  • 暂无评论