哈达玛积 点积

哈达玛积(点积)，$$s \odot t$$

反向传播算法基于一个通用的线性代数运算—-向量乘以矩阵，就像向量加法那样。 不过没矩阵加法那么常用。具体来讲，加入s和t是两个维度相同的向量。 我们使用s \odot t记做两个向量的点积。s \odot t的元素化写法为s \odot t = s_jt_j.下面是一个例子：

$$ \begin{bmatrix} 1\ 2 \end{bmatrix}

\odot

\begin{bmatrix} 3\ 4 \end{bmatrix}  =

\begin{bmatrix} 13\ 24 \end{bmatrix}

=

\begin{bmatrix} 3\ 8 \end{bmatrix}

\qquad \qquad \qquad (28) $$

这种点乘有时也成为哈达玛积或者舒尔积。我们将称之为哈达玛积。优秀的矩阵库通常会提供高效的哈达玛积的计算，这对于计算反向传播算法会非常有帮助。