深度學習 DEEP LEARNING 學習筆記（一）

• 深度學習本書的作者是伊恩·古德費洛，約書亞·本吉奧，亞倫·庫維爾
• 如果覺得我的筆記有不合適的地方，歡迎留言。

學習筆記（一）

關鍵字：1.標量、向量、矩陣和張量2.矩陣和向量相乘 3.單位矩陣和逆矩陣

1.標量、向量、矩陣和張量
（1） 標量：一個標量就是一個單獨的數，用斜體小寫的變數名稱來表示標量。在介紹時，要明確是哪種型別的數。eg：令 s∈R表示一條線的斜率。
（2）向量：一個向量是一列數。用粗體小寫的變數名稱來表示向量。eg：向量 x的第一個元素x1。在介紹時，也要明確是哪種型別的數。向量中的數是有序排列的。透過索引，可以確定每個單獨的數。如果每個元素都屬於R，並且向量有n個元素，那麼該向量屬於實數集R的n次笛卡爾積構成的集合，記為R的n次方。用-表示集合的補集中的索引。eg： 表示 x中除x1外是所有元素。

（3）矩陣：矩陣是一個二維陣列，兩個索引確定一個元素。用粗體大寫的變數名稱來表示矩陣，eg： A。用：表示水平座標，以表示垂直座標i中的所有元素。eg： 表示第i行。 表示第i列

（4）張量：一般的，一個陣列中的元素分佈在若干維座標的規則網格中，稱之為張量，eg： A。
（5）轉置：
矩陣：把矩陣 A的轉置記為 ，定義如下：

 

 向量：把向量看作只有一列的矩陣，向量的轉置可以看作只有一行的矩陣。

標量：標量可以看作只有一個元素的矩陣。所以標量的轉置為它本身 。

2.矩陣和向量相乘
運算有以下
（1）矩陣+矩陣，兩矩陣形狀一樣，就可以相加。對應位置元素相加。eg：

（2）標量+矩陣，標量x矩陣，將標量與矩陣的每個元素相加或相乘。eg：

（3）矩陣+向量，向量和矩陣的每一行相加。eg：

（4）矩陣乘積，矩陣x矩陣，矩陣 A的列數必須等於矩陣 B的行數。 eg：滿足分配律，結合律

（5）元素對應乘積：兩矩陣對應位置元素的乘積。

（6）點積：兩個相同維數的向量 x和 y的點積,滿足交換律

3.單位矩陣和逆矩陣
（1）任意向量和單位矩陣相乘都不會發生變化。單位矩陣是方陣，主對角線都是1，其餘位置都是0。
（2）矩陣 A的矩陣逆記為 。逆矩陣的定義滿足如下條件：