深度學習筆記002-線性迴歸

地表最菜研究生發表於2020-10-28

線性迴歸(Logistic regression)是一個適用於二分類(Binary Classification) 的演算法

二分類問題舉例:

輸入一張圖片,判斷該圖片是否是一隻貓餅,是貓餅輸出1,不是輸出0
在這裡插入圖片描述

首先我們用 y來表示輸出的結果標籤

在計算機中,我們所看到的影像是使用RGB(red,green,bule)三種顏色來顯示的,通過不同的R,G,B數值來顯示不同的畫素點,最終一個個畫素點組合成我們所要看到的影像,如下圖所示:
在這裡插入圖片描述
我們把這些畫素值提取出來,放入一個特徵向量X中:
在這裡插入圖片描述
如果我們輸入的影像是64x64的三通道彩色圖片,我們的特徵向量X就是一個長度為64643=12288的一維向量(如上圖)

所以在二分類問題中,我們需要實現的就是訓練出一個分類器(classifier),這個分類器以我們的特徵向量x作為輸入,並進行預測,最後輸出結果標籤y(1或0),標籤結果代表圖片中是否有貓餅

一些符號:

好的符號,能夠使得後期深度學習的時候將不同訓練樣本的資料關聯起來(將不同的訓練樣本資料取出來放到不同的列上)
我們使用一對 (x,y) 來表示一個單獨的樣本;
x代表的是nX維的特徵向量,y則是label標籤:0或1

我們的訓練集由m個訓練樣本組成,我們使用(x1,y1)來表示第一個樣本(這裡的1是上標小1)在這裡插入圖片描述
依次類推,直到最後一個樣本(xm,ym)。

{(x1,y1)…(xm,ym)} 代表的就是整個訓練集
——————————————————————————————————————
我們使用小寫的m來表示整個訓練集中的樣本個數
——————————————————————————————————————
我們定義一個大矩陣X,由m列的特徵向量x組成,每個特徵向量x有mx維,如下圖在這裡插入圖片描述
所以矩陣X是一個nxm的矩陣,在python中可以用X.shape()輸出矩陣維度
——————————————————————————————————————
對於label標籤資料,我們同樣也是用一個1
m維度的矩陣來表示:
在這裡插入圖片描述

結束語:

符號的定義在後期理解訓練樣本很重要,可以翻閱

相關文章