SciTech-BigDataAIML-TensorFlow-Model的編譯：設定(LossFunction+Optimizer+Metrics)與編譯

abaelhe發表於2024-05-11
AI編譯Function

機器學習|model.compile()用法

model.compile()的作用:

  • 為經過設計的Model(神經網路模型)設定好：
    • loss損失函式、
    • optimizer最佳化器、
    • metrics準確性評價函式。
  • 並且進行編譯；

Optimizers最佳化器：

  • Optimizer 的主要功能是作用在GD(梯度下降)的過程,
    使得Gradient(梯度)更快(快速逼近峰值)更好(不空不漏不亂)的收斂,
    從而儘快找到LossFuction(目標函式)的最小值。
    可以理解為以最優最快方式的尋找最優的“損失”（loss）。
  • Optimizer可選引數：
    • SGD: 隨機GD(隨機梯度下降)
    • RMSprop(動量)
    • Adam(最佳化的動量, 常用的選擇)
    • Adadelta
    • Adagrad
    • Adamax
    • Nadam
    • Ftrl

Loss損失函式

  • loss(cost) 描述的是 "真實值" 與 "預測值" 之間的資訊差;
  • 而損失函式的目的是去計算其中“損失量”的大小，進而得出一個損失/資訊熵儘可能小的解，即最優權重引數。
    (如圖：隨著訓練輪次增加，損失值下降的過程)
  • loss function(cost function)是將隨機事件或其有關隨機變數的取值,
    對映為非負實數以表示該隨機事件的Cost(成本)或Risk(風險)的函式。
  • Model(神經網路模型)以某個指標為線索尋找最優權重引數。

loss可選引數
Probabilistic losses
BinaryCrossentropy class
CategoricalCrossentropy class
SparseCategoricalCrossentropy class
Poisson class
binary_crossentropy function
categorical_crossentropy function
sparse_categorical_crossentropy function
poisson function
KLDivergence class
kl_divergence function

迴歸損失（Regression losses）
MeanSquaredError class
MeanAbsoluteError class
MeanAbsolutePercentageError class
MeanSquaredLogarithmicError class

CosineSimilarity class
mean_squared_error function
mean_absolute_error function
mean_absolute_percentage_error function
mean_squared_logarithmic_error function
cosine_similarity function
Huber class
huber function
LogCosh class
log_cosh function

最大間隔分類（maximum-margin classification）
Hinge class
SquaredHinge class
CategoricalHinge class
hinge function
squared_hinge function
categorical_hinge function

準確性評價函式（Metrics）

準確性評價函式用在評估模型預測的準確性。在模型訓練的過程中，我們會記錄模型在訓練集、驗證集上的預測準確性，之後會據此繪製準確率隨著訓練次數的變化曲線。

Metrics 可選引數

Accuracy metrics
BinaryAccuracy class
CategoricalAccuracy class
SparseCategoricalAccuracy class
TopKCategoricalAccuracy class
SparseTopKCategoricalAccuracy class
Probabilistic metrics
BinaryCrossentropy class
CategoricalCrossentropy class
SparseCategoricalCrossentropy class
KLDivergence class
Poisson class
Regression metrics

MeanSquaredError class
RootMeanSquaredError class
MeanAbsoluteError class
MeanAbsolutePercentageError class
MeanSquaredLogarithmicError class
CosineSimilarity class
LogCoshError class
Classification metrics based on True/False positives & negatives

AUC class
Precision class
Recall class
TruePositives class
TrueNegatives class
FalsePositives class
FalseNegatives class
PrecisionAtRecall class
SensitivityAtSpecificity class
SpecificityAtSensitivity class
Image segmentation metrics

MeanIoU class
Hinge metrics for "maximum-margin" classification

Hinge class
SquaredHinge class
CategoricalHinge class

釋出於 2022-11-14 15:40・IP 屬地浙江
深度學習（Deep Learning）
機器學習
Keras

相關文章