DL4J實戰之六:圖形化展示訓練過程

程式設計師欣宸發表於2021-10-21

歡迎訪問我的GitHub

這裡分類和彙總了欣宸的全部原創(含配套原始碼):https://github.com/zq2599/blog_demos

本篇概覽

  • 本篇是《DL4J實戰》系列的第六篇,我們們繼續夯實基本功,這次學習的是如何更加形象完整的展示訓練過程:圖形化頁面,效果如下圖所示:

在這裡插入圖片描述

  1. 基本的圖形化功能
  2. 圖形化資料的持續儲存問題
  3. 圖形化頁面的埠配置問題

依賴庫配置

  • 首先是新增依賴庫,一共需要兩步:

  • 開啟父工程dlfj-tutorials的pom.xml,這是管理依賴庫版本號的地方,在dependencies節點確保以下子節點是存在的,這裡dl4j-master.version的值是1.0.0-beta7

<dependency>
	<groupId>org.deeplearning4j</groupId>
    <artifactId>deeplearning4j-ui</artifactId>
    <version>${dl4j-master.version}</version>
</dependency>
  • 開啟子工程simple-convolution的pom.xml,新增deeplearning4j-ui庫的依賴:
<dependency>
	<groupId>org.deeplearning4j</groupId>
	<artifactId>deeplearning4j-ui</artifactId>
</dependency>
  • 如果您在用的是IDEA,建議執行下圖中的操作,確保配置立即生效:

在這裡插入圖片描述

增加圖形化相關程式碼

  • 圖形化相關的程式碼很少,只有寥寥幾句,寫在MultiLayerNetwork例項初始化之後的位置即可,如下圖紅框所示:

在這裡插入圖片描述

  • 上圖紅框中的程式碼在此,方便您使用:
// 初始化使用者介面後端
UIServer uiServer = UIServer.getInstance();

// 配置要儲存網路資訊(梯度、分數、時間等)的位置。這裡:儲存在記憶體中。
StatsStorage statsStorage = new InMemoryStatsStorage();

// 將StatsStorage例項附加到UI:這允許StatsStorage的內容視覺化
uiServer.attach(statsStorage);

//然後新增StatsListener來收集網路上的資訊
net.setListeners(new StatsListener(statsStorage));
  • 最後,為了避免程式過早結束導致無法繼續檢視圖形化資訊,在main方法的末尾動一點手腳,如等待輸入或者延時,我這裡加了個延時:
Thread.sleep(Integer.MAX_VALUE);

在這裡插入圖片描述

  • 還可以將頁面語言換成中文,如下圖:

在這裡插入圖片描述

  • 點選下圖紅框中的選單,還可以看到神經網路每一層的詳情:

在這裡插入圖片描述

  • 基本功能已經完成,接下來看看持久化問題

持久化儲存頁面展示的內容

  • 前面的圖形化功能有個明顯的問題:一旦程式結束,web服務也就結束了,下次再啟動,頁面上展示的也是最新一次訓練的資料,如果想儲存頁面上展現的內容以便後面再回放,應該如何做呢?接下來一起操作,改成可以持久化儲存的

  • 找到這一行程式碼:

StatsStorage statsStorage = new InMemoryStatsStorage();
  • 把上面那行程式碼刪除,換成下面這行,File物件的入參是資料儲存位置,請按照您電腦的實際情況修改:
StatsStorage statsStorage = new FileStatsStorage(new File("E:\\temp\\202107\\11", "ui-stats.dl4j"));
  • 把下面這行程式碼也刪除,這樣訓練完成後程式會立即結束:
Thread.sleep(Integer.MAX_VALUE);
  • 現在執行程式碼執行一次訓練,完成後,在E:\temp\202107\11目錄發現生成了名為ui-stats.dl4j的檔案:

在這裡插入圖片描述

  • 上圖看起來已經把資料儲存硬碟,接下來試試能不能再次讀取到,在simple-convolution工程中新增Test.java,程式碼如下所示,寥寥幾行,全是前面那點東西:
package com.bolingcavalry.convolution;

import org.deeplearning4j.api.storage.StatsStorage;
import org.deeplearning4j.ui.api.UIServer;
import org.deeplearning4j.ui.storage.FileStatsStorage;
import java.io.File;

public class Test {
    public static void main(String[] args) throws Exception {
        UIServer uiServer = UIServer.getInstance();
        StatsStorage statsStorage = new FileStatsStorage(new File("E:\\temp\\202107\\11", "ui-stats.dl4j"));
        // 將StatsStorage例項附加到UI:這允許StatsStorage的內容視覺化
        uiServer.attach(statsStorage);
        Thread.sleep(99999);
    }
}

在這裡插入圖片描述

  • 聰明的您看了上面的Test.java程式碼,一定會對欣宸投來鄙視的眼光,就這水平?請容我解釋一下,這裡只是演示如何載入和展示資料,所以寫的過於簡陋,您可以將此程式碼段放在常用的web應用中,如SpringBoot,這樣就能按需要載入和檢視了

  • 解決了儲存問題,我們們再來看看web埠如何調整,因為埠衝突,或者一些埠管理,都有調整埠的需求,而不能固定在9000

關於圖細化服務的web埠

在這裡插入圖片描述

  • 聽官方的,配置啟動引數,操作如下圖:

在這裡插入圖片描述

  • 確保下圖紅框2中的選單被選中:

在這裡插入圖片描述

  • 在下圖紅框位置(VM options位置)填入官方推薦的內容,將埠指定為9001:

在這裡插入圖片描述

  • 怕自己設定的引數有問題,我新增了下圖紅框中的兩行程式碼,將引數列印出來:

在這裡插入圖片描述

  • 再次執行Test.java,如下圖,紅框2證明我按照官方建議輸入的引數是沒有問題的,但是紅框1顯示服務還在監聽9000埠:

在這裡插入圖片描述

  • 去瀏覽器上試試,發現確實如此:9000埠服務正常,9001埠無法訪問

  • 這就鬱悶了,我的操作有問題嗎?若是有問題,System.getProperty("org.deeplearning4j.ui.port")的輸出是9001又怎麼解釋?

  • 還是去看下原始碼吧,很容易就查到了設定埠值的程式碼,在VertxUIServer類中,如下圖紅框所示,真像大白了!獲取埠的程式碼是System.getenv,這是獲取環境變數的方法,不能用前面那種方式去設定:

在這裡插入圖片描述

  • 既然原始碼中是用System.getenv方法獲取引數的,那我們們就按照環境變數的方法來輸入吧,如下圖所示,將之前的配置刪除,再在紅框2位置輸入引數,注意引數的最前面不需要-D

在這裡插入圖片描述

  • 改好後,再起執行Test.java,如下圖,紅框1顯示web服務監聽埠已經變成了9001,紅框2中的值為null,這也正常,因為最初的system property引數已經刪除了

  • 瀏覽器訪問http://localhost:9001試試,可以正常訪問了:

在這裡插入圖片描述

  • 所以,最終通過修改環境變數,我們們成功的修改了web埠,此刻再回想一下,官方提到的system property和-Dorg.deeplearning4j.ui.port=9001是怎麼回事呢,事實證明這樣改是沒用的...

  • 我覺得,應該是欣宸才疏學淺不瞭解真像,聰明的您如果發現了問題原因,麻煩您在文章評論者指點一二,謝謝啦。

  • 至此,圖形化展示訓練過程的實戰就完成了,希望本文能給您提供一些參考,幫您順利搭建圖形化環境,以更好的觀察和調整訓練引數、優化網路

你不孤單,欣宸原創一路相伴

  1. Java系列
  2. Spring系列
  3. Docker系列
  4. kubernetes系列
  5. 資料庫+中介軟體系列
  6. DevOps系列

歡迎關注公眾號:程式設計師欣宸

微信搜尋「程式設計師欣宸」,我是欣宸,期待與您一同暢遊Java世界...
https://github.com/zq2599/blog_demos

相關文章