TensorBoard可視化

TensorBoard簡介

TensorBoard是TensorFlow的可視化工具，它可以通過TrensorFlow程式運行程序中輸出 的日志檔案可視化TensorFlow程式的運行狀態，TensorBoard和TensorFlow程式跑在不同的行程中，TensoeBoard會自動讀取最新的TensorFlow日志檔案，并呈現當前TensorFlow狀態，以下代碼展示了一個簡單的TensorFlow程式，在這個程式中完成了TensorBoard日志輸出的功能，

import tensorflow as tf

#定義一個簡單的計算圖，實作向量加法的操作，
input1 = tf.constant([1.0,2.0,3.0], name="input1")
input2 = tf.Variable(tf.random_uniform([3]), name="input2")
output = tf.add_n([input1,input2], name="add")

#生成一個寫日志的writer，并將當前的TensorFlow計算圖寫入日志，TensorFlow提供了多種寫日志的API
writer = tf.summary.FileWriter("/path/to/log",tf.get_default_graph())
writer.close()

以上程式輸出了TensorFlow計算圖的資訊，所以運行TensorBoard時，可以看到這個向量相加程式計算圖可視化之后的結果，TensorBoard不需要額外的安裝程序，TensorFlow安裝完成時，TensorBoard會自動安裝，運行以下命令便可以啟動TensorBoard，

#運行TensorBoard，并將日志的地址指向上面程式日志輸出的地址，
tensorboard --logdir=/path/to/log

運行以上命令會啟動一個服務，這個服務的埠默認為6006.通過瀏覽器打開localhost:6006，可以看到圖1所示的界面，打開TensorBoard界面會默認進入GRAPHS界面，INACTIVE選項中列出的是當前沒有可視化資料的專案，如圖2，

TensorFlow計算圖可視化

TensorBoard可視化得到的圖不僅是將TensorFlow計算圖中的節點和邊直接可視化，它會根據每個TensorFlow計算節點的命名空間來整理可視化得到的效果圖，使得神經網路的整體結構不會被過多的細節所淹沒，除了顯示TensorFlow計算圖的結構，TensorBoard還可以展示TensorFlow計算節點上的其他資訊，
命名空間與TensorBoard圖上節點
為了更好地組織可視化效果圖中的計算節點，TensorBoard支持通過TensorFlow命名空間來整理可視化效果圖上的節點，在TensorBoard的默認視圖中，TensorFlow計算圖中同一個命名空間下的所有節點會被縮略成一個節點，只有頂層命名空間中的節點才會被顯示在TensorBoard可視化效果圖上，除了tf.variable_scope函式，tf.name_scope函式也提供了命名空間管理的功能，這兩個函式在大部分情況下是等價的，唯一的區別是在使用tf.get_variable函式時，（具體不再詳細介紹）通過對命名空間管理，可以改進之前的樣例代碼，使得可視化得到的效果圖更加清晰，以下代碼展示了改進的方法，

import tensorflow as tf

#將輸入定義放入各自的命名空間中，從而使得TensorBoard可以根據命名空間來整理可視化效果圖上的節點，
with tf.name_scope("input1"):
	input1 = tf.constant([1.0,2.0,3.0], name="input1")
with tf.name_scope("input2"):
	input2 = tf.Variable(tf.random_uniform([3]), name="input2")
output = tf.add_n([input1,input2], name="add")

writer = tf.train.SummaryWriter("/path/to/log",tf.get_default_graph())
writer.close()

改進之后的好處是，用于初始化的節點已經被縮略起來了，這樣TensorFlow程式中定義的加法運算被清晰地展示了出來，需要查看input2節點中具體包含了那些運算時，可以將滑鼠移動到input2節點，并點開右上角的?，

監控指標可視化

TensorBoard除了可以可視化TensorFlow的計算圖，還可以可視化TensorFlow程式運行程序中各種有助于了解程式運行狀態的監控指標，
SmartyPants將ASCII標點字符轉換為“智能”印刷標點HTML物體，例如：

目前所做專案例圖

下載google影像識別網路inception-v3并查看結構

import tensorflow as tf
import os
import tarfile
import requests

#inception模型下載地址
inception_pretrain_model_url = 'http://download.tensorflow.org/models/image/imagenet/inception-2015-12-05.tgz'

#模型存放地址
inception_pretrain_model_dir = "inception_model"
if not os.path.exists(inception_pretrain_model_dir):
    os.makedirs(inception_pretrain_model_dir)
    
#獲取檔案名，以及檔案路徑
filename = inception_pretrain_model_url.split('/')[-1]
filepath = os.path.join(inception_pretrain_model_dir,filename)

#下載模型
if not os.path.exists(filepath):
    print("download:",filename)
    r = requests.get(inception_pretrain_model_url,stream=True)
    with open(filepath,'wb') as f:
        for chunk in r.iter_content(chunk_size=1024):
            if chunk:
                f.write(chunk)
print("finish:",filename)
#解壓檔案
tarfile.open(filepath,'r:gz').extractall(inception_pretrain_model_dir)

#模型結構存放檔案
log_dir = 'inception_log'
if not os.path.exists(log_dir):
    os.makedirs(log_dir)
    
#classify_image_graph_def.pb為google訓練好的模型
inception_graph_def_file = os.path.join(inception_pretrain_model_dir,'classify_image_graph_def.pb')
with tf.Session() as sess:
    with tf.gfile.FastGFile(inception_graph_def_file,'rb') as f:
        graph_def = tf.GraphDef()
        graph_def.ParseFromString(f.read())
        tf.import_graph_def(graph_def,name='')
    #保存圖的結構
    writer = tf.summary.FileWriter(log_dir,sess.graph)
    writer.close()

得到結構圖如下：

experiment/grape/log/

小結

介紹了TensorFlow的可視化工具TensorBoard，作為第一篇文章，主要目的在于熟悉markdown檔案書寫，在介紹一些基本概念的同時，加入了目前做過的專案的部分實驗結果，在下一篇將介紹有關T-SNE的內容分別使用MNIST資料集和自己的資料集展開，
[1]: 《TensorFlow實戰Google深度學習框架》