20190410

作者： -
看書[TensorFlow x Keras 工作現場開發]

Autoencoder、CAE、DAE之間的區別:

Autoencoder:
主要用在維度的縮減，讓x資料經過壓縮，再重構成與x相近的資料，每一層都是用MLP(muti layer percepton)。MLP由AND、OR、XOR、NAND等感知器組合而成。

CAE:每一層都是用CNN架構，認為CNN比MLP適用於影像，
DAE(denoising autoencoder)的目標在於，在資料壓縮時將雜訊消去，只留下重要的特徵點。
可應用於ORC(光學文字辨識)，印刷文字會有雜訊，在文字辨識的前處理。




補充:
模型建構後的學習:使用Adam(Adaptive Moment Estimation)使用梯度的演算法，收斂較快
卷積層:
i. 就算輸入的影響尺寸越大，影響的只有特徵圖的大小，不影響特徵圖中的權重
ii.當影像為彩色時，會分將RGB分成三張輸入





使用他的model 可能因為我需要輸出的是彩色的圖 效果並不理想 還需要修改

留言

張貼留言

這個網誌中的熱門文章

Optix Ray Tracing 基本概念流程

作者： -
圖片
Optix Ray Tracing 基本概念與流程 Optix 3D幾何物件階層與用途 基本設定設置好 createContext()      建立context，並把該配置的東西配好 => 建立Context => 設定Context的 Ray Type數量 、 Entry Point計算入口點數量 、 stack size大小 => 設定會成為Context的cuda中的一些成員資料 => 建立Output buffer，用以存放ray tracing結果 => 設定Ray Gerneration光線生成程式(也就是描述你的camera要如何生成ray來追蹤) => 設定Exception例外程式 => 設定Miss Program(當光線沒打到任何3D內容物件時會執行miss程式) createGeometry()    建立與設定3D內容與綁定render方法 => 設置好場景中的3D內容物件 (load model或用程式寫好描述好他) => 對場景中每個3D物件客製化一個material材質，因為 光線追蹤程式(rtTrace()) 是綁定material一起的 ，所以要一個個對material做設定 => 對個別3D物件material設定 closeset hit program (常用於上色的光線追蹤) 、 any hit program (常用於陰影追蹤) 等program (*closest hit這些tracing program都寫在cuda之中) => 透過context->createGeometryInstance()將3D物件與他的material綁定在一起，並丟到 GeometryInstance 的vector容器中 => 將每個GeometryInstance集結成一個Group送至 GeometryGroup 物件中(setChild()) => 將這個裝滿整個3D場景的Group送到cuda之中做tracing。 設定相機基本位置角度等資料 設定光源位置 顏色等相關資料，並傳入context context->validate()   使context準備完善 進入render loop =&g
閱讀完整內容

使用Visual Studio建置optix專案

作者： -
圖片
Visual Studio 2015 建置OptiX專案 1. 安裝開發環境: Visual Studio IDE NVIDIA OptiX NVIDIA CUDA Toolkit (目前使用的版本為 VS2015、OptiX 5.1.0、CUDA Toolkit 9.2) 其中會使用到 optix_advanced_samples 中的檔案，請先使用camke裝好    開啟 VS 2015 ，新增專案 新增空白專案，輸入專案名稱，選擇建立專案位置   選擇要建置 main.cpp 的篩選條件，並對此資料夾按 ” 右鍵 ” ，在此篩選條件為 ” 原始程式檔 ” 建立 main.cpp 為了方便管理 CUDA 檔案，在專案內新增一個篩選條件 命名篩選條件  新增cuda檔案  命名.cu檔 設定組建  依照勾選CUDA 9.2  開始設定專案屬性  將平台設為x64  編輯其他include目錄 C:\ProgramData\NVIDIA Corporation\OptiX SDK 5.1.0\include C:\ProgramData\NVIDIA Corporation\OptiX SDK 5.1.0\include\optixu C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\include  填入 NOMINMAX  儲存設定 開啟專案資料夾  新增資料夾  新資料夾命名為 ptx  再新增一個資料夾，命名為lib  從建好的optix_advanced_samples檔中複製需要使用的library  在剛剛新增的lib資料夾中 貼上  再從安裝optix的位置複製optix.51.lib  在lib資料夾中貼上 再次設定屬性 設定ptx檔輸出位置，並產生ptx檔  不產生debug information在ptx檔中  設定library .\lib\sutil_sdk.lib .\lib\optix.51.lib .\lib\imgui.lib .\lib\glfw3dll.lib opengl32.lib  儲存設定 設
閱讀完整內容

freezing Keras model

作者： -
圖片
為了將model提供其他應用程式做使用 目標 我會將keras 轉換成 tensorflow 的 pb檔是為了在tensorRT中建置model，在tensorRT中需要再將.pb檔轉成.uff，才能提供給TensorRT使用，因為tensorRT支援的關係，目前需要在Linux的作業系統之下才能將.pb檔轉成.uff檔。 概要: Keras framework提供將model儲存成.h5檔的function，其中的內容包含自訂的 neural network 的graph，與訓練之後的參數(weights)，也可以單獨儲存weights，如果只有保留weights則需要在Tensorflow中重新建立graph，並將weight帶入，但這方法非常沒有效率。 於是將訓練好的model freezing，不能再更改weights，也就是不能在訓練，並且將單獨儲存的weights(.ckpt檔.meta檔)重建出graph，最後輸出.pb。 需求: 1. 安裝keras、tensorflow 2. TensorBoard(要用來查詢output的名稱) 實作: 1.將import 的來源要改成 tensorflow.keras ex. from keras import Conv2D ->tensorflow.keras.layers import Convolution2D def freeze_graph(model_dir, output_node_names):   """Extract the sub graph defined by the output nodes and convert   all its variables into constant   Args:       model_dir: the root folder containing the checkpoint state file       output_node_names: a string, containing all the output node's names,                           comma sepa
閱讀完整內容