【NNabla】Neural Network Librariesと学習済みモデルによる推論 -NNPファイル編-

こんにちは。

ディープラーニングお兄さんの”はやぶさ”@Cpp_Learningです。

前回、Sony製の深層学習フレームワーク “Neural Network Libraries（NNabla）” のPython APIと学習済みモデル（MyChain.h5）による推論を実践するチュートリアル記事を書きました。

【NNabla】Neural Network Librariesと学習済みモデルによる推論 -HDF5ファイル編-直観的にニューラルネットワークの実装ができるソニー製の深層学習フレームワーク”NNL”によるDeep Learning（ディープラーニング）入門チュートリアルを書きました。学習済みモデル（h5）を使った推論が行えるPython APIのソースコードも公開しています。勉強にお役立て下さい。...

↑記事の終盤で学習済みモデル”MyChain.nnp”を保存しました。

今回は、この学習済みモデル”MyChain.nnp”を使って推論を実践します。

Contents

1 学習済みモデルとは
- 1.1 【復習】Neural Network Libraries（NNabla）と学習済みモデル
2 【実践】学習済みモデル(NNPファイル)による推論
3 組み込み深層学習
4 まとめ

学習済みモデルとは

学習済みモデルについて以下の記事で説明済みです。

なので、学習済みモデルについては、少し復習するだけにします。

【復習】Neural Network Libraries（NNabla）と学習済みモデル

“Neural Network Libraries”の場合、ニューラルネットワークは以下の形式で保存します。

ファイル	内容
net.nntxt	ニューラルネットワークの構造（アーキテクチャ）
parameters.h5	ニューラルネットワークの重み（パラメータ）
net_param.nnp	ニューラルネットワークの構造と重み

つまり、ニューラルネットワークの構造と重みが”MyChain.nnp”に保存してあります。

【実践】学習済みモデル(NNPファイル)による推論

NNableのPython APIと学習済みモデル(NNPファイル)を使って推論を行います。

学習済みモデル(HDF5ファイル)による推論用のソースコードと共通している部分も多いです。見比べてみてね。

import

nnablaの各モジュールをimportします。推論では最適化アルゴリズム（Solvers）を使いません。

import nnabla as nn
import nnabla.functions as F
import nnabla.parametric_functions as PF
# import nnabla.solvers as S

import nnabla as nn

import nnabla.functions as F

import nnabla.parametric_functions as PF

# import nnabla.solvers as S

その他、今回使用する数値演算モジュールなどもimportします。

import numpy as np
import matplotlib.pyplot as plt

1 2	import numpy as np import matplotlib.pyplot as plt

NNabla用の変数定義

NNablaで学習および推論を行うために専用の変数を定義します。

batch_size = 1
x = nn.Variable((batch_size, 1))

1 2	batch_size = 1 x = nn.Variable((batch_size, 1))

学習済みモデル（重み + 構造）を読込む

学習済みモデル”MyChain.nnp”から”重み”と”アーキテクチャ”をロードします。

from nnabla.utils.nnp_graph import NnpLoader

# Read a .nnp file.
nnp = NnpLoader("MyChain.nnp")

# Assume a graph `graph_a` is in the nnp file.
net = nnp.get_network("MyChain", batch_size)

from nnabla.utils.nnp_graph import NnpLoader

# Read a .nnp file.

nnp = NnpLoader("MyChain.nnp")

# Assume a graph `graph_a` is in the nnp file.

net = nnp.get_network("MyChain", batch_size)

たった3行で学習済みモデル（NNPファイル）の読込みができました。

推論から推論結果のグラフ化まで

推論から推論結果をグラフ化するまでのソースコードは以下の通りです。

# Test data1
xe = np.array([[0.5], [1.8], [2.3], [3.3], [4.5], [5.4], [6.3], [6.7], [7.4], [8.2]])
ye_list = []

# Predict1 using xe
for i in xe:
    x.d = i
    # `x` is an input of the graph.
    x = net.inputs['x']
    # 'y' is an outputs of the graph.
    y = net.outputs['y']
    # y.forward(clear_buffer=True)
    y.forward()
    ye_list.append(y.d.copy())
    # print('output:', x.d)

# Test data2
yt_list = []
xt = []

# Predict2 using x = 0~9
for i in range(10):
    x.d = i
    y.forward()
    yt_list.append(y.d.copy())
    xt.append(i)

# plot Predict result
ye = np.reshape(ye_list, [10, 1])
yt = np.reshape(yt_list, [10, 1])
plt.plot(xe, ye, "ro")
plt.plot(xt, yt)
plt.title("Predict result")
plt.xlabel("input")
plt.ylabel("output")
plt.grid(True)
plt.show()

# Chack
# print(xe)
# print(ye)

# Test data1

xe = np.array([[0.5], [1.8], [2.3], [3.3], [4.5], [5.4], [6.3], [6.7], [7.4], [8.2]])

ye_list = []

# Predict1 using xe

for i in xe:

x.d = i

# `x` is an input of the graph.

x = net.inputs['x']

# 'y' is an outputs of the graph.

y = net.outputs['y']

# y.forward(clear_buffer=True)

y.forward()

ye_list.append(y.d.copy())

# print('output:', x.d)

# Test data2

yt_list = []

xt = []

# Predict2 using x = 0~9

for i in range(10):

x.d = i

y.forward()

yt_list.append(y.d.copy())

xt.append(i)

# plot Predict result

ye = np.reshape(ye_list, [10, 1])

yt = np.reshape(yt_list, [10, 1])

plt.plot(xe, ye, "ro")

plt.plot(xt, yt)

plt.title("Predict result")

plt.xlabel("input")

plt.ylabel("output")

plt.grid(True)

plt.show()

# Chack

# print(xe)

# print(ye)

NNablaと学習済みモデルで推論

前回の”MyChain.h5”による推論結果と同じ結果が得られました。

組み込み深層学習

少しだけ、組み込みシステムに深層学習を適用することを意識したソースコードも公開

import nnabla as nn
import nnabla.functions as F
import nnabla.parametric_functions as PF
from nnabla.utils.nnp_graph import NnpLoader

import numpy as np

batch_size = 1
x = nn.Variable((batch_size, 1))
y = nn.Variable((batch_size, 1))

# Read a .nnp file.
nnp = NnpLoader("MyChain.nnp")

# Assume a graph `graph_a` is in the nnp file.
net = nnp.get_network("MyChain", batch_size)

# Test data
xe = np.array([[0.5], [1.8], [2.3], [3.3], [4.5], [5.4], [6.3], [6.7], [7.4], [8.2]])
ye_list = []

# Predict1 using xe
for i in xe:
    x.d = i
    # `x` is an input of the graph.
    x = net.inputs['x']
    # 'y' is an outputs of the graph.
    y = net.outputs['y']
    # y.forward(clear_buffer=True)
    y.forward()
    ye_list.append(y.d.copy())
    
# Chack
ye = np.reshape(ye_list, [10, 1])
print(xe)
print(ye)