استفاده از مدل کراس برای inference در c++

Question

سلام .

من مدل کراس را با پسوند .h ساختم چطور می تونم فایل .pb فریز شده جهت inference سمت c++ بسازم.

Answer 1

سلام.

برای اینکار ابتدا مدل hdf5 را با کراس لود کنید و سپس با استفاده از متد save کلاس saver مجدد مدل را ذخیره کنید تا فایل checkpoint و فایل meta data ساخته شه 

from keras import backend as K
import tensorflow as tf
print(model.output.op.name)
saver = tf.train.Saver()
saver.save(K.get_session(), '/tmp/keras_model.ckpt')

سپس با این دو فایل می تونید فایل فریز شده را ایجاد کنید.

python tensorflow/python/tools/freeze_graph.py \
--input_meta_graph=/tmp/keras_model.ckpt.meta \
--input_checkpoint=/tmp/keras_model.ckpt \
--output_graph=/tmp/keras_frozen.pb \
--output_node_names="<output_node_name_printed_in_step_1>" \
--input_binary=true

 

Comments

وقتی که فایل pb. تولید شد نیازی نیست ساختار مدل مون را داشته باشیم؟ یعنی ساختار ترتیب و اسم لایه های مدل؟
این فایل pb. چه فرقی با checkpoint , metadataداره ؟ اصلا چرا از اون فایل ها برای inference استفاده نمشود؟