前言
构建onnx方式通常有两种:
1、通过代码转换成onnx结构,比如pytorch —> onnx
2、通过onnx 自定义结点,图,生成onnx结构
本文主要是简单学习和使用两种不同onnx结构,
下面以 Layernorm
结点进行分析
方式
方法一:pytorch --> onnx
暂缓,主要研究方式二
方法二: onnx
import onnx
from onnx import helper
from onnx import TensorProto
# 创建一个空的ONNX图
graph = helper.make_graph(nodes=[], name='LayerNormalization_Graph', inputs=[], outputs=[])
# 创建LayerNormalization节点的输入参数
input_data = helper.make_tensor_value_info('input_data', TensorProto.FLOAT, [1, 3, 224, 224]) # 输入数据张量的形状为[1, 3, 224, 224]
input_scale = helper.make_tensor_value_info('input_scale', TensorProto.FLOAT, [3]) # 归一化参数scale的形状为[3]
input_bias = helper.make_tensor_value_info('input_bias', TensorProto.FLOAT, [3]) # 归一化参数bias的形状为[3]
epsilon = 1e-5 # 归一化操作中的epsilon参数
graph.input.extend([input_data, input_scale, input_bias])
# 创建LayerNormalization节点
layernorm_node = helper.make_node('LayerNormalization', ['input_data', 'input_scale', 'input_bias'], ['output'], epsilon=epsilon, name='LayerNormalization_Node') # 创建一个LayerNormalization节点
# 添加LayerNormalization节点到图中
graph.node.extend([layernorm_node])
# 创建LayerNormalization节点的输出参数
output = helper.make_tensor_value_info('output', TensorProto.FLOAT, [1, 3, 224, 224]) # 输出张量形状为[1, 3, 224, 224]
graph.output.extend([output])
# 创建ONNX模型
model = helper.make_model(graph, producer_name='ONNX_LayerNormalization_Example')
# 保存ONNX模型到文件
onnx.save(model, 'layernorm_model.onnx')