onnx基本概念

参考

ONNX可以类比为专注于数学函数的一个专用变成语言，在这个语言中，定义了机器学习推理过程中所必要的操作。比如，一个线性回归可以描述为：

def onnx_linear_regressor(X):
    "ONNX code for a linear regression"
    return onnx.Add(onnx.MatMul(X, coefficients), bias)

也可以使用ONNX图进行表示。

ONNX的目标是提供一种能够被任意机器学习框架实用的通用语言。利用ONNX，可以独立于构建模型的学习框架实现生产环境的部署。ONNX也实现了以一个运行时ONNXRuntime，但是主要目的是理解和调试以及转换工具，并不是用于生产环境，因为性能不是其目标。

Input, Output, Node, Initializer, Attributes

• 一个算子，最基本的是包含输入和输出。
• Node，是计算图的节点
• initializer是指输入中不变的常量。
• Attributes是指算子的参数

Serialization with protobuf

利用protobuf实现序列化

元数据

• doc_string: Human-readable documentation for this model.
  Markdown is allowed.

• domain: A reverse-DNS name to indicate the model namespace or domain,
  for example, ‘org.onnx’

• metadata_props: Named metadata as dictionary map<string,string>,
  (values, keys) should be distinct.

• model_author: A comma-separated list of names,
  The personal name of the author(s) of the model, and/or their organizations.

• model_license: The well-known name or URL of the license
  under which the model is made available.

• model_version: The version of the model itself, encoded in an integer.

• producer_name: The name of the tool used to generate the model.

• producer_version: The version of the generating tool.

• training_info: An optional extension that contains

List of available operators and domains

算子列表

算子的域名主要来自ai.onnx以及ai.onnx.ml，同时支持可扩展性，定义自己的算子。

支持的类型

ONNX主要是优化数值计算的tensor，包含三大元素

• 类型
• 形状（维度）
• 连续的存储空间

Opset版本

每个onnx图都绑定一个Opset版本

Subgraphs, tests and loops

ONNX实现了条件判断和训练，这些模块将别的子图作为属性。这些结构通常慢且复杂，应避免使用。

Extensibility

可扩展性，每一个节点都有 type, a name, named inputs and outputs, and attributes. 只要一个节点具有上述要素，就可以添加到计算图中.

Functions

Functions是一种扩展ONNX规范的方法，用于描述一系列算子的组合，方便复用。

Shape (and Type) Inference

ONNX不必要明确的输入输出的shape，但是可以加速推理。

tools

netron是一个很好的可视化工具