用modelbox server启动流程图，暴露Restful接口

news2025/1/21 18:05:33

背景

假设你已经搭建了modelbox开发容器，能够使用webUI构建流程图。如果没有请参考昇腾npu上构建modelbox webUI开发容器教程。

现在，本文会说明，如何在终端用命令的方式将流程图暴露为服务，并能够在本地用postman访问。

本文参考ModelBox运行的"通过modelbox命令启动"一节

主要流程

首先，假设我们编写了如图的程序，其中foobar阶段会固定输出一个字符串。

foobar.py内容如下，固定会输出"Hello world!"

import _flowunit as modelbox

class FoobarFlowUnit(modelbox.FlowUnit):
    # Derived from modelbox.FlowUnit
    def __init__(self):
        super().__init__()

    def open(self, config):
        # Open the flowunit to obtain configuration information
        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def process(self, data_context):
        # Process the data
        # input data
        in_data = data_context.input("in_data")
        # output data
        out_data = data_context.output("out_data")

        # Example process code.
        # Remove the following code and add your own code here.
        for buffer in in_data:
            add_buffer = modelbox.Buffer(self.get_bind_device(), "Hello world!")
            out_data.push_back(add_buffer)

        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def close(self):
        # Close the flowunit
        return modelbox.Status()

    def data_pre(self, data_context):
        # Before streaming data starts
        return modelbox.Status()

    def data_post(self, data_context):
        # After streaming data ends
        return modelbox.Status()

mnist_response.py的代码逻辑也很简单，固定输出上一步骤的字符串，内容如下：

import _flowunit as modelbox
import numpy as np
import json

class MnistResponseFlowUnit(modelbox.FlowUnit):
    def __init__(self):
        super().__init__()

    def open(self, config):
        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def process(self, data_context):
        in_data = data_context.input("in_data")
        out_data = data_context.output("out_data")

        for buffer in in_data:
            add_buffer = modelbox.Buffer(self.get_bind_device(), buffer.as_object())
            out_data.push_back(add_buffer)

        return modelbox.Status.StatusCode.STATUS_SUCCESS

    def close(self):
        return modelbox.Status()

    def data_pre(self, data_context):
        return modelbox.Status()

    def data_post(self, data_context):
        return modelbox.Status()

    def data_group_pre(self, data_context):
        return modelbox.Status()

    def data_group_post(self, data_context):
        return modelbox.Status()

然后，在项目路径内graph/下的.toml文件内，修改暴露的端口，如下文显示端口暴露在8190

…
digraph mnist_sample {
node [shape=Mrecord]
httpserver_sync_receive [ type=flowunit flowunit=httpserver_sync_receive device=cpu time_out_ms=“5000” endpoint=“http://0.0.0.0:8190” max_requests=“100” ]
…

那么，如何不用webUI，将流程图启动暴露为Restful服务呢？

  1. 进入modelbox开发容器

  2. 进入目录/root/modelbox-service/conf

  3. 编辑modelbox.conf配置文件。把flow_path 属性指向你的项目的graph目录，比如在本文的mnist项目，流程图存储在/root/projects/mnist/src/graph目录下。内容如下：

    [server]
ip = "0.0.0.0"
port = "1104"
flow_path = "/root/projects/mnist/src/graph/"

# 后续略...

  4. 执行modelbox -c ./modelbox.conf -fV。

然后，能看到终端输出日志：

[root@devserver-com conf]$ modelbox -c ./modelbox.conf -fV
[2023-12-06 20:35:17,711][ INFO][          main.cc:385 ] modelbox config path : ./modelbox.conf
[2023-12-06 20:35:17,711][ INFO][        server.cc:129 ] plugin list:
[2023-12-06 20:35:17,711][ INFO][        server.cc:131 ]  /usr/local/lib64/modelbox-plugin.so
[2023-12-06 20:35:17,711][ INFO][        server.cc:131 ]  /usr/local/lib64/modelbox-plugin-editor.so
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:68  ] create modelbox plugin
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:51  ] modelbox plugin init
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:61  ] run modelbox plugin on http://0.0.0.0:1104
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:73  ] modelbox plugin register handlers
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:74  ] regist url : /v1/modelbox/job
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:148 ] create local job
[2023-12-06 20:35:17,712][ INFO][modelbox_plugin.cc:192 ] Create local job /root/projects/mnist/src/graph//CMakeLists.txt
[2023-12-06 20:35:17,712][ERROR][          flow.cc:473 ] read config from  toml:/root/projects/mnist/src/graph//CMakeLists.txtfailed, err :Load config file failed, detail: [error] toml::parse_key_value_pair: missing key-value separator `=`
 --> /root/projects/mnist/src/graph//CMakeLists.txt
    |
 16 | cmake_minimum_required(VERSION 3.10)
    |                       ^--- should be `=`
[2023-12-06 20:35:17,712][ERROR][           job.cc:65  ] flow init failed: code: Fault, errmsg: Load config file failed, detail: [error] toml::parse_key_value_pair: missing key-value separator `=`
 --> /root/projects/mnist/src/graph//CMakeLists.txt
 ...
 [2023-12-06 20:35:18,824][ INFO][ editor_plugin.cc:126 ] create modelbox editor plugin
[2023-12-06 20:35:18,824][ INFO][ editor_plugin.cc:104 ] modelbox editor plugin init
[2023-12-06 20:35:18,824][ INFO][ editor_plugin.cc:119 ] run editor on http://0.0.0.0:1104
[2023-12-06 20:35:18,824][ INFO][        server.cc:59  ] app server start
[2023-12-06 20:35:18,825][ INFO][   http_helper.cc:438 ] Start listen at 0.0.0.0:1104

然后用postman访问那个服务器IP的8190端口，并按预定的接口填写参数，即可发出Restful请求。如下图所示，返回了字符串，与预期一致。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1290236.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

「智慧城市」这一概念科学吗？还是炒作？

「智慧城市」这一概念科学吗？还是炒作？

智慧城市是一个综合性的概念，它利用信息技术和创新概念，将城市的各个系统和服务集成起来，以提升城市运行效率、优化城市管理和服务，改善市民的生活质量。 具体来说，智慧城市涵盖了许多领域，包括城市规划、建…
阅读更多...
Python中读写CSV文件的深入探讨

Python中读写CSV文件的深入探讨

目录 一、引言 二、如何读取CSV文件 三、如何写入CSV文件 四、处理大型CSV文件 五、总结 一、引言 CSV（Comma-Separated Values）文件是一种常见的逗号分隔值格式的文件，常用于存储和传输数据。在Python中，我们可以使用内置的…
阅读更多...
WindowsServer服务器系列：定时备份 MySQL

WindowsServer服务器系列：定时备份 MySQL

一、编写脚本 echo 取日期、时间变量值 set yy%date:~0,4% set mm%date:~5,2% set dd%date:~8,2% if /i %time:~0,2% lss 10 set hh0%time:~1,1% if /i %time:~0,2% geq 10 set hh%time:~0,2% set mn%time:~3,2% set ss%time:~6,2% set date%yy%%mm%%dd% set time%hh%%mn%%ss…
阅读更多...
GIT GUI使用

GIT GUI使用

文章目录 一、新建本地仓库二、推送（push） 一、新建本地仓库 在空白处右键，找到GIT GUI here， 如果没有仓库，出现的是这样的： 如果有仓库，在本地仓库里打开就是这样的： 新建本地…
阅读更多...
外包干了6个月，技术退步明显.......

外包干了6个月，技术退步明显.......

先说一下自己的情况，大专生，18年通过校招进入武汉某软件公司，干了接近4年的功能测试，今年年初，感觉自己不能够在这样下去了，长时间呆在一个舒适的环境会让一个人堕落! 而我已经在一个企业干了四年的功能测…
阅读更多...
C语言面试之旅：掌握基础，探索深度（面试实战之单片机——IO）

C语言面试之旅：掌握基础，探索深度（面试实战之单片机——IO）

梦想和自由一样，都有代价，但都值得。 ----小新 引言 单片机是一种微控制器，它包含一个处理器、存储器、定时器和I/O端口等。I/O端口是单片机与外部设备进行通信的接口。通过I/O端口，外部设备可以输入和输出数据到单片机中。 在单…
阅读更多...
【数据结构】——二叉树特点

【数据结构】——二叉树特点

前言：我们前面已经了解了二叉树的一些概念，那么我们今天就来了解下二叉树的遍历实现和一些性质。 二叉树的遍历方式有三种：前序，中序，后序。 前序：先根节点，再左子树，最后右子树。 中…
阅读更多...
SpringSecurity工作原理（一）

SpringSecurity工作原理（一）

实现功能就是继承这几个对应功能的类。 大概工作流程 Spring Security 的过滤器（Filters）和拦截器（Interceptors）是 Spring Security 框架中用于保护 web 应用安全的重要组件。它们在处理 HTTP 请求时扮演不同的角色&#xff0c…
阅读更多...
Linux自启服务提示：systemd[1]: *.service: main process exited, code=exited, status=1问题

Linux自启服务提示：systemd[1]: *.service: main process exited, code=exited, status=1问题

这两天一直在沉迷于配脚本，由于服务器很多，所以我都是从一台服务器上配置好的脚本直接copy到另一台服务器，按说完全一样的脚本一样的操作，那么应该是一样的执行结果 but, Gul’dan，代…我重启服务器后服务并没有正常启…
阅读更多...
k8s官方镜像代理加速

k8s官方镜像代理加速

背景 大家可能在云原生领域需要部署周边的一些生态组件时，在国内遇到无法正常拉取镜像，显得就有点苦恼，不过没关系，常见的${{ registry_name }} 例如 “gcr.io”，“registry.k8s.io” Failed to pull image “registry…
阅读更多...
【c】杨辉三角

【c】杨辉三角

下面介绍两种方法 1.利用上面性质的第五条&#xff0c;我们可以求各行各列的组合数 2.利用上面性质的第7条&#xff0c;我们可以用数组完成 下面附上代码 1. #include<stdio.h> void fact(int n ,int m )//求组合数 {long long int sum11;long long int sum21;int a…
阅读更多...
AI Pika 生成进击的巨人动漫分镜案例

AI Pika 生成进击的巨人动漫分镜案例

背景介绍 Pika 是一个使用 AI 生成和编辑视频的平台。它致力于通过 AI 技术使视频制作变得简单和无障碍。 Pika 1.0 是 Pika 的一个重大产品升级&#xff0c;包含了一个新的 AI 模型,可以在各种风格下生成和编辑视频,如 3D 动画&#xff0c;动漫&#xff0c;卡通和电影风格。…
阅读更多...
跳水比赛（C++）

跳水比赛（C++）

系列文章目录 进阶的卡莎C++_睡觉觉觉得的博客-CSDN博客数1的个数_睡觉觉觉得的博客-CSDN博客双精度浮点数的输入输出_睡觉觉觉得的博客-CSDN博客足球联赛积分_睡觉觉觉得的博客-CSDN博客大减价(一级)_睡觉觉觉得的博客-CSDN博客小写字母的判断_睡觉觉觉得的博客-CSDN博客纸币(…
阅读更多...
从零开发短视频电商 Jmeter压测示例模板详解(无认证场景)

从零开发短视频电商 Jmeter压测示例模板详解(无认证场景)

文章目录 添加线程组添加定时器添加HTTP请求默认值添加HTTP头管理添加HTTP请求添加结果断言响应断言 Response AssertionJSON断言 JSON Assertion持续时间断言 Duration Assertion 添加察看结果树添加聚合报告添加表格察看结果参考 以压测百度搜索为例 https://www.baidu.com/s…
阅读更多...
面试多线程八股文十问十答第一期

面试多线程八股文十问十答第一期

面试多线程八股文十问十答第一期 作者&#xff1a;程序员小白条&#xff0c;个人博客 相信看了本文后&#xff0c;对你的面试是有一定帮助的&#xff01; ⭐点赞⭐收藏⭐不迷路&#xff01;⭐ 1.ThreadLocal如何实现线程安全 Java的ThreadLocal是一个线程本地变量&#xff0…
阅读更多...
Python中字符串拼接及其应用场景

Python中字符串拼接及其应用场景

更多资料获取 &#x1f4da; 个人网站&#xff1a;ipengtao.com 字符串拼接是Python中常见而重要的操作&#xff0c;它涉及到将多个字符串连接成一个字符串。本文将深入探讨Python中字符串拼接的不同方式、性能比较、以及在实际应用中的场景和最佳实践。 常见的字符串拼接方法…
阅读更多...
【JUC】二十一、CAS比较并交换

【JUC】二十一、CAS比较并交换

文章目录 1、初体验2、CAS概述3、Unsafe类4、Unsafe汇编5、原子引用AutomicReference6、手写自旋锁SpinLock7、CAS的两大缺点8、AtomicStampedReference类解决ABA问题 1、初体验 没有CAS时&#xff0c;多线程环境下不使用原子类保证线程安全&#xff0c;比如i&#xff0c;可以…
阅读更多...
21章网络通信

21章网络通信

21.1——网络程序设计基础 网络程序设计编写得到是与其他计算机进行通信的程序 21.1.1——局域网与互联网 为了实现两台计算机的通信&#xff0c;必须用一个网络线路连接两台计算机 21.1.2——网络协议 网络协议规定了计算机之间连接的物理、机械 (网线与网卡的连接规定)、…
阅读更多...
云上守沪 | 云轴科技ZStack成功实践精选（上海）

云上守沪 | 云轴科技ZStack成功实践精选（上海）

为打造国际数字之都&#xff0c;上海发布数字经济发展“十四五”规划&#xff0c;围绕数字新产业、数据新要素、数字新基建、智能新终端等重点领域&#xff0c;加强数据、技术、企业、空间载体等关键要素协同联动&#xff0c;加快进行数字经济发展布局&#xff1b;加快基础软件…
阅读更多...
Linux环境下的MySQL安装

Linux环境下的MySQL安装

文章目录 前提说明1.卸载内置环境2.检查系统安装包3.卸载这些默认安装包4.获取MySQL官方yum源5.安装MySQLyum源&#xff0c;对比前后yum源6.查看yum源是否生效7.安装MySQL服务8.查看相对应的配置文件9.启动服务10.查看启动服务11.登录方法一12.登录方法二13.登录方法三14.设置开…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023