Python 全栈系列216 APIFunc.Database启动流程

news2024/11/18 18:33:49

说明

上次做了一些改进,现在关注使用的流程。

内容

1 基础概念

能大约知道大致的几个部分有助于记忆操作步骤,以后这个项目的代号就是ABD了。

  • 1 所有启动相关的代码全部封装在镜像apifunc_database_model1:v3,基于这个镜像就可以启动一个所有对应的服务流
  • 2 在Portal上有相关的数据库配置和项目配置,如果不需要创建新的数据库服务,那么只要配置就可以了。

2 操作流程

2.1 建立数据库服务,并在portal进行注册

在这里插入图片描述

2.2 确定三级命名

项目的三级名称:MyWebCodeEditor

.../aprojects/ABD下创建新的项目文件夹MyWebCodeEditor

2.3 拷贝并修改配置文件

config_base.py拷贝到新项目下,需要做一些修改。主要修改的部分为

target_server = 'm7.24065'
project_name ='MyGeneralTest'
gs_id = 'gtest_rec_id'

2.4 修改app01_PullToStep1MongoIn.py

里面的redis_var没有放到config_base.py里控制,所以还是要修改完重新映射这个文件。这是一个改进点。

redis_var可以通过调接口来获取

import requests as req 
redis_agent_host = 'http://172.17.0.1:24021/'
redis_buff_var = {'redis_class':'BUFF','project':'MyWebCodeEditor','subproject':'step1_mongo_in',
'subapp':'app01_PullToStep1MongoIn','var':'flow_count'}
req.post(redis_agent_host + 'redis_naming_test/',json =  redis_buff_var).json()

{'data': None,
 'msg': 'NOT Existed,  <<<<<<  BUFF.MyWebCodeEditor.step1_mongo_in.pf.app.app01_PullToStep1MongoIn.af.gp.0.uf.flow_count',
 'status': True}

2.5 挂载新配置以初始化

note: 将项目数据推送到git项目

以rm方式启动容器,然后执行初始化

docker run -it \
 --name=test_999 \
 --rm \
 -v /etc/localtime:/etc/localtime  \
 -v /etc/timezone:/etc/timezone\
 -v /etc/hostname:/etc/hostname\
 -e "LANG=C.UTF-8" \
 -v /opt/aprojects/ABD/MyWebCodeEditor/app01_PullToStep1MongoIn.py:/workspace/app01_PullToStep1MongoIn.py \
 -v /opt/aprojects/ABD/MyWebCodeEditor/config_base_v3.py:/workspace/configs_base.py \
 xxx/apifunc_database_model1:v3 \
 bash

python3 init_projects_base.py

Wmongo_v9000.012
设置当前连接 local
Current Machine m7
Wmongo_v9000.012
设置当前连接 local
>>> Switching To Mymeta
设置当前连接 local
在CN001访问mymeta,通用
('当前机器的名称:', 'm7')

>>> Hit Records
('当前机器的局网:', 'my.cn001')
【I】目标服务的机器:m7, 目标服务的机器局网:NO_LAN
【I】采用local方式连接目标主机
Wmongo_v9000.012
设置当前连接 local
获取已有连接
('target connection hash:', '7d6dfd9e81815599d48eb2faef5241a3')
('data save to pickle: ', './cur_w.pkl')
{'data': {'rec_id': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_is_enable_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_create_time_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_update_time_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_ch001_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_ch001_cnt_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'rec_id': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_is_enable_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_create_time_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_update_time_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_ch001_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_ch001_cnt_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'rec_id': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_is_enable_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_create_time_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_update_time_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_ch001_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'data': {'_ch001_cnt_1': 'Not Existed and Created'}, 'msg': 'ok', 'status': True}
{'msg': 'created', 'status': True}
{'msg': 'created', 'status': True}

可以看到对应的索引已经全部建好了

2.6 试运行

不要急着退出上一个容器,继续执行

python3 sche.py

然后手工扔一些数据试试

import requests as req 
redis_agent_host = 'http://172.17.0.1:24021/'

project_name ='MyWebCodeEditor'
gs_id = 'rec_id'

step1_stream_in = 'step1_stream_in'
step1_stream_workin = 'step1_stream_workin'
step1_stream_workout = 'step1_stream_workout'

step1_mongo_in = 'step1_mongo_in'
step1_mongo_out = 'step1_mongo_out'
step1_mongo_meta = 'step1_mongo_meta'

full_name_step1_stream_in = '%s.%s' % (project_name,step1_stream_in)

# 1 apifunc.ner.input_docs
for i in range(10):
#     time.sleep(0.0001)
    random_id = random.randint(120000*10000,130000*10000)
    tem_dict = {gs_id:'rec' + str(random_id).zfill(10), 'data':random_id}
    resp = req.post(redis_agent_host + 'batch_add_msg/',
                    json ={'stream_name':full_name_step1_stream_in,'msg_dict_list':[tem_dict],'maxlen':100000}).json()

2.7 编辑要监控的项目

itable交互表格 > 项目监控表
在这里插入图片描述

2.8 观察结果

仪表盘 > 通用项目

在这里插入图片描述
可以看到输入已经成功入库10条,但是透传的worker有点问题,这是因为DummyWorker.py中定义的gs_id没有从configs_base.py里获取,问题和之前app01是一样的(下次改为从配置文件导入就行)。

将DummyWorker的gs_id修改为当前值后,重新挂载启动测试。然后就可以了

在这里插入图片描述

3 结语

这样一个日吞吐3000万以上的ABD就搭好了。正式投入使用时还需要修改sniffer,将数据从源拉过来,清洗后投向入队列。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/191949.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

为WEB3 的GameFi行业爆发提供全新动力

WEB3 GameFi的突破口在2022年末Octopus Network Co-founder Louis指出&#xff0c;GameFi要完成2023年的全新爆发需要将所有权与经营权分离&#xff0c;所有用户共同参与由平台成长带来的市场红利&#xff0c;单一的Gamefi将会更加产品化&#xff0c;体验化&#xff0c;具备整合…

详解树状数组

前言树状数组或二叉索引树&#xff08;Binary Indexed Tree&#xff09;&#xff0c;又以其发明者命名为 Fenwick 树。其初衷是解决数据压缩里的累积频率的计算问题&#xff0c;现多用于高效计算数列的前缀和、区间和。它可以以 O(logn) 的时间得到任意前缀和。并同时支持在 O(…

JVM线上问题定位命令

概述 本文主要介绍下平常可能会使用到的命令&#xff1a;jps、jinfo、jmap、jstat、jstack jps jps主要是查看Java进程号&#xff0c;有个Java进程号后面的命令也才能发挥作用。 jps -help可以列出jps支持的参数&#xff0c;大家可以试一下 jinfo jinfo后面跟jps打出来的…

nvm(node版本管理)

文章目录1 安装2 配置镜像&#xff0c;提高下载速度3 常用命令4 vue版本与node版本的依赖关系注意事项1 nvm use 报错1 安装 官方下载地址&#xff1a; https://nvm.uihtm.com/ 官网同时还给出了非常详细的指令文档。 下载windows版本的安装包&#xff0c;按照提示点击下一步…

网络通信Socket学习记录

网络通信Socket Socket socket起源于unix&#xff0c;而unix/linux基本思想就是一切皆文件&#xff0c;也称为文件描述符socket是对“open—write/read—close”的一种实现socket是对TCP/IP协议的一种封装&#xff0c;socket本身不是协议&#xff0c;通过socket才能使用TCP/I…

一站式轻监控轻运维系统nezha(上篇)

本文软件由网友 114514 推荐&#xff1b; 什么是哪吒监控 &#xff1f; 哪吒监控 是自托管、轻量级服务器和网站监控运维工具&#xff0c;属于一站式轻监控轻运维系统&#xff0c;分主控端和被控端&#xff0c;主控端提供访问的面板&#xff0c;被控端就是需要监控的服务器。 准…

Python的集合(set)类型、None类型.....

Day07 数据类型&#xff08;下&#xff09; dict,字典类型,一个容器&#xff0c;元素必须是键值对 Set,集合类型&#xff0c;一个不允许重复&可变类型&#xff08;元素可哈希&#xff09; float&#xff0c;浮点类型&#xff0c;常见的小数 文章目录1.集合&#xff08;se…

this和super的区别

0.定义区别this&#xff1a;是自身的一个对象&#xff0c;代表对象本身&#xff0c;可以理解为&#xff1a;指向对象本身的一个指针。 super&#xff1a;可以理解为是指向自己超&#xff08;父&#xff09;类对象的一个指针&#xff0c;而这个超类指的是离自己最 近的一个父类。…

docker镜像lasest具体是哪个版本

拿Nginx举例&#xff1a; 我们安装镜像Nginx时&#xff0c;假设使用的下面这样&#xff1a; docker pull nginx:latest 执行上面的命令后&#xff0c;最后得到&#xff1a;"Status: Downloaded newer image for nginx:latest" 已经下载最新的Nginx了。 那么问题来…

JUC并发编程之ArrayBlockingQueue的底层原理

作者简介&#xff1a;专注于研究Linux内核、Hotspot虚拟机、汇编语言、JDK源码、各大中间件源码等等喜欢的话&#xff0c;可以三连关注~ArrayBlockingQueue的介绍在JUC包下关于线程安全的队列实现有很多&#xff0c;那么此篇文章讲解ArrayBlockingQueue的实现原理。相对于Linke…

闲置vps出售流量赚钱

原理分析最近&#xff0c;一直在关注着vps赚钱这点事儿&#xff0c;今天就是填一下以前的坑。这里所说的出售流量&#xff0c;可能大家都听说过&#xff0c;把vps流量卖给别人获得一定的报酬。但是你要知道数据中心IP的流量是很便宜的&#xff0c;最贵的是住宅IP和移动流量。图…

别搜了!2023年PMP备考攻略全指南看这里就够了!

一、考试时间 PMP考试是一年四次的&#xff0c;一般在3月、6月、9月、12月份考试&#xff08;考试时间一般为周六&#xff09;。 所以如果有想法一定要在这个几个时间点之间备考准备哦。 二&#xff0c;报名流程 一般都是中英文两个官网都报名 1.英文报名 需要在PMI官方网…

Ubuntu救援模式emergency mode笔记

如果是磁盘自检出错&#xff0c;进入救援模式emergency mode&#xff0c;可以参考如下。chatgpt给出提示&#xff1a;如果Ubuntu磁盘自检出错&#xff0c;需要进入救援模式&#xff0c;可以以下步骤操作&#xff1a;在启动画面中&#xff0c;按下Shift键进入Grub菜单。选择「Ad…

Android精准开发——OKHTTP中拦截器原理及实现

1.前言 提到OKHttp大家都不陌生&#xff0c;OKHttp中的拦截器也在大家的项目中或多或少的被使用到&#xff0c;通常我们的使用是这样的 OkHttpClient client new OkHttpClient.Builder() .addInterceptor(new LoggingInterceptor()) .addNetworkInterceptor(new Token…

SpringBoot 整合 mybatis-generator 插件

SpringBoot 整合 mybatis-generator 插件 mybatis-generator 插件 mybatis 相关依赖 <dependency><groupId>org.mybatis.spring.boot</groupId><artifactId>mybatis-spring-boot-starter</artifactId><version>3.0.1</version> &…

Java学习笔记——接口

目录接口的定义和特点JDK8版本中接口成员的特点——默认方法和静态方法JDK9版本中接口成员的特点——私有方法类和接口的关系接口的定义和特点 JDK8版本中接口成员的特点——默认方法和静态方法 JDK9版本中接口成员的特点——私有方法 类和接口的关系

JVM 基础 - JVM 内存结构

JVM 内存结构运行时数据区一、程序计数器&#xff08;线程私有&#xff09;二、虚拟机栈&#xff08;线程私有&#xff09;三、本地方法栈&#xff08;线程私有&#xff09;四、堆内存&#xff08;线程共享&#xff09;五、方法区&#xff08;线程共享&#xff09;运行时数据区…

【Git笔记】分支操作与合并分支(正常与冲突)

分支的操作 命令名称作用git branch 分支名创建分支git branch -v查看分支git checkout 分支名切换分支git merge 分支名把指定的分支合并到当前分支上 查看分支 创建分支 切换分支 合并分支&#xff08;正常合并&#xff09; 在 master 下&#xff0c;hello.txt 在 hot-fix …

[Spring Boot]11 使用@Cacheable注解实现Redis缓存

前言 为了方便讲解&#xff0c;模拟一个需要使用Redis缓存的场景&#xff0c;比如&#xff1a;一款APP的首页&#xff0c;由于其需要加载的数据量较大&#xff0c;于是决定把首页的部分数据使用Redis进行缓存&#xff0c;举例&#xff1a;比如要缓存首页的文章列表(ArticleLis…

Cartesi 2023 年 1 月回顾

2023 年1月 31日&#xff0c;准备迎接令人兴奋的一年&#xff0c;你做好准备了吗&#xff1f; 本月我们围绕游戏领域开展了很多推广活动。主持了我们的第二次游戏开发者社区电话会议&#xff0c; Cartesi 大使 Zach和Ultrachess 开发者 Jesse在 ATX Game Makers 的 game jam 上…