在 Go 中使用 Protocol Buffers

news2025/2/23 14:33:20

各位准备好了吗!这一次,我们将深入探讨 Protocol Buffers(protobuf)及其在数据序列化中的超能力所在。

介绍

Protocol Buffers,也被称为 protobuf,是由谷歌开发的一种语言无关的二进制序列化格式。其主要目的是为了高效地序列化结构化数据,用于系统间通信和数据存储。

img

Protocol Buffers 的主要优势:

  1. 紧凑性:Protobuf 提供高效的序列化,生成较小的消息大小,提升带宽利用效率。
  2. 模式演进:Protobuf 支持模式演进而不破坏兼容性,允许对数据结构进行无缝更新。
  3. 高效的序列化和反序列化:Protobuf 提供快速高效的序列化,提升整体系统性能。
  4. 跨平台支持:Protobuf 允许不同平台和语言之间无缝交换数据。

这些优势使得 Protobuf 成为在 Go 应用程序中进行高效数据通信和存储的强大工具。

它比 JSON 和 XML 更好的地方:

img

XML,即可扩展标记语言,就像一张地图,用标签帮助组织和结构化数据。它以一种人类和机器都能理解的方式呈现信息。然而,XML 可能冗长并占用更多空间,这可能降低性能,使数据传输效率降低。

JSON,即 JavaScript 对象表示法,就像一个信使,使用简单的键值结构来表示数据对象。它因易于阅读和使用而在 Web 服务之间传输数据时变得流行。但 JSON 的基于文本的格式可能导致更大的文件大小,从而影响数据传输速度。

相比之下,Protocol Buffers(protobuf)在数据序列化领域脱颖而出。它就像一个魔术,将数据转换为紧凑高效的二进制格式。Protobuf 以快速的数据处理和适应变化的数据结构而闻名,并且在不破坏兼容性的情况下进行操作。它可以与不同的编程语言一起使用,并确保数据的可靠性。

总之,XML 和 JSON 各有用途,但如果您需要强大且高效的数据序列化解决方案,Protocol Buffer(protobuf)是首选。它提供紧凑性、速度、灵活性和兼容性,使其成为高效处理数据的首选方案。

在 Golang 中的序列化性能:Protocol Buffers vs. JSON

言归正传,让我们动手实践。

  1. 访问官方 Protocol Buffers GitHub 仓库(https://github.com/protocolbuffers/protobuf)下载与您操作系统兼容的编译器。
  2. 使用 .proto 文件格式定义一个 Protocol Buffers 消息模式。
syntax = "proto3";
package main;
option go_package = "/;msgmodel";

message MyMessage {
  int32 id = 1;
  string name = 2;
  string email = 3;
}
  1. 编译文件

protoc — go_out=. ./*proto

这个命令从 protobuf 模式生成 Go 代码绑定。--go_out 标志指定输出应为 Go 语言。这将生成一个 msg.pb.go 文件,其中包含您的 protobuf 模式所需的代码绑定。

  1. 在 Golang 中实现一个基准测试,使用 protobuf 和 JSON 对大型数据集进行序列化。
package main

import (
	"encoding/json"
	"github.com/golang/protobuf/proto"
	"go-protobuf/model/message"
	"log"
	"testing"
)

const (
	iteration = 10000000 //Number of iterations for the benchmark test
)

func generateDataset() []*message.MyMessage {
	var dataset []*message.MyMessage

	for i := 0; i < iteration; i++ {
		data := &message.MyMessage{
			Email: "johndoe@example.com",
			Name:  "John Doe",
			Id:    int32(i),
		}
		dataset = append(dataset, data)
	}

	return dataset
}

func BenchmarkProtobufSerialisation(b *testing.B) {
	dataset := generateDataset()

	b.ResetTimer()
	for n := 0; n < b.N; n++ {
		for _, data := range dataset {
			_, err := proto.Marshal(data)
			if err != nil {
				log.Fatal(err)
			}
		}
	}
}

func BenchmarkJSONSerialization(b *testing.B) {
	dataset := generateDataset()

	b.ResetTimer()
	for n := 0; n < b.N; n++ {
		for _, data := range dataset {
			_, err := json.Marshal(data)
			if err != nil {
				log.Fatal(err)
			}
		}
	}
}
func main() {
	// Run the benchmark tests
	testing.Benchmark(BenchmarkProtobufSerialisation)
	testing.Benchmark(BenchmarkJSONSerialization)
}
  1. 根据基准测试结果(如下所示),很明显,就速度而言,Protocol Buffers(Protobuf)的序列化性能优于 JSON。与 JSON 的序列化基准测试相比,Protobuf 的序列化基准测试完成时间明显较短。

img

内存性能比较:JSON vs. Protocol Buffers

  1. 在 Golang 中实现一个基准测试,比较使用 Protocol Buffers 和 JSON 处理大型数据集时的内存使用情况。
package main

import (
	"encoding/json"
	"github.com/golang/protobuf/proto"
	"go-protobuf/model/message"
	"log"
	"runtime"
	"runtime/debug"
	"testing"
)

const (
	iteration = 100000000 //Number of iterations for the benchmark test
)

func generateDataset() []*message.MyMessage {
	var dataset []*message.MyMessage

	for i := 0; i < iteration; i++ {
		data := &message.MyMessage{
			Email: "johndoe@example.com",
			Name:  "John Doe",
			Id:    int32(i),
		}
		dataset = append(dataset, data)
	}

	return dataset
}

func BenchmarkProtobufSerialisation(b *testing.B) {
	dataset := generateDataset()

	b.ResetTimer()
	for n := 0; n < b.N; n++ {
		for _, data := range dataset {
			_, err := proto.Marshal(data)
			if err != nil {
				log.Fatal(err)
			}
		}
	}

	measureMemoryUsage(b)
}

func BenchmarkJSONSerialization(b *testing.B) {
	dataset := generateDataset()

	b.ResetTimer()
	for n := 0; n < b.N; n++ {
		for _, data := range dataset {
			_, err := json.Marshal(data)
			if err != nil {
				log.Fatal(err)
			}
		}
	}

	measureMemoryUsage(b)

}
func measureMemoryUsage(b *testing.B) {
	debug.FreeOSMemory()
	var mem runtime.MemStats
	runtime.GC()
	runtime.ReadMemStats(&mem)
	b.ReportMetric(float64(mem.Alloc)/1024/1024, "Memory_MB")
}

func main() {
	// Run the benchmark tests
	testing.Benchmark(BenchmarkProtobufSerialisation)
	testing.Benchmark(BenchmarkJSONSerialization)

}
  1. 尽管差异很小,但基准测试结果表明,与 Protobuf 序列化相比,JSON 序列化使用了更多的内存。平均而言,JSON 序列化消耗了约 0.2052 MB 的内存,而 Protobuf 序列化仅使用了约 0.2042 MB。尽管差异很小,但很明显 Protobuf 在内存使用方面更加高效。这意味着 Protobuf 的紧凑二进制格式有助于节省内存,使其成为处理大型数据集和提高性能的良好选择。

img

结论

现在是总结的时候了!!!

与在 Golang 中的 JSON 序列化相比,Protocol Buffers(protobuf)展现出了更优越的性能和内存效率。借助其紧凑的二进制格式和高效的序列化机制,protobuf 提供了更小的消息大小、提升了网络效率,并减少了带宽使用。此外,其模式演进能力允许对数据模型进行无缝更新。虽然 JSON 有其优势,但在需要高速和高内存效率的数据序列化场景中,protobuf 出类拔萃,实现了优化的数据传输和改善的系统性能。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1253341.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

牛客 算法 HJ103 Redraiment的走法 golang语言实现

题目 HJ103 Redraiment的走法 实现 package mainimport ("bufio""fmt""os""strconv""strings" )func main() {scanner : bufio.NewScanner(os.Stdin)nums : make([]int, 0)nums_len:0dp:make([]int, 0)for scanner.Scan()…

2023金盾杯线上赛-AGRT战队-WP

目录 WEB ApeCoin get_source ezupload easyphp MISC 来都来了 芙宁娜 Honor Crypto 我看看谁还不会RSA hakiehs babyrsa PWN sign-format RE Re1 WEB ApeCoin 扫描发现有源码泄露&#xff0c;访问www.tar.gz得到源码。 在源码中发现了冰蝎马。 Md5解码&am…

常见位运算的详讲!

今日为大家详细讲解一番关于常见位运算的操作&#xff0c;本文主要介绍一些位运算的操作符&#xff0c;然后再通过简单->中等->困难的例题&#xff0c;让大家彻底搞懂关于位运算的知识&#xff01; 位运算的介绍&#xff01; 1.基础位运算 ">>"右移操作…

c语言练习12周(6~10)

以下程序调用递归函数fun实现求n!&#xff0c;请补充代码。 题干以下程序调用递归函数fun实现求n!&#xff0c;请补充代码。 int fun(int n) { int c; /****************/ /****************/ else cn*fun(n-1); …

1.3 取反器和8位取反器

取反器真值表: 取反开关输入输出011000110101 取反器相当于一个异或门 8位取反器

Canvas艺术之旅:探索锚点抠图的无限可能

说在前面 在日常的图片处理中&#xff0c;我们经常会遇到需要抠图的情况&#xff0c;无论是为了美化照片、制作海报&#xff0c;还是进行图片合成。抠图对于我们来说也是一种很常用的功能了&#xff0c;今天就让我们一起来看下怎么使用canvas来实现一个锚点抠图功能。 效果展示…

从0到0.01入门 Webpack| 005.精选 Webpack面试题

&#x1f90d; 前端开发工程师&#xff08;主业&#xff09;、技术博主&#xff08;副业&#xff09;、已过CET6 &#x1f368; 阿珊和她的猫_CSDN个人主页 &#x1f560; 牛客高级专题作者、在牛客打造高质量专栏《前端面试必备》 &#x1f35a; 蓝桥云课签约作者、已在蓝桥云…

【c++】——类和对象(下) ——内存管理

作者:chlorine 专栏:c专栏 目录 &#x1f4bb; C/C内存分布 &#x1f4bb;C语言中动态内存管理方式&#xff1a;malloc/calloc/realloc/free ​编辑 &#x1f4bb;C内存管理方式 &#x1f449;new/delete操作内置类型 &#x1f449;new和delete操作自定义类型 &#x1f…

巧妙解决接口测试产生脏数据问题

测试数据创建后需要对其删除&#xff0c;不然可能产生脏数据&#xff0c;对开发和测试、生产环境造成一定影响。 其接口框架是基于Python&#xff0c;API规范基于REST。 产生原因 改进前&#xff1a;清除资源的操作放在每个正向测试用例里&#xff0c;没有在setUp和tearDown…

战地5无限序章(无法保存)的解决办法

启动游戏后&#xff0c;目录就会自动变成这样了&#xff0c;也不会无限循环了&#xff01;

QT自定义控件: QLineEdit设置密码可见性选择的三种方式(小眼睛样式)

一、重写QLineEdit提升控件(最好用) 代码中创建了PasswordLineEdit的自定义类,该类继承自QLineEdit。这个自定义类添加了一个QPushButton,用于切换密码的可见性。 实现步骤: 在构造函数中,创建了一个 QPushButton 对象 toggleButton 作为切换密码可见性的按钮,并设置了…

柑橘病害数据集(四类图像分类,没有打yolo标签)

1.文件夹分为训练集和测试集 在这个数据集中&#xff0c;有一类是新鲜柑橘&#xff0c;还有另外三种疾病&#xff0c;溃疡病、黑斑病和绿化病。 2.train文件夹 2.1.blackspot&#xff08;黑斑病&#xff09; 文件夹 206张照片 2.2.canker&#xff08;溃疡病&#xff09; 文…

cesium轨迹线(图片轨迹线)

cesium轨迹线(图片轨迹线) 下面有源码 实现思路 使用ellipse方法加载圆型,修改polyline中‘material’方法重写glsl来实现当前效果(cesium版本1.109) 示例代码 index.html <!DOCTYPE html> <html lang="en"><head

详解重排重绘

详解重排重绘 前言页面渲染页面渲染 重排重绘重排重绘哪个更耗时间避免重排重绘发生重排重绘实例 前言 本文主要讲解在页面加载成功后可能因为页面中DOM元素样式或布局被修改从而引发的重排重绘进行一个讲解&#xff0c;那么好&#xff0c;本文正式开始. 页面渲染 因为重排重…

类与对象——(1)初识对象——C++中的string

归纳编程学习的感悟&#xff0c; 记录奋斗路上的点滴&#xff0c; 希望能帮到一样刻苦的你&#xff01; 如有不足欢迎指正&#xff01; 共同学习交流&#xff01; &#x1f30e;欢迎各位→点赞 &#x1f44d; 收藏⭐ 留言​&#x1f4dd; 或许不安或许迷惑&#xff0c;但…

【 一篇通】H5 Canvas

文章目录 Canvas的创建(HTMLCanvasElement)图形绘制&#xff1a;H5为Canvas对应的2D上下文Context提供了一系列的画图接口保存save、恢复restore、变换Transformations Canvas的创建(HTMLCanvasElement) 定义canvas HTML元素&#xff0c;默认长宽300x150 <canvas width&qu…

BER编码规则

文章目录 一、BER 编码规则介绍二、BER编码数据组成三、Identifier octets Type1. tag class 分类2. p/c 分类3 tag type4. ASN.1的原始数据类型&#xff08;TAG&#xff09; 四、 Length octets1、定长的短格式2、不定长格式3、保留格式 五、Contents octets六 、BER编码番外 …

20231125硬盘电源线5线不能识别日立10T的硬盘的解决方法

20231125硬盘电源线5线不能识别日立10T的硬盘的解决方法 2023/11/25 23:00 缘起&#xff0c;在拼多多买了2片10TB的7200rpm的日立二手硬盘。 型号&#xff1a;日立 mar-2018 10T硬盘 接上电脑&#xff0c;硬盘感觉在转动了【正常上电了。】 但是X99主板&#xff0c;在WIN10下就…

leetcode设计循环队列(链表方式来实现)

上次我们那个设计循环队列的时候用的是数组&#xff0c;因为那个时候还是不太会链表&#xff0c;现在有了链表的思路&#xff0c;我们一起来看看解题步骤吧。 https://leetcode.cn/problems/design-circular-queue/description/ 设计循环队列 那我们其实最主要的就是我们这个…

时间序列预测实战(十九)魔改Informer模型进行滚动长期预测(科研版本)

论文地址->Informer论文地址PDF点击即可阅读 代码地址-> 论文官方代码地址点击即可跳转下载GIthub链接 个人魔改版本地址-> 文章末尾 一、本文介绍 在之前的文章中我们已经讲过Informer模型了&#xff0c;但是呢官方的预测功能开发的很简陋只能设定固定长度去预测未…