protobuf之序列化数据和反序列化数据基础知识
什么是 protobuf
Protocal Buffers(简称protobuf)是谷歌的一项技术,用于结构化的数据序列化、反序列化。
Protocol Buffers 是一种语言无关、平台无关、可扩展的序列化结构数据的方法,它可用于(数据)通信协议、数据存储等。
Protocol Buffers 是一种灵活,高效,自动化机制的结构数据序列化方法-可类比 XML,但是比 XML 更小(3 ~ 10倍)、更快(20 ~ 100倍)、更为简单。
你可以定义数据的结构,然后使用特殊生成的源代码轻松的在各种数据流中使用各种语言进行编写和读取结构数据。你甚至可以更新数据结构,而不破坏由旧数据结构编译的已部署程序
protobuf 就是一个序列化数据和反序列化数据的方法,类似的还有 XML、Json、Java 的 Serializable 等。
但protobuf的效率高于XML、Json,不过protobuf生成的是字节码,可读性相比之略差
生成代码指定
protoc demo.proto --java_out=./
--cpp_out :在目标目录DST_DIR中产生C++代码
--java_out :在目标目录DST_DIR中产生Java代码
--python_out :在目标目录 DST_DIR 中产生Python代码
--go_out :在目标目录 DST_DIR 中产生Go代码
--ruby_out:在目标目录 DST_DIR 中产生Ruby代码
--javanano_out:在目标目录DST_DIR中生成JavaNano
--objc_out:在目标目录DST_DIR中产生Object代码
--csharp_out:在目标目录DST_DIR中产生Object代码
--php_out:在目标目录DST_DIR中产生Object代码
protobuf安装配置
protobuf编辑器安装
下载地址:
https://github.com/protocolbuffers/protobuf/releases
配置环境变量
打开cmd命令行,输入
protoc
protoc --version
# 生成protoc代码
protoc demo.proto --java_out=./
IDEA配置protobuf
1、File->Setting->Plugins
安装protobuf插件
重启之后我们可以在工具栏看到这两个选项
一个是配置全局的 protobuf
一个是生成所有的 protobuf 文件
2、配置protobufs :Configure->GenProtobuf
此处配置的是安装的protoc.exe
protoc path :我们下载的 protobuf 编辑器的位置,在 bin 目录下有一个 .exe 文件
quick gen : 对应的语言,这里选择伟大的 Java
简单-proto案例
1、引入pom依赖
com.google.protobuf
protobuf-java
3.20.1
com.google.protobuf
protobuf-java-util
3.20.1
2、编写 .proto 文件
新建一个 demo.proto
//使用 proto3 语法 ,未指定则使用proto2
syntax = "proto3";
//生成 proto 文件所在包路径
package com.qingfeng.proto;
//生成 proto 文件所在包路径
option java_package = "com.qingfeng.proto";
//生成 proto 文件名
option java_outer_classname="DemoProto";
message Demo{
//自身属性
int32 id = 1;
string code = 2;
string name = 3;
}
3、生成 proto 对象
选中我们新建的.proto 文件,右键,选择框中的选项就可以生成了,将生成之后的文件拷贝到java目录下面。
4、新建测试类
package com.qingfeng.test;
import com.google.protobuf.InvalidProtocolBufferException;
import com.google.protobuf.util.JsonFormat;
import com.qingfeng.proto.DemoProto;
import java.util.Arrays;
/**
* @author Administrator
* @version 1.0.0
* @ProjectName com.qingfeng-client
* @Description TODO
* @createTime 2022年05月01日 18:10:00
*/
public class DemoTest {
public static void main(String[] args) {
//初始化数据
DemoProto.Demo.Builder demo = DemoProto.Demo.newBuilder();
demo.setId(1)
.setCode("001")
.setName("张三")
.build();
//序列化
DemoProto.Demo build = demo.build();
//转换成字节数组
byte[] s = build.toByteArray();
System.out.println("protobuf数据bytes[]:" + Arrays.toString(s));
System.out.println("protobuf序列化大小: " + s.length);
DemoProto.Demo demo1 = null;
String jsonObject = null;
try {
//反序列化
demo1 = DemoProto.Demo.parseFrom(s);
//转 json
jsonObject = JsonFormat.printer().print(demo1);
} catch (InvalidProtocolBufferException e) {
e.printStackTrace();
}
System.out.println("Json格式化结果:\n" + jsonObject);
System.out.println("Json格式化数据大小: " + jsonObject.getBytes().length);
}
}
protobuf 与 Java 数据类型对应
1、字段规则
required : 字段只能也必须出现 1 次,多用于必填项,必须赋值的字符
required int32 id = 1
optional : 字段可出现 0 次或多次,可有可无的字段,可以使用[default = xxx]配置默认值
optional string name = 1 [default = "张三"]
repeated : 字段可出现任意多次(包括 0),多用于 Java List 属性
//list String
repeated string strList = 5;
//list 对象
repeated Role roleList = 6;
2、字段类型
protobuf 类型 | java 类型 |
double | double |
float | float |
int32 | int |
int64 | long |
bool | boolean |
string | String |
系统默认值:
string默认为空字符串
bool默认为false
数值默认为0
enum默认为第一个元素
3、复杂类型
Java String、Integer List 在 protobuf 的定义
//创建一个 User 对象
message User{
//list Int
repeated int32 intList = 1;
//list String
repeated string strList = 5;
}
Java 对象 List 在 protobuf 的定义
//创建一个 User 对象
message User{
//list 对象
repeated Role roleList = 6;
}
Java String、Integer Map 在 protobuf 的定义
//创建一个 User 对象
message User{
// 定义简单的 Map string
map intMap = 7;
// 定义复杂的 Map 对象
map stringMap = 8;
}
Java 对象 Map 在 protobuf 的定义
//创建一个 User 对象
message User{
// 定义复杂的 Map 对象
map mapObject = 8;
}
// 定义 Map 的 value 对象
message MapVauleObject {
string code = 1;
string name = 2;
}
Java 实体类中嵌套实体 在 protobuf 的定义
//创建一个 User 对象
message User{
// 对象
NickName nickName = 4;
}
// 定义一个新的Name对象
message NickName {
string nickName = 1;
}