高性能的序列化与反序列化:kryo的简单使用

前言:kryo是个高效的java序列化/反序列化库,目前Twitter、yahoo、Apache、strom等等在使用该技术,比如Apache的spark、hive等大数据领域用的较多。

为什么使用kryo而不是其他?

因为性能足够好。比kyro更高效的序列化库就只有google的protobuf了(而且两者性能很接近),protobuf有个缺点就是要传输的每一个类的结构都要生成对应的proto文件(也可以都放在同一个proto文件中,如果考虑到扩展性的话,不建议放在一个proto文件中),如果某个类发生修改,还得重新生成该类对应的proto文件;另外考虑到项目中用的全部是java技术栈,不存在不同编程语言间的兼容性问题,因此最终采用了kryo作为序列化库。

使用场景:(数据交换或数据持久化)比如使用kryo把对象序列化成字节数组发送给消息队列或者放到redis等nosql中等等应用场景。

注意:由于kryo不是线程安全的,针对多线程情况下的使用,要对kryo进行一个简单的封装设计,从而可以多线程安全的使用序列化和反序列化

序列化和反序列化接口设计

  1. /**
  2. * 序列化工具(程序调用该接口来实现obj<->byte[]之间的序列化/反序列化)
  3. * @author eguid
  4. *
  5. */
  6. public interface Serializer{
  7.  
  8. /**
  9. * 序列化
  10. * @param t
  11. * @param bytes
  12. */
  13. public void serialize(Object t,byte[] bytes);
  14.  
  15. /**
  16. * 序列化
  17. * @param obj
  18. * @param bytes
  19. * @param offset
  20. * @param count
  21. */
  22. public void serialize(Object obj, byte[] bytes, int offset, int count);
  23.  
  24. /**
  25. * 反序列化
  26. * @param bytes -字节数组
  27. * @return T<T>
  28. */
  29. public <T>T deserialize(byte[] bytes);
  30.  
  31.  
  32. /**
  33. * 反序列化
  34. * @param bytes
  35. * @param offset
  36. * @param count
  37. * @return
  38. */
  39. public <T>T deserialize(byte[] bytes, int offset, int count);
  40.  
  41. }

使用kryo实现上面的接口

  1. /**
  2. * 基于kyro的序列化/反序列化工具
  3. *
  4. * @author eguid
  5. *
  6. */
  7. public class kryoSerializer implements Serializer {
  8.  
  9. // 由于kryo不是线程安全的,所以每个线程都使用独立的kryo
  10. final ThreadLocal<Kryo> kryoLocal = new ThreadLocal<Kryo>() {
  11. @Override
  12. protected Kryo initialValue() {
  13. Kryo kryo = new Kryo();
  14. kryo.register(ct, new BeanSerializer<>(kryo, ct));
  15. return kryo;
  16. }
  17. };
  18. final ThreadLocal<Output> outputLocal = new ThreadLocal<Output>();
  19. final ThreadLocal<Input> inputLocal = new ThreadLocal<Input>();
  20. private Class<?> ct = null;
  21.  
  22. public kryoSerializer(Class<?> ct) {
  23. this.ct = ct;
  24. }
  25.  
  26. public Class<?> getCt() {
  27. return ct;
  28. }
  29.  
  30. public void setCt(Class<?> ct) {
  31. this.ct = ct;
  32. }
  33.  
  34. @Override
  35. public void serialize(Object obj, byte[] bytes) {
  36. Kryo kryo = getKryo();
  37. Output output = getOutput(bytes);
  38. kryo.writeObjectOrNull(output, obj, obj.getClass());
  39. output.flush();
  40. }
  41.  
  42. @Override
  43. public void serialize(Object obj, byte[] bytes, int offset, int count) {
  44. Kryo kryo = getKryo();
  45. Output output = getOutput(bytes, offset, count);
  46. kryo.writeObjectOrNull(output, obj, obj.getClass());
  47. output.flush();
  48. }
  49.  
  50. /**
  51. * 获取kryo
  52. *
  53. * @param t
  54. * @return
  55. */
  56. private Kryo getKryo() {
  57. return kryoLocal.get();
  58. }
  59.  
  60. /**
  61. * 获取Output并设置初始数组
  62. *
  63. * @param bytes
  64. * @return
  65. */
  66. private Output getOutput(byte[] bytes) {
  67. Output output = null;
  68. if ((output = outputLocal.get()) == null) {
  69. output = new Output();
  70. outputLocal.set(output);
  71. }
  72. if (bytes != null) {
  73. output.setBuffer(bytes);
  74. }
  75. return output;
  76. }
  77.  
  78. /**
  79. * 获取Output
  80. *
  81. * @param bytes
  82. * @return
  83. */
  84. private Output getOutput(byte[] bytes, int offset, int count) {
  85. Output output = null;
  86. if ((output = outputLocal.get()) == null) {
  87. output = new Output();
  88. outputLocal.set(output);
  89. }
  90. if (bytes != null) {
  91. output.writeBytes(bytes, offset, count);
  92. }
  93. return output;
  94. }
  95.  
  96. /**
  97. * 获取Input
  98. *
  99. * @param bytes
  100. * @param offset
  101. * @param count
  102. * @return
  103. */
  104. private Input getInput(byte[] bytes, int offset, int count) {
  105. Input input = null;
  106. if ((input = inputLocal.get()) == null) {
  107. input = new Input();
  108. inputLocal.set(input);
  109. }
  110. if (bytes != null) {
  111. input.setBuffer(bytes, offset, count);
  112. }
  113. return input;
  114. }
  115.  
  116. @SuppressWarnings("unchecked")
  117. @Override
  118. public <T> T deserialize(byte[] bytes, int offset, int count) {
  119. Kryo kryo = getKryo();
  120. Input input = getInput(bytes, offset, count);
  121. return (T) kryo.readObjectOrNull(input, ct);
  122. }
  123.  
  124. @Override
  125. public <T> T deserialize(byte[] bytes) {
  126. return deserialize(bytes, 0, bytes.length);
  127. }

测试一下kryo的序列化和反序列化

为什么使用纳秒,而不用毫秒?与java原生的序列化反序列化要耗时几毫秒不同,kryo序列化和反序列化太快了,单个对象的序列化反序列化速度都在0.0x毫秒左右(如果电脑性能更好的话,会更快)

  1. Serializer ser = new kryoSerializer(Msg.class);
  2. for (int i = 0; i < 10; i++) {
  3.  
  4. Msg msg = new Msg();
  5.  
  6. msg.setVersion_flag(new byte[] { 1, 2, 3 });
  7. msg.setCrc_code((short) 1);
  8. msg.setMsg_body(new byte[] { 123, 123, 123, 43, 42, 1, 12, 45, 57, 98 });
  9. byte[] bytes = new byte[300];
  10. long start = System.nanoTime();
  11. ser.serialize(msg, bytes);
  12. System.err.println("序列化耗时:" + (System.nanoTime() - start));
  13. System.out.println(msg);
  14. System.out.println(Arrays.toString(bytes));
  15.  
  16. Msg newmsg = null;
  17. start = System.nanoTime();
  18. newmsg = ser.deserialize(bytes);
  19. System.err.println("反序列化耗时:" + (System.nanoTime() - start));
  20. System.out.println(newmsg);
  21. }

----end----

原文地址:https://www.cnblogs.com/eguid/p/9667133.html

时间: 2024-10-05 11:43:56

高性能的序列化与反序列化:kryo的简单使用的相关文章

利用php的序列化和反序列化来做简单的数据本地存储

如下程序可以做为一个工具类 /** * 利用php的序列化和反序列化来做简单的数据本地存储 */ class objectdb { private static $db; //成功返回 objectdb 对象,不需要在外面使用new //目录需要写文件的权限 public function defaultdb($dbname='./default.db') { self::$db = $dbname; if(file_exists($dbname)) { return new objectdb(

XmlSerializer 对象的Xml序列化和反序列化,XMLROOT别名设置

这篇随笔对应的.Net命名空间是System.Xml.Serialization:文中的示例代码需要引用这个命名空间. 为什么要做序列化和反序列化? .Net程序执行时,对象都驻留在内存中:内存中的对象如果需要传递给其他系统使用:或者在关机时需要保存下来以便下次再次启动程序使用就需要序列化和反序列化. 范围:本文只介绍xml序列化,其实序列化可以是二进制的序列化,也可以是其他格式的序列化. 看一段最简单的Xml序列化代码 1 2 3 4 5 6 7 8 9 10 11 12 class Prog

Swifter.Json -- 在 .Net 平台上的一个功能强大,简单易用,稳定又不失高性能的 JSON 序列化和反序列化工具。

Swifter.Json Github Wiki 在 .Net 平台上的一个功能强大,简单易用,稳定又不失高性能的 JSON 序列化和反序列化工具. Swifter.Json 已经经过了大量测试和线上项目中运行许久来确保它的稳定性. 特性 1: 支持 .Net 上绝大多是的数据类型,且轻松扩展:包括但不限于:实体,字典,集合,迭代器,数据读取器和表格. 2: 支持 .Net 我已知的大多数平台,包括但不限于:.Net Framework 2.0+, .Net Core 2.0+, .Net St

lua 对表的简单序列化与反序列化

参考文档:http://blog.csdn.net/xiaodan007/article/details/7096718 function sz_T2S(_t) local szRet = "{" function doT2S(_i, _v) if "number" == type(_i) then szRet = szRet .. "[" .. _i .. "] = " if "number" == ty

C#序列化与反序列化方式简单总结

相关类: System.SerializableAttribute特性(或称为属性), System.Runtime.Serialization.Iserializable(自定义序列化接口), System.Runtime.Serialization.IserializationSurrogate(自定义序列化代理接口), System.Runtime.Serializatin.SurrogateSelector(自定义序列化代理设置类) 1:官方备注 序列化使用 BinaryFormatte

访问修饰限定符的简单总结、final/abstruct/interface对类的限制、自动加载机制、序列化与反序列化【数据持久化和对象的序列化问题】、对象的拷贝(按引用是因为对象标识)和克隆(__clone方法中的this指向)

1.针对访问修饰限定符的理解只需要两点:(1)针对的是类的概念和访问代码的位置来确定是否能够访问(2)对访问修饰限定符的使用时只需要对该成员的使用场景注意即可[也就是内部,继承类,外部进行访问的权限] 不需要对内部进行太多理解[需要对php底层理解时进行理解] [重点][用途]通过访问修饰限定符将内部成员的权限合理的限制,然后再使用公共接口来调用这个基本服务,保证外部不能访问其内部的构件[这样既能够通过类内的设置,将内部的功能实现更好的限制,只有最外层的接口可以正常被访问到,而不了解内部的业务]

megajson 高性能的json序列化、反序列化工具

go 自带的 encoding/json 支持json的序列化和反序列化, 然而它是基于反射的,有下面几个缺点: 反射是性能差的代名词, 并且无法在编译时进行优化. 只有 Public 字段才可以,反射库只能反射出暴露出来的字段,这意味着你无法对private 字段进行JSON转化. https://github.com/benbjohnson/megajson 针对这个问题做了优化,它是一个代码生成工具, 通过使用 go/parser 和 go/ast 包去产生你自己类型实体的自定义的 序列号

Json.Net学习(1) 实现简单的序列化和反序列化

Attributes 可以用来控制Json.Net如何序列化和反序列化.Net对象. >JsonObjectAttribute--标记在类上,用于控制该类如何被序列化为一个Json对象(JSON Object) >JsonArrayAttribute--标记在集合上,用于控制该集合如何被序列化为一个Json集合(JSON Array) >JsonPropertyAttribute--标记在字段和属性上,用于控制它如何被序列化为一个Json对象中的属性 >JsonConverterA

简单Json序列化和反序列化

序列化是什么: 序列化就是将一个对象的状态(各个属性量)保存起来,然后在适当的时候再获得.序列化分为两大部分:序列化和反序列化.序列化是这个过程的第一部分,将数据分解成字节流,以便存储在文件中或在网络上传输.反序列化就是打开字节流并重构对象.对象序列化不仅要将基本数据类型转换成字节表示,有时还要恢复数据.恢复数据要求有恢复数据的对象实例. 序列化有什么特点: 如果某个类能够被序列化,其子类也可以被序列化.声明为static和transient类型的成员数据不能被序列化.因为static代表类的状