erlang二进制数据垃圾回收机制

erlang二进制数据在内存中有两种存在形式,当数据大小不到 64 bytes,就直接存在进程堆内。假设超过了64 bytes。就被保存到进程外的共享堆里,能够给节点内全部进程共享。

erlang有两种二进制容器:heap binaries和refc binaries。

heap binaries

Heap binaries are small binaries, up to 64 bytes, that are stored directly on the process heap. They will be copied when the process is garbage collected and when they are sent as a message. They don‘t require any
special handling by the garbage collector.

这个就是进程堆二进制,是一些比較小的二进制数据。每一个数据大小不超过64bytes,这些数据保存在进程堆内。对于这里的二进制数据,垃圾回收走的是进程堆数据的回收机制,參考这里。假设发给其它进程的消息含有这些数据,erlang将直接复制一份到别的进程堆内。

针对heap binaries。在R13B03后,erlang还添加了bin vheap来加快二进制数据的回收。

OTP-8202  A new garbage collecting strategy for binaries which is more aggressive than the previous implementation. Binaries now has a virtual binary heap tied to each process. When binaries are created or received
to a process it will check if the heap limit has been reached and if a reclaim should be done. This imitates the behavior of ordinary Erlang terms. The virtual heaps are grown and shrunk like ordinary heaps. This will lessen the memory footprint of binaries
in a system.

就是说heap binaries的垃圾回收使用了进程堆数据的回收方式。但使用了一个虚拟二进制堆(vheap)来计算这些二进制的使用情况,加快内存回收速度。

refc binaries

Refc binaries consist of two parts: an object stored on the process heap, called a ProcBin, and the binary object itself stored outside all process heaps.The binary object can be referenced by any number of ProcBins
from any number of processes; the object contains a reference counter to keep track of the number of references, so that it can be removed when the last reference disappears.

官方的叫法是引用计数二进制,就是对于那些超过64bytes的二进制数据,他们假设直接保存在进程堆内。将导致进程频繁的gc。比較大的数据复制来复制去开销也非常大。

所以。erlang将这些数据保存在进程外的共享堆,再把这个二进制数据的地址给拥有这个数据的进程。

所以,进程堆内保存的是这个二进制数据的引用,叫ProcBin。假设进程把这个二进制数据发给其它进程,erlang也不再复制整个二进制数据,而是直接再生成一份ProcBin到别的进程堆内。那么,这个二进制数据就能够多个进程的ProcBin引用,当没有一个ProcBin引用到这个二进制数据。这个二进制就被erlang回收。

所以,这样的二进制数据的gc的是引用计数的回收机制。注意了,ProcBin是进程堆内数据。走的是进程堆数据的回收方式。

什么是引用计数垃圾回收机制

引用计数就是每一个数据对象都配有一个计数器,计算对象被引用的次数。

多了一个引用就加1。少一个引用就减1,当引用次数为0时就回收数据。

这样的垃圾回收机制实现简单,回收及时,但也有副作用。就是easy造成循环引用,就是A引用B,B引用C,C引用了A,导致A、B、C都无法被回收。

那么。erlang会不会也有循环引用的问题?这里就不用操心,erlang的变量是单向赋值。仅仅存在ProcBin对二进制对象的单向引用

最后。说下erlang另外两种二进制数据:sub binary和match context

A sub binary is created by split_binary/2 and when a binary is matched out in a binary pattern. A sub binary is a reference into a part of another binary (refc or heap binary, never into a another sub binary). Therefore, matching out a binary
is relatively cheap because the actual binary data is never copied.

A match context is similar to a sub binary, but is optimized for binary matching; for instance, it contains a direct pointer to the binary data. For each field that is matched out of a binary, the position in the match context will be incremented.

前面谈到erlang为避免二进制数据复制带来的时间和空间的开销,erlang这里做得更彻底一点,sub binary和match context事实上是引用对象,被用来引用heap binary和refc binary的数据

说到sub binary和match context,这两者有什么差别?

sub binary是一个子二进制数据,从一个二进制切割出来,或匹配一个二进制后产生,具有二进制数据通用的属性和方法;match context是匹配上下文,在erlang进行二进制数据匹配时产生。假设接下来使用了匹配到的二进制数据。那么erlang就将这个match context数据转成sub binary。就是说。match context数据不直接被用户使用。仅仅是erlang用以二进制匹配优化的过程数据

erlang二进制gc的副作用

从上面的内容能够知道。erlang二进制gc有两种gc。heap binary的是进程堆的分代gc,refc binary的是分代gc+引用计数。所以在上文讲到的erlang垃圾回收的副作用,这里相同会有。并且。erlang二进制还增加了引用对象的概念,一个二进制数据能够有多个引用。能够被多个进程引用,也就是要多个进程堆的分代gc后才干回收,这就使得二进制gc更难控制,回收不及时。

另外,在实际的网络开发中,我们须要的数据可能仅仅是二进制数据的一小部分,从上面的内容也能够了解到,假设我们还在使用二进制数据的一部分,那这个二进制数据是不会參与gc的。针对这个问题我们该怎样解决?

%% 生成一个100字节的二进制A
1> A = binary:copy(<<1>>,100).
<<1,1,1,1,1 ...
2> byte_size(A).
100
3> binary:referenced_byte_size(A).
100

%% 匹配二进制,产生子二进制B
4> <<_:10/binary,B:10/binary,_/binary>> = A.
<<1,1,1,1,1 ...
5> byte_size(B).
10
6> binary:referenced_byte_size(B).
100

%% 复制二进制生成二进制C
7> C = binary:copy(B).
<<1,1,1,1,1,1,1,1,1,1>>
8> binary:referenced_byte_size(C).
10

上面。二进制B是二进制A的子二进制。假设B还有使用,A就不会參与gc;而二进制C是一个新的二进制,不会引用二进制A,让A能够參与垃圾回收

更新说明:

2014/06/13 补充了 erlang二进制垃圾回收的副作用

參考:

http://blog.csdn.net/mycwq/article/details/26741387

http://www.erlang.org/doc/efficiency_guide/binaryhandling.html#id65798

时间: 2024-10-29 10:45:45

erlang二进制数据垃圾回收机制的相关文章

Erlang进程堆垃圾回收机制

引言 在之前的文章中,我们介绍了如何使用Scala IDE也就是eclipse中集成的Scala开发插件来进行Scala语言程序的开发,在使用了一段时间之后,发现eclipse对Scala的支持并不是很好.用户体验比较差,比如联想速度比较慢等.由于在公司一直使用的Scala开发工具是Intellij IDEA(好吧,其实我使用Scala IDE的目的就是想试一下这两个各有什么优缺点),各方面感觉还不错,所以在此介绍一下这个开发环境. Intellij IDEA是jetbrain开发的一个IDE,

Cocos2d-X 3.X Ref类型数据 垃圾回收机制

1.不调用autorelease()的情况         TestVO* vo = new TestVO();         //未调用create()方法创建,没有执行过autorelease()         vo->init();         //这种情况下局部变量无法被回收         vo->release();         //需要手动调用release()方法                  //CC_SAFE_DELETE(vo);         //也可

Erlang垃圾回收机制的二三事

声明:本片文章是由Hackernews上的[Erlang Garbage Collection Details and Why ItMatters][1]编译而来,本着学习和研究的态度,进行的编译,转载请注明出处. Erlang需要解决的重要问题之一就是为实现极高响应能力的软实时系统创建平台.这样的系统需要一个快速的垃圾回收机制,而这个机制不会阻止系统及时的响应.另一方面,当我们把Erlang看作一种用无损更新属性的不可改变语言时,这个垃圾回收机制就显得更加重要了,因为这种语言有很高的几率产生垃

大数据基础篇----jvm的知识点归纳-5个区和垃圾回收机制

一直对jvm看了又忘,忘了又看的.今天做一个笔记整理存放在这里. 我们先看一下JVM的内存模型图: 上面有5个区,这5个区干嘛用的呢? 我们想象一个场景: 我们有一个class文件,里面有很多的类的定义是不是,类的定义放在什么地方呢?类的定义就放在方法区里面. 程序在运行时会产生很多的对象,比如LinkList等这些对象就存放在堆里面. 栈: 我们的程序在运行时本质上就是启动线程在运行,比如main函数就是一个主线程.一个main主线程可以有很多的子线程. 线程在工作就是执行我们的各种方法.方法

理解Android Java垃圾回收机制

Jvm(Java虚拟机)内存模型 从Jvm内存模型中入手对于理解GC会有很大的帮助,不过这里只需要了解一个大概,说多了反而混淆视线. Jvm(Java虚拟机)主要管理两种类型内存:堆和非堆.堆是运行时数据区域,所有类实例和数组的内存均从此处分配.非堆是JVM留给自己用的,包含方法区.JVM内部处理或优化所需的内存(如 JIT Compiler,Just-in-time Compiler,即时编译后的代码缓存).每个类结构(如运行时常数池.字段和方法数据)以及方法和构造方法的代码. 简言之,Jav

详解JVM内存管理与垃圾回收机制 (上)

Java应用程序是运行在JVM上的,得益于JVM的内存管理和垃圾收集机制,开发人员的效率得到了显著提升,也不容易出现内存溢出和泄漏问题.但正是因为开发人员把内存的控制权交给了JVM,一旦出现内存方面的问题,如果不了解JVM的工作原理,将很难排查错误.本文将从理论角度介绍虚拟机的内存管理和垃圾回收机制,算是入门级的文章,希望对大家的日常开发有所助益. 一.内存管理 也许大家都有过这样的经历,在启动时通过-Xmx或者-XX:MaxPermSize这样的参数来显式的设置应用的堆(Heap)和永久代(P

【java_基础】JVM内存模型和垃圾回收机制

1. JVM内存模型 Java虚拟机在程序执行过程会把jvm的内存分为若干个不同的数据区域来管理,这些区域有自己的用途,以及创建和销毁时间. 先来看一下Java程序具体执行的过程 上图中的运行数据区(Runtime Data Areas)即为JVM内存区域,其结构如下图: 各区域存储的具体信息: 1.1 程序计数器 程序计数器(Program Counter Register),也有称作为PC寄存器.JVM中的程序计数器跟汇编语言中的程序计数器在功能上是相同的,即指示待执行指令的地址.当 CPU

编程语言类别;运行Python程序的方式;变量和常量;Python程序的垃圾回收机制;

---恢复内容开始--- 一.编程语言分类: 1.机器语言:直接用二进制的0和1和计算机(CPU)直接沟通交流,直接操作硬件. 优点:不需转换,计算机能直接读懂,执行速度快. 缺点:二进制代码复杂多样,理解甚难,开发效率低. ps:站在奴隶的角度说奴隶能够听得懂的话 0000 代表  加载 (LOAD) 0001代表 存储(STORE) 暂存器部分事例 0000  代表暂存器 A 0001  代表暂存器  B 存储器部分事例 000000000000  代表地址为 0的存储器 000000000

python入门之垃圾回收机制、用户交互、算术运算符

1.垃圾回收机制详解 引用计数 引用计数:记录指向对象引用的个数 x=10l=['a','b',x] # l=['a'的内存地址,'b'的内存地址,10的内存地址] 引用分为直接引用和间接引用 直接引用:变量值的内存地址直接指向变量名 x = 10 间接引用:变量值的内存地址直接指向变量名,变量名作为一个元素,存储在容器中(list/dict) x = 11y = [5,x] 标记清除:用来解决循环引用带来的内存泄露问题 标记清除就是用来清除循环引用情况下引用计数无法清除的垃圾,python解释