(转)mmap和shm共享内存的区别和联系

共享内存的创建

根据理论:

1. 共享内存允许两个或多个进程共享一给定的存储区,因为数据不需要来回复制,所以是最快的一种进程间通信机制。共享内存可以通过mmap()映射普通文件 (特殊情况下还可以采用匿名映射)机制实现,也可以通过系统V共享内存机制实现。应用接口和原理很简单,内部机制复杂。为了实现更安全通信,往往还与信号 灯等同步机制共同使用。

mmap的机制如:就是在磁盘上建立一个文件,每个进程存储器里面,单独开辟一个空间来进行映射。如果多进程的话,那么不会对实际的物理存储器(主存)消耗太大。

shm的机制:每个进程的共享内存都直接映射到实际物理存储器里面。

结论:

1、mmap保存到实际硬盘,实际存储并没有反映到主存上。优点:储存量可以很大(多于主存)(这里一个问题,需要高手解答,会不会太多拷贝到主存里面???);缺点:进程间读取和写入速度要比主存的要慢。

2、shm保存到物理存储器(主存),实际的储存量直接反映到主存上。优点,进程间访问速度(读写)比磁盘要快;缺点,储存量不能非常大(多于主存)

使用上看:如果分配的存储量不大,那么使用shm;如果存储量大,那么使用shm。

参看百度:http://baike.baidu.com/view/1499209.htm

mmap就是一个文件操作

看这些百度的描述:

mmap()系统调用使得进程之间通过映射同一个普通文件实现共享内存。普通文件被映射到进程地址空间后,进程可以向访问普通内存一样对文件进行访问,不
必再调用read(),write()等操作。
成功执行时,mmap()返回被映射区的指针,munmap()返回0。失败时,mmap()返回MAP_FAILED[其值为(void
*)-1],munmap返回-1。errno被设为以下的某个值
EACCES:访问出错EAGAIN:文件已被锁定,或者太多的内存已被锁定EBADF:fd不是有效的文件描述词EINVAL:一个或者多个参数无效
ENFILE:已达到系统对打开文件的限制ENODEV:指定文件所在的文件系统不支持内存映射ENOMEM:内存不足,或者进程已超出最大内存映射数量
EPERM:权能不足,操作不允许ETXTBSY:已写的方式打开文件,同时指定MAP_DENYWRITE标志SIGSEGV:试着向只读区写入
SIGBUS:试着访问不属于进程的内存区参数fd为即将映射到进程空间的文件描述字,

一般由open()返回,同时,fd可以指定为-1,此时须指定 flags参数中的MAP_ANON,表明进行的是匿名映射(不涉及具体的文件名,避免了文件的创建及打开,很显然只能用于具有亲缘关系的进程间通信)

相关文章参考:

mmap函数是unix/linux下的系统调用,来看《Unix Netword programming》卷二12.2节有详细介绍。

mmap系统调用并不是完全为了用于共享内存而设计的。它本身提供了不同于一般对普通文件的访问方式,进程可以像读写内存一样对普通文件的操作。而Posix或系统V的共享内存IPC则纯粹用于共享目的,当然mmap()实现共享内存也是其主要应用之一。
         
mmap系统调用使得进程之间通过映射同一个普通文件实现共享内存。普通文件被映射到进程地址空间后,进程可以像访问普通内存一样对文件进行访问,不必再
调用read(),write()等操作。mmap并不分配空间, 只是将文件映射到调用进程的地址空间里,
然后你就可以用memcpy等操作写文件, 而不用write()了.写完后用msync()同步一下, 你所写的内容就保存到文件里了.
不过这种方式没办法增加文件的长度, 因为要映射的长度在调用mmap()的时候就决定了.

简单说就是把一个文件的内容在内存里面做一个映像,内存比磁盘快些。
基本上它是把一个档案对应到你的virtual memory 中的一段,并传回一个指针。

重写总结:

1、mmap实际就是操作“文件”。

2、映射文件,除了主存的考虑外。shm的内存共享,效率应该比mmap效率要高(mmap通过io和文件操作,或“需要写完后用msync()同步一下”);当然mmap映射操作文件,比直接操作文件要快些;由于多了一步msync应该可以说比shm要慢了吧???

3、另一方面,mmap的优点是,操作比shm简单(没有调用比shm函数复杂),我想这也是许多人喜欢用的原因,包括nginx。

缺点,还得通过实际程序测试,确定!!!

修正理解(这也真是的,这个网站没办法附加;只能重写了):

今天又细心研究了一下,发现百度这么一段说明:

2、系统调用mmap()用于共享内存的两种方式:
(1)使用普通文件提供的内存映射:适用于任何进程之间;此时,需要打开或创建一个文件,然后再调用mmap();典型调用代码如下:
fd=open(name, flag, mode);
if(fd<0)
...
ptr=mmap(NULL, len , PROT_READ|PROT_WRITE, MAP_SHARED , fd , 0); 通过mmap()实现共享内存的通信方式有许多特点和要注意的地方,我们将在范例中进行具体说明。
(2)使用特殊文件提供匿名内存映射:适用于具有亲缘关系的进程之间;由于父子进程特殊的亲缘关系,在父进程中先调用mmap(),然后调用
fork()。那么在调用fork()之后,子进程继承父进程匿名映射后的地址空间,同样也继承mmap()返回的地址,这样,父子进程就可以通过映射区
域进行通信了。注意,这里不是一般的继承关系。一般来说,子进程单独维护从父进程继承下来的一些变量。而mmap()返回的地址,却由父子进程共同维护。

看了一下windows“内存映射文件”:http://baike.baidu.com/view/394293.htm

内存映射文件与虚拟内存有些类似,通过内存映射文件可以保留一个地址空间的区域,同时将物理存储器提交给此区域,只是内存文件映射的物理存储器来自一个已
经存在于磁盘上的文件,而非系统的页文件,而且在对该文件进行操作之前必须首先对文件进行映射,就如同将整个文件从磁盘加载到内存。由此可以看出,使用内
存映射文件处理存储于磁盘上的文件时,将不必再对文件执行I/O操作,这意味着在对文件进行处理时将不必再为文件申请并分配缓存,所有的文件缓存操作均由
系统直接管理,由于取消了将文件数据加载到内存、数据从内存到文件的回写以及释放内存块等步骤,使得内存映射文件在处理大数据量的文件时能起到相当重要的
作用。另外,实际工程中的系统往往需要在多个进程之间共享数据,如果数据量小,处理方法是灵活多变的,如果共享数据容量巨大,那么就需要借助于内存映射文
件来进行。实际上,内存映射文件正是解决本地多个进程间数据共享的最有效方法。

这里再总结一次:

1、mmap有两种方式,一种是映射内存,它把普通文件映射为实际物理内存页,访问它就和访问物理内存一样(这也就和shm的功能一样了)(同时不用刷新到文件)

2、mmap可以映射文件,不确定会不会像windows“内存映射文件”一样的功能,如果是,那么他就能映射好几G甚至好几百G的内存数据,对大数据处理将提供强大功能了???

3、shm只做内存映射,和mmap第一个功能一样!只不过不是普通文件而已,但都是物理内存。

希望大家出意见!!

Linux给我们提供了丰富的内部进程通信机制,包括共享内存、内存映射文件、先入先出(FIFO)、接口(sockets)以及多种用于同步的标识。在本文中,我们主要讨论一下共享内存和内存映射文件技术。

一般来说,内部进程通信(interprocess communication)也就是IPC,是指两个或两个以上进程以及两个或者两个以上线程之间进行通信联系。每个IPC机制都有不同的强项或者弱点, 不过没有一个IPC机制包含内建的同步方法。因此程序员不但需要自己在程序中实现同步,而且还需要为了利用IPC机制而自己开发通信协议。

共享内存

使用共享内存和使用malloc来分配内存区域很相似。使用共享内存的方法是:

1.对一个进程/线程使用shmget分配内存区域。

2.使用shmat放置一个或多个进程/线程在共享内存中,你也可以用shmctl来获取信息或者控制共享区域。

3.使用shmdt从共享区域中分离。

4.使用shmctl解除分配空间

下面是个例子:

    //建立共享内存区域  intshared_id;  char *region;  const intshm_size = 1024;    shared_id = shmget(IPC_PRIVATE,//保证使用唯一ID            shm_size,            IPC_CREAT | IPC_EXCL |//创建一个新的内存区域            S_IRUSR | S_IWUSR);//使当前用户可以读写这个区域    //交叉进程或生成进程.    //将新建的内存区域放入进程/线程  region = (char*) shmat(segment_id, 0, 0);    //其他程序代码  ...    //将各个进程/线程分离出来  shmdt(region);    //破坏掉共享内存区域  shmctl(shared_id, IPC_RMID, 0);

  

共享内存是Linux中最快速的IPC方法。他也是一个双向过程,共享区域内的任何进程都可以读写内存。这个机制的不利方面是其同步和协议都不受程序员控制,你必须确保将句柄传递给了子进程和线程。

内存映射文件

内存映射文件不仅仅用于IPC,在其他进程中它也有很大作用。如果你需要将一个分配的缓冲区初始化为零,只要记住/dev/zero 。你也可以通过将文件映射到内存中以提高其性能。它使你可以像读写字符串一样读写文件。下面是个例子:

    const char filename[] = "testfile";  intfd;  char *mapped_mem;  const intflength = 1024;  fd = open(filename, O_RDWR | O_CREAT, S_IRUSR | S_IWUSR);  lseek(fd, flength + 1, SEEK_SET);  write(fd, "\0", 1);  lseek(fd, 0, SEEK_SET);    mapped_mem = mmap(0,           flength,           PROT_WRITE, //允许写入           MAP_SHARED,//写入内容被立即写入到文件           fd,           0);    close(fd);    //使用映射区域.  ...    munmap(file_memory, flength);

  

利用内存映射来处理IPC的好处是在整个过程中你不需要处理句柄:只要打开文件并把它映射在合适的位置就行了。你可以在两个不相关的进程间使用内存映射文件。

使用内存映射的缺点是速度不如共享内存快。如果凑巧文件很大,所需要的虚拟内存就会很大,这样会造成整体性能下降。

时间: 2024-10-05 05:18:28

(转)mmap和shm共享内存的区别和联系的相关文章

mmap函数实现共享内存

mmap将一个文件或者其他对象映射进内存.mmap也可以实现共享内存.mmap函数调用使得进程之间通过映射同一个文件实现共享内存.文件被映射到进程地址空间后,进程可以像读写内存一样对文件进行操作. 函数原型:void* mmap(void* addr,size_t length,int prot,int flags,int fd,off_t offset); addr:映射区的开始地址,设置为0时表示系统决定映射区的起始地址 length:映射区的长度.长度单位为字节 prot:期望的内存保护标

Posix与System V共享内存函数区别

Posix标准shm_open:打开或创建一个共享内存区shm_unlink:删除一个共享内存区ftruncate:调整文件或共享内存区大小sem_open:创建信号量sem_wait:等待信号量sem_post:发送信号量sem_close:关闭信号量 System V标准ftok:生成keyshmget:建立共享内存shmdt:删除共享内存区semget:创建信号量semop:操作信号量semctl:控制信号量 简单解释一下ipcs命令和ipcrm命令.取得ipc信息:ipcs [-m|-q

SAP内存、ABAP内存、共享内存的 区别

区别: (1)SAP内存使用 SET/GET parameters 方法: SET  PARAMETER  ID  'MAT' field P_MATNR. GET  PARAMETER  ID  'MAT' field P_MATNR. EXP: IF GW_TAB-EBELN  IS NOT  INITIAL. SET  PARAMETER  ID  'BES'  FIELD  GW_TAB-EBELN. CALL TRANSACTION  'MW23N'  AND  SKIP  FIRST

使用mmap可以方便地添加共享内存

使用mmap添加的共享内存. 局限: 只能在有亲属关系的进程之间使用. #include <stdio.h> #include <stdlib.h> #include <unistd.h> #include <sys/mman.h> #include <string.h> #include <wait.h> //#include <sys/types.h> //#include <sys/stat.h> //#

C扩展 从共享内存shm到memcache外部内存

引言 - ipc - shm 共享内存 本文会通过案例了解ipc 的共享内存机制使用, 后面会讲解C 如何使用外部内存服务memcached. 好先开始了解 linux 共享内存机制. 推荐先参看下面内容回顾一下 共享内存 linux api. linux进程间的通信(C): 共享内存    http://blog.chinaunix.net/uid-26000296-id-3421346.html 上面文章可以简单看一下概念.  下面这篇文章好些, 可以细看加深共享内存api使用熟练度. Li

Posix共享内存

Posix共享内存涉及以下两个步骤: 1.指定一个名字参数调用shm_open,以创建以一个新的共享内存区对象或打开一个已存在的共享内存区对象. 2.调用mmap把这个共享内存区映射到调用进程的地址空间. 头文件: #include<sys/mman.h> #include<sys/stat.h> #include<fcntl.h> int shm_open(const char *name, int oflag, mode_t mode); int shm_unlin

通过共享内存进行进程间通信

共享内存的工作方式 顾名思义,共享内存让一段内存可供多个进程访问.用特殊的系统调用(即对 UNIX 内核的请求)分配和释放内存并设置权限:通过一般的读写操作读写内存段中的数据. 共享内存并不是从某一进程拥有的内存中划分出来的:进程的内存总是私有的.共享内存是从系统的空闲内存池中分配的,希望访问它的每个进程连接它.这个连接过程称为映射,它给共享内存段分配每个进程的地址空间中的本地地址. 假设在同一系统上有两个进程 A 和 B 正在运行(见 图 1),它们可以通过共享内存进行协作和共享信息.在图中

Linux环境编程之共享内存区(二):Posix共享内存区

现在将共享内存区的概念扩展到将无亲缘关系进程间共享的内存区包括在内.Posix提供了两种在无亲缘关系进程间共享内存区的方法: 1.内存映射文件:由open函数打开,由mmap函数把得到的描述符映射到当前进程地址空间中的一个文件.(上一节就是这种技术) 2.共享内存区对象:由shm_open打开一个Posix名字(也许是在文件系统中的一个路径名),所返回的描述符由mmap函数映射到当前进程的地址空间.(本节内容) Posix共享内存区涉及以下两个步骤要求: 1.指定一个名字参数调用shm_open

进程间通信(三)&mdash;&mdash;共享内存区

1.概述 共享内存区是IPC中最快的,当内存区映射到共享它的进程的地址空间,进程间数据的传递就不再涉及内核. 但是这需要某种形式的同步,最常用的是信号量. 不再涉及内核:进程不再通过执行任何进入内核的系统调用来彼此传递数据.内核必须建立允许各个进程共享该内存区的内存映射关系,然后一值管理该内存区.   管道,FIFO和消息队列的问题是,两个进程要交换信息时,这些信息必须经由内核传递. 共享内存区可以绕过这个问题,但是一般必须同步数据.   使用内存映射文件的特性,所有的I/O都不再有内核直接参与