java的NIO

前言: 

最近在分析hadoop的RPC(Remote Procedure Call Protocol ,远程过程调用协议,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。可以参考:http://baike.baidu.com/view/32726.htm )机制时,发现hadoop的RPC机制的实现主要用到了两个技术:动态代理(动态代理可以参考博客:http://weixiaolu.iteye.com/blog/1477774 )和java
NIO。为了能够正确地分析hadoop的RPC源码,我觉得很有必要先研究一下java NIO的原理和具体实现。

这篇博客我主要从两个方向来分析java NIO

目录:

一.java NIO 和阻塞I/O的区别

1. 阻塞I/O通信模型

2. java NIO原理及通信模型

二.java NIO服务端和客户端代码实现

具体分析: 

一.java NIO 和阻塞I/O的区别

1. 阻塞I/O通信模型

假如现在你对阻塞I/O已有了一定了解,我们知道阻塞I/O在调用InputStream.read()方法时是阻塞的,它会一直等到数据到来时(或超时)才会返回;同样,在调用ServerSocket.accept()方法时,也会一直阻塞到有客户端连接才会返回,每个客户端连接过来后,服务端都会启动一个线程去处理该客户端的请求。阻塞I/O的通信模型示意图如下:

如果你细细分析,一定会发现阻塞I/O存在一些缺点。根据阻塞I/O通信模型,我总结了它的两点缺点:

1. 当客户端多时,会创建大量的处理线程。且每个线程都要占用栈空间和一些CPU时间

2. 阻塞可能带来频繁的上下文切换,且大部分上下文切换可能是无意义的。

在这种情况下非阻塞式I/O就有了它的应用前景。

2. java NIO原理及通信模型 

Java NIO是在jdk1.4开始使用的,它既可以说成“新I/O”,也可以说成非阻塞式I/O。下面是java NIO的工作原理:

1. 由一个专门的线程来处理所有的 IO 事件,并负责分发。

2. 事件驱动机制:事件到的时候触发,而不是同步的去监视事件。

3. 线程通讯:线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。

阅读过一些资料之后,下面贴出我理解的java NIO的工作原理图:

(注:每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。)

Java NIO的服务端只需启动一个专门的线程来处理所有的 IO 事件,这种通信模型是怎么实现的呢?呵呵,我们一起来探究它的奥秘吧。java NIO采用了双向通道(channel)进行数据传输,而不是单向的流(stream),在通道上可以注册我们感兴趣的事件。一共有以下四种事件:

事件名 对应值
服务端接收客户端连接事件 SelectionKey.OP_ACCEPT(16)
客户端连接服务端事件 SelectionKey.OP_CONNECT(8)
读事件 SelectionKey.OP_READ(1)
写事件 SelectionKey.OP_WRITE(4)
   
   
   
   
   

服务端和客户端各自维护一个管理通道的对象,我们称之为selector,该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例,如果服务端的selector上注册了读事件,某时刻客户端给服务端发送了一些数据,阻塞I/O这时会调用read()方法阻塞地读取数据,而NIO的服务端会在selector中添加一个读事件。服务端的处理线程会轮询地访问selector,如果访问selector时发现有感兴趣的事件到达,则处理这些事件,如果没有感兴趣的事件到达,则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的java
NIO的通信模型示意图:

二.java NIO服务端和客户端代码实现

为了更好地理解java NIO,下面贴出服务端和客户端的简单代码实现。

服务端:

Java代码  

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.ServerSocketChannel;
  8. import java.nio.channels.SocketChannel;
  9. import java.util.Iterator;
  10. /**
  11. * NIO服务端
  12. * @author 小路
  13. */
  14. public class NIOServer {
  15. //通道管理器
  16. private Selector selector;
  17. /**
  18. * 获得一个ServerSocket通道,并对该通道做一些初始化的工作
  19. * @param port  绑定的端口号
  20. * @throws IOException
  21. */
  22. public void initServer(int port) throws IOException {
  23. // 获得一个ServerSocket通道
  24. ServerSocketChannel serverChannel = ServerSocketChannel.open();
  25. // 设置通道为非阻塞
  26. serverChannel.configureBlocking(false);
  27. // 将该通道对应的ServerSocket绑定到port端口
  28. serverChannel.socket().bind(new InetSocketAddress(port));
  29. // 获得一个通道管理器
  30. this.selector = Selector.open();
  31. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后,
  32. //当该事件到达时,selector.select()会返回,如果该事件没到达selector.select()会一直阻塞。
  33. serverChannel.register(selector, SelectionKey.OP_ACCEPT);
  34. }
  35. /**
  36. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  37. * @throws IOException
  38. */
  39. @SuppressWarnings("unchecked")
  40. public void listen() throws IOException {
  41. System.out.println("服务端启动成功!");
  42. // 轮询访问selector
  43. while (true) {
  44. //当注册的事件到达时,方法返回;否则,该方法会一直阻塞
  45. selector.select();
  46. // 获得selector中选中的项的迭代器,选中的项为注册的事件
  47. Iterator ite = this.selector.selectedKeys().iterator();
  48. while (ite.hasNext()) {
  49. SelectionKey key = (SelectionKey) ite.next();
  50. // 删除已选的key,以防重复处理
  51. ite.remove();
  52. // 客户端请求连接事件
  53. if (key.isAcceptable()) {
  54. ServerSocketChannel server = (ServerSocketChannel) key
  55. .channel();
  56. // 获得和客户端连接的通道
  57. SocketChannel channel = server.accept();
  58. // 设置成非阻塞
  59. channel.configureBlocking(false);
  60. //在这里可以给客户端发送信息哦
  61. channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));
  62. //在和客户端连接成功之后,为了可以接收到客户端的信息,需要给通道设置读的权限。
  63. channel.register(this.selector, SelectionKey.OP_READ);
  64. // 获得了可读的事件
  65. } else if (key.isReadable()) {
  66. read(key);
  67. }
  68. }
  69. }
  70. }
  71. /**
  72. * 处理读取客户端发来的信息 的事件
  73. * @param key
  74. * @throws IOException
  75. */
  76. public void read(SelectionKey key) throws IOException{
  77. // 服务器可读取消息:得到事件发生的Socket通道
  78. SocketChannel channel = (SocketChannel) key.channel();
  79. // 创建读取的缓冲区
  80. ByteBuffer buffer = ByteBuffer.allocate(10);
  81. channel.read(buffer);
  82. byte[] data = buffer.array();
  83. String msg = new String(data).trim();
  84. System.out.println("服务端收到信息:"+msg);
  85. ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());
  86. channel.write(outBuffer);// 将消息回送给客户端
  87. }
  88. /**
  89. * 启动服务端测试
  90. * @throws IOException
  91. */
  92. public static void main(String[] args) throws IOException {
  93. NIOServer server = new NIOServer();
  94. server.initServer(8000);
  95. server.listen();
  96. }
  97. }

客户端:

Java代码  

  1. package cn.nio;
  2. import java.io.IOException;
  3. import java.net.InetSocketAddress;
  4. import java.nio.ByteBuffer;
  5. import java.nio.channels.SelectionKey;
  6. import java.nio.channels.Selector;
  7. import java.nio.channels.SocketChannel;
  8. import java.util.Iterator;
  9. /**
  10. * NIO客户端
  11. * @author 小路
  12. */
  13. public class NIOClient {
  14. //通道管理器
  15. private Selector selector;
  16. /**
  17. * 获得一个Socket通道,并对该通道做一些初始化的工作
  18. * @param ip 连接的服务器的ip
  19. * @param port  连接的服务器的端口号
  20. * @throws IOException
  21. */
  22. public void initClient(String ip,int port) throws IOException {
  23. // 获得一个Socket通道
  24. SocketChannel channel = SocketChannel.open();
  25. // 设置通道为非阻塞
  26. channel.configureBlocking(false);
  27. // 获得一个通道管理器
  28. this.selector = Selector.open();
  29. // 客户端连接服务器,其实方法执行并没有实现连接,需要在listen()方法中调
  30. //用channel.finishConnect();才能完成连接
  31. channel.connect(new InetSocketAddress(ip,port));
  32. //将通道管理器和该通道绑定,并为该通道注册SelectionKey.OP_CONNECT事件。
  33. channel.register(selector, SelectionKey.OP_CONNECT);
  34. }
  35. /**
  36. * 采用轮询的方式监听selector上是否有需要处理的事件,如果有,则进行处理
  37. * @throws IOException
  38. */
  39. @SuppressWarnings("unchecked")
  40. public void listen() throws IOException {
  41. // 轮询访问selector
  42. while (true) {
  43. selector.select();
  44. // 获得selector中选中的项的迭代器
  45. Iterator ite = this.selector.selectedKeys().iterator();
  46. while (ite.hasNext()) {
  47. SelectionKey key = (SelectionKey) ite.next();
  48. // 删除已选的key,以防重复处理
  49. ite.remove();
  50. // 连接事件发生
  51. if (key.isConnectable()) {
  52. SocketChannel channel = (SocketChannel) key
  53. .channel();
  54. // 如果正在连接,则完成连接
  55. if(channel.isConnectionPending()){
  56. channel.finishConnect();
  57. }
  58. // 设置成非阻塞
  59. channel.configureBlocking(false);
  60. //在这里可以给服务端发送信息哦
  61. channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));
  62. //在和服务端连接成功之后,为了可以接收到服务端的信息,需要给通道设置读的权限。
  63. channel.register(this.selector, SelectionKey.OP_READ);
  64. // 获得了可读的事件
  65. } else if (key.isReadable()) {
  66. read(key);
  67. }
  68. }
  69. }
  70. }
  71. /**
  72. * 处理读取服务端发来的信息 的事件
  73. * @param key
  74. * @throws IOException
  75. */
  76. public void read(SelectionKey key) throws IOException{
  77. //和服务端的read方法一样
  78. }
  79. /**
  80. * 启动客户端测试
  81. * @throws IOException
  82. */
  83. public static void main(String[] args) throws IOException {
  84. NIOClient client = new NIOClient();
  85. client.initClient("localhost",8000);
  86. client.listen();
  87. }
  88. }
时间: 2024-12-04 19:03:31

java的NIO的相关文章

java的nio之:java的nio系列教程之channel的概念

一:java的nio的channel Java NIO的通道类似流,但又有些不同: ==>既可以从通道中读取数据,又可以写数据到通道.但流的读写通常是单向的. ==>通道可以异步地读写. ==>通道中的数据总是要先读到一个Buffer,或者总是要从一个Buffer中写入. 正如上面所说,从通道读取数据到缓冲区,从缓冲区写入数据到通道.如下图所示: 二:java的nio的channel的实现 这些是Java NIO中最重要的通道的实现: ==>FileChannel  : ==>

Java之NIO

想要学习Java的Socket通信,首先要学习Java的IO和NIO基础,这方面可以阅读<Java NIO 系列教程>. 下面展示自己代码熟悉Java的NIO编程的笔记. 1.缓冲区(Buffer) /* * 一.缓冲区(Buffer):在Java 中负责数据的存取.缓冲区就是数组.用于存储不同数据类型的数据 *        *       根据数据类型不同(boolean除外),提供了相应类型的缓冲区 *         ByteBuffer 那么实际上最常用的,因为网络传输的字节就是By

java的nio之:java的nio系列教程之概述

一:java的nio的核心组件?Java NIO 由以下几个核心部分组成: ==>Channels ==>Buffers ==>Selectors 虽然Java NIO 中除此之外还有很多类和组件,但在我看来,Channel,Buffer 和 Selector 构成了核心的API.其它组件,如Pipe和FileLock,只不过是与三个核心组件共同使用的工具类.因此,在概述中我将集中在这三个组件上.其它组 件会在单独的章节中讲到. Channel 和 Buffer 基本上,所有的 IO 在

java的nio包的SelectionKey,Selector,SelectableChannel三者的缠绵关系概述

猛击这里 java的nio包的SelectionKey,Selector,SelectableChannel三者的缠绵关系概述

java使用NIO构造http请求

使用java的NIO来构造http请求体,并且取得响应内容. package com.test.nio; import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.channels.SocketChannel; import java.nio.charset.Charset; public class TestSocketForBaidu { /** * @param args * @throws

不惑JAVA之JAVA基础 - NIO (一)

JAVA中最可以大书特书的我觉得至少有两个:一个是NIO,另外一个就是JVM了.这也就是为什么一直我没有去写这两个知识点的原因,因为我一直找不出来一个可以在一篇博文中全部覆盖这个知识点的总结. 这两天翻了一下了JAVA中的圣经<think in java>和<Java核心技术>,虽然写的很好,但感觉写的也不是太符合我想一篇博文覆盖NIO知识点的要求.由于NIO本来就是技术难点,并且java对IO的设计和使用也较为复杂难懂.我也是能力有限如有说明不到位或错误的地方请大家指出. 本文参

Tinking in Java ---Java的NIO和对象序列化

前面一篇博客的IO被称为经典IO,因为他们大多数都是从Java1.0开始就有了的:然后今天这篇博客是关于NIO的,所以的NIO其实就是JDK从1.4开始,Java提供的一系列改进的输入/输出处理的新功能,这些新功能被统称为新IO(New IO ,简称NIO).另一个概念对象序列化指的是将那些实现了Serializable接口的对象转换成一个字节序列,并能够在以后将这个字节序列再转换成原来的对象.这样的话我们就可以将对象写入磁盘中,或者是将对象在网络上进行传递.下面就对这两个内容进行总结. 一.J

JAVA bio nio aio

[转自]http://qindongliang.iteye.com/blog/2018539 在高性能的IO体系设计中,有几个名词概念常常会使我们感到迷惑不解.具体如下: 序号 问题 1 什么是同步? 2 什么是异步? 3 什么是阻塞? 4 什么是非阻塞? 5 什么是同步阻塞? 6 什么是同步非阻塞? 7 什么是异步阻塞? 8 什么是异步非阻塞? 散仙不才,在查了一部分资料后,愿试着以通俗易懂的方式解释下这几个名词.如有不足之处,还望告知. 在弄清楚上面的几个问题之前,我们首先得明白什么是同步,

输入和输出--java的NIO

Java的NIO 实际开发中NIO使用到的并不多,我并不是说NIO使用情景不多,是说我自己接触的并不是很多,前面我在博客园和CSDN上转载了2篇别人写的文章,这里来大致总结下Java的NIO,大概了解下. NIO和传统IO的对比: 在使用传统IO的时候,不管是使用节点流这种底层流还是使用处理流这种高级流,在底层操作的都是字节,所以性能就不会很好,在使用BufferedReader这种高级流的时候还会阻塞该线程,所以Java1.4后出现了NIO. NIO相关的类都放在了Java.nio包下,他的功

java之NIO编程

所谓行文如编程,随笔好比java文件,文章好比类,参考文献是import,那么目录就是方法定义. 本篇文章处在分析thrift的nonblocking server之前,因为后者要依赖该篇文章的知识.若两文同一篇,那即是两类共享同一文件,其中有一个必为public,若一文在另一文中,即为内部类.按编程规范,还是分成两篇来写为好. java之NIO详解系列文章,比较好的,还是推荐这篇http://tutorials.jenkov.com/java-nio/overview.html.本文只是简略总