理解tomcat中的BIO、NIO、AIO、ARP

理解tomcat中的BIO、NIO、AIO、ARP

tomcat作为springboot中默认的web容器,了解tomcat的运转可以帮助我们更好的去调整tomcat的参数达到更好的性能

1. 前置知识

  • I/O就是Input/Output,收别人的数据到本机叫Input,本级发数据出去叫Output
  • 网络I/O请求会先到网卡然后到内核态再到用户态
  • CPU比内存快、内存比硬盘、网卡等外设快
  • 所有I/O操作需要被加载到用户态内存,用户态程序才能直接操作
  • 想要效果高,必须让所有的资源都不闲置
  • tomcat不处理请求,会接受请求,转发到具体的容器中
  • 一个socket连接代表一个客户端,一个socket可以发送多份请求不断开

2. scoket测试工具

启动程序是jar包,必须要有jre环境
链接:https://sockettest.sourceforge.net
理解tomcat中的BIO、NIO、AIO、ARP

3. BIO 同步阻塞IO

每一个socket连接后,tomcat都会有一个线程去全程去陪伴,把请求转发到具体的容器中后,这个线程还在阻塞,等待容器返回数据,只有socket连接断开了,才会回收这个线程。tomcat7或以下默认,比较简单、稳定,适合连接数比较少的

模拟代码如下:

public class BioServer {          static ExecutorService executorService = Executors.newCachedThreadPool();      public static void main(String[] args) {         try {             // 启动服务,绑定8080端口             ServerSocket serverSocket = new ServerSocket();             serverSocket.bind(new InetSocketAddress(8080));             System.out.println("开启服务");              while (true){                 System.out.println("等待客户端建立连接");                 // 监听8080端口,获取客户端连接                 Socket socket = serverSocket.accept(); //阻塞                 System.out.println("建立连接:"+socket);                 executorService.submit(()->{                     //业务处理                     try {                         handler(socket);                     } catch (IOException e) {                         e.printStackTrace();                     }                 });              }         } catch (IOException e) {             e.printStackTrace();         } finally {             //TODO 资源回收         }     }      private static void handler(Socket socket) throws IOException {         byte[] bytes = new byte[1024];         System.out.println("等待读取数据");         int read = socket.getInputStream().read(bytes); // 阻塞         if(read !=-1) {             System.out.println("读取客户端发送的数据:" +                     new String(bytes, 0, read));         }     }  } 

4. NIO 同步非阻塞

一个socket连接过来,会经历以下步骤

  1. LimitLatch:连接控制器,负责维护连接数计算,连接数默认是 8192,达到这个阀值后,就会拒绝连接请求。如果要调整修改配置文件server.tomcat.max-connections属性
  2. Acceptor:Acceptor 跑在一个单独的线程里,它在一个死循环里调用 accept 方法来接收新连接,一旦有新的连接请求到来,accept 方法返回一个 Channel 对象,接着把 Channel 对象交给 Poller 去处理
  3. Poller:Poller 的本质是一个 Selector,也跑在单独线程里。Poller 在内部维护一个 Channel 数组,它在一个死循环里不断检测 Channel 的数据就绪状态,一旦有 Channel 可读,就生成一个 SocketProcessor 任务对象扔给Executor 去处理
  4. Executor: Executor 就是线程池,负责运行 SocketProcessor 任务类,SocketProcessor 的 run 方法会调用Http11Processor 来读取和解析请求数据。Http11Processor 是应用层协议的封装,它会调用容器获得响应,再把响应通过 Channel 写出

理解tomcat中的BIO、NIO、AIO、ARP

tomcat8及以上默认, springboot2.3.12.RELEASE内嵌tomcat是9.0.46版本默认也是这个
模拟代码:

public class NioServer {     public static void main(String[] args)  {         List<SocketChannel> list = new ArrayList<>();  // 缓存所有的socket         ByteBuffer byteBuffer = ByteBuffer.allocate(1024); // 缓存区的大小         try {             ServerSocketChannel serverSocketChannel = ServerSocketChannel.open();             // 监听8080             serverSocketChannel.bind(new InetSocketAddress(8080));             // channel非阻塞             serverSocketChannel.configureBlocking(false);             System.out.println("NioServer 启动....");             while (true){                 // 非阻塞                 SocketChannel socketChannel = serverSocketChannel.accept();                 Thread.sleep(1000);                 if(socketChannel == null){                     System.out.println("没有新的客户端建立连接");                 }else {                     System.out.println("新的客户端建立连接");                     // channel非阻塞                     socketChannel.configureBlocking(false);                     // 将新的socket添加到 list                     list.add(socketChannel);                 }                 //遍历所有的socket                 for(SocketChannel channel:list){                     //非阻塞                     int read = channel.read(byteBuffer);                     if(read >0) {                         //读模式                         byteBuffer.flip();                         System.out.println("读取客户端发送的数据:" +new String(byteBuffer.array(),0,read));                         byteBuffer.clear();                     }                 }             }         } catch (Exception e) {             e.printStackTrace();         }     } } 

5. AIO异步非阻塞

NIO 和 AIO(NIO2) 最大的区别是,一个是同步一个是异步。异步最大的特点是,应用程序不需要自己去触发数据从内核空间到用户空间的拷贝。
理解tomcat中的BIO、NIO、AIO、ARP
没有 Poller 组件,也就是没有 Selector。在异步 I/O 模式下,Selector 的工作交给
内核来做了。

Linux 内核没有很完善地支持异步 I/O 模型,因此 JVM 并没有采用原生的 Linux 异步 I/O,而是在应用层面通过 epoll 模拟了异步 I/O 模型。因此在 Linux 平台上,Java NIO 和 Java NIO2 底层都是通过 epoll 来实现的,但是 Java NIO 更加简单高效。如果你的 Tomcat 跑在 Linux 平台上,建议不使用NIO2

模拟代码:

public class AioServer {      public AsynchronousServerSocketChannel serverSocketChannel;      public static void main(String[] args) throws Exception {         new AioServer().listen();         Thread.sleep(Integer.MAX_VALUE);     }      private void listen() throws IOException {         //1. 创建一个线程池         ExecutorService es = Executors.newCachedThreadPool();         //2. 创建异步通道群组         AsynchronousChannelGroup acg = AsynchronousChannelGroup.withCachedThreadPool(es, 1);          //3. 创建服务端异步通道         serverSocketChannel = AsynchronousServerSocketChannel.open(acg);         //4. 绑定监听端口         serverSocketChannel.bind(new InetSocketAddress(8080));         System.out.println("AioServer 启动....");          //5. 监听连接,传入回调类处理连接请求         serverSocketChannel.accept(this, new CompletionHandler<AsynchronousSocketChannel, AioServer>() {             //             //            //具体处理连接请求的就是completed方法,它有两个参数:第一个是异步通道,第二个就是上面传入的AioServer对象             @Override             public void completed(AsynchronousSocketChannel socketChannel, AioServer attachment) {                 try {                     if (socketChannel.isOpen()) {                         System.out.println("接收到新的客户端的连接,地址:"                                 + socketChannel.getRemoteAddress());                         final ByteBuffer byteBuffer = ByteBuffer.allocate(1024);                         //调用 read 函数读取客户端发送的数据                         socketChannel.read(byteBuffer, socketChannel,                                         new CompletionHandler<Integer, AsynchronousSocketChannel>() {                                             @Override                             public void completed(Integer result, AsynchronousSocketChannel attachment) {                                  try {                                     //读取请求,处理客户端发送的数据                                     byteBuffer.flip();                                     String content = Charset.defaultCharset()                                             .newDecoder().decode(byteBuffer).toString();                                     System.out.println("服务端接受到客户端发来的数据:" + content);                                  } catch (CharacterCodingException e) {                                     e.printStackTrace();                                 }                             }                              @Override                             public void failed(Throwable exc, AsynchronousSocketChannel attachment) {                                 exc.printStackTrace();                                 try {                                     attachment.close();                                 } catch (IOException e) {                                     e.printStackTrace();                                 }                             }                         });                     }                 } catch (IOException e) {                     e.printStackTrace();                 }finally {                     //当有新的客户端接入的时候,直接调用accept的方法                     attachment.serverSocketChannel.accept(attachment, this);                 }             }             @Override             public void failed(Throwable exc, AioServer attachment) {                 exc.printStackTrace();             }         });     } } 

6. APR异步非阻塞

APR方式全名叫Apache Portable Runtime,需要额外去下载安装配置,NIO2是调用java库去实现异步的,而ARP是直接通过JNI (Java Native Interface)去操作系统是实现异步,APR 能够使用高级 IO 功能 (如sendfile, epoll, OpenSSL),sendfile主要是对静态文件提升很大,换APR也主要是这个原因其他的提升也不是特别大

附上对比图
理解tomcat中的BIO、NIO、AIO、ARP

springboot配置apr教程:https://www.jianshu.com/p/f716726ba340

发表评论

评论已关闭。

相关文章