當前位置:編程學習大全網 - 編程語言 - 阻塞、非阻塞、多路復用、同步、異步、BIO、NIO、AIO 壹文搞定

阻塞、非阻塞、多路復用、同步、異步、BIO、NIO、AIO 壹文搞定

關於IO會涉及到阻塞、非阻塞、多路復用、同步、異步、BIO、NIO、AIO等幾個知識點。知識點雖然不難但平常經常容易搞混,特此Mark下,與君***勉。

阻塞IO情況下,當用戶調用 read 後,用戶線程會被阻塞,等內核數據準備好並且數據從內核緩沖區拷貝到用戶態緩存區後 read 才會返回。可以看到是阻塞的兩個部分。

非阻塞IO發出read請求後發現數據沒準備好,會繼續往下執行,此時應用程序會不斷輪詢polling內核詢問數據是否準備好,當數據沒有準備好時,內核立即返回EWOULDBLOCK錯誤。直到數據被拷貝到應用程序緩沖區,read請求才獲取到結果。並且妳要註意!這裏最後壹次 read 調用獲取數據的過程,是壹個同步的過程,是需要等待的過程。這裏的同步指的是 內核態的數據拷貝到用戶程序的緩存區這個過程

非阻塞情況下無可用數據時,應用程序每次輪詢內核看數據是否準備好了也耗費CPU,能否不讓它輪詢,當內核緩沖區數據準備好了,以事件通知當機制告知應用進程數據準備好了呢?應用進程在沒有收到數據準備好的事件通知信號時可以忙寫其他的工作。此時 IO多路復用 就派上用場了。

IO多路復用中文比較讓人頭大,IO多路復用的原文叫 I/O multiplexing,這裏的 multiplexing 指的其實是在單個線程通過記錄跟蹤每壹個Sock(I/O流)的狀態來同時管理多個I/O流. 發明它的目的是盡量多的提高服務器的吞吐能力。實現壹個線程監控多個IO請求,哪個IO有請求就把數據從內核拷貝到進程緩沖區,拷貝期間是阻塞的!現在已經可以通過采用mmap地址映射的方法,達到內存***享效果,避免真復制,提高效率。

select、poll、epoll 都是I/O多路復用的具體的實現。

select是第壹版IO復用,提出後暴漏了很多問題。

poll 修復了 select 的很多問題。

但是poll仍然不是線程安全的, 這就意味著不管服務器有多強悍,妳也只能在壹個線程裏面處理壹組 I/O 流。妳當然可以拿多進程來配合了,不過然後妳就有了多進程的各種問題。

epoll 可以說是 I/O 多路復用最新的壹個實現,epoll 修復了poll 和select絕大部分問題, 比如:

橫軸 Dead connections 是鏈接數的意思,叫這個名字只是它的測試工具叫deadcon。縱軸是每秒處理請求的數量,可看到epoll每秒處理請求的數量基本不會隨著鏈接變多而下降的。poll 和/dev/poll 就很慘了。但 epoll 有個致命的缺點是只有 linux 支持。

比如平常Nginx為何可以支持4W的QPS是因為它會使用目標平臺上面最高效的I/O多路復用模型。

然後妳會發現上面的提到過的操作都不是真正的異步,因為兩個階段總要等待會兒!而真正的異步 I/O 是內核數據準備好和數據從內核態拷貝到用戶態這兩個過程都不用等待。

很慶幸,Linux給我們準備了 aio_read aio_write 函數實現真實的異步,當用戶發起aio_read請求後就會自動返回。內核會自動將數據從內核緩沖區拷貝到用戶進程空間,應用進程啥都不用管。

我強力推薦C++後端開發免費學習地址:C/C++Linux服務器開發/後臺架構師零聲教育-學習視頻教程-騰訊課堂

同步跟異步的區別在於 數據從內核空間拷貝到用戶空間是否由用戶線程完成 ,這裏又分為同步阻塞跟同步非阻塞兩種。

我們以同步非阻塞為例,如下可看到,在將數據從內核拷貝到用戶空間這壹過程,是由用戶線程阻塞完成的。

可發現,用戶在調用之後會立即返回,由內核完成數據的拷貝工作,並通知用戶線程,進行回調。

在Java中,我們使用socket進行網絡通信,IO主要有三種模式,主要看 內核支持 哪些。

同步阻塞IO ,每個客戶端的Socket連接請求,服務端都會對應有個處理線程與之對應,對於沒有分配到處理線程的連接就會被阻塞或者拒絕。相當於是 壹個連接壹個線程 。

BIO特點

常量:

主類:

服務端監聽線程:

服務端處理線程:

客戶端:

同步非阻塞IO之NIO :服務器端保存壹個Socket連接列表,然後對這個列表進行輪詢,如果發現某個Socket端口上有數據可讀時說明讀就緒,則調用該socket連接的相應讀操作。如果發現某個 Socket端口上有數據可寫時說明寫就緒,則調用該socket連接的相應寫操作。如果某個端口的Socket連接已經中斷,則調用相應的析構方法關閉該端口。這樣能充分利用服務器資源,效率得到了很大提高,在進行IO操作請求時候再用個線程去處理,是 壹個請求壹個線程 。Java中使用Selector、Channel、Buffer來實現上述效果。

每個線程中包含壹個 Selector 對象,它相當於壹個通道管理器,可以實現在壹個線程中處理多個通道的目的,減少線程的創建數量。遠程連接對應壹個channel,數據的讀寫通過buffer均在同壹個 channel 中完成,並且數據的讀寫是非阻塞的。通道創建後需要註冊在 selector 中,同時需要為該通道註冊感興趣事件(客戶端連接服務端事件、服務端接收客戶端連接事件、讀事件、寫事件), selector 線程需要采用 輪訓 的方式調用 selector 的 select 函數,直到所有註冊通道中有興趣的事件發生,則返回,否則壹直阻塞。而後循環處理所有就緒的感興趣事件。以上步驟解決BIO的兩個瓶頸:

下面對以下三個概念做壹個簡單介紹,Java NIO由以下三個核心部分組成:

channel和buffer有好幾種類型。下面是Java NIO中的壹些主要channel的實現:

正如妳所看到的,這些通道涵蓋了UDP和TCP網絡IO,以及文件IO。以下是Java NIO裏關鍵的buffer實現:

在微服務階段,壹個請求可能涉及到多個不同服務之間的跨服務器調用,如果妳想實現高性能的PRC框架來進行數據傳輸,那就可以基於Java NIO做個支持長連接、自定義協議、高並發的框架,比如Netty。Netty本身就是壹個基於NIO的網絡框架, 封裝了Java NIO那些復雜的底層細節,給妳提供簡單好用的抽象概念來編程。比如Dubbo底層就是用的Netty。

AIO是異步非阻塞IO,相比NIO更進壹步,進程讀取數據時只負責發送跟接收指令,數據的準備工作完全由操作系統來處理。

推薦壹個零聲教育C/C++後臺開發的免費公開課程,個人覺得老師講得不錯,分享給大家:C/C++後臺開發高級架構師,內容包括Linux,Nginx,ZeroMQ,MySQL,Redis,fastdfs,MongoDB,ZK,流媒體,CDN,P2P,K8S,Docker,TCP/IP,協程,DPDK等技術內容,C/C++Linux服務器開發/後臺架構師零聲教育-學習視頻教程-騰訊課堂 立即學習

原文:阻塞、非阻塞、多路復用、同步、異步、BIO、NIO、AIO 壹鍋端

  • 上一篇:大智慧設定自選股票怎麽退不出來
  • 下一篇:招聘用日語怎麽說
  • copyright 2024編程學習大全網