go語言源碼剖析 go語言開源嗎

【golang詳解】go語言GMP(GPM)原理和調(diào)度

Goroutine調(diào)度是一個很復(fù)雜的機制，下面嘗試用簡單的語言描述一下Goroutine調(diào)度機制，想要對其有更深入的了解可以去研讀一下源碼。

成都創(chuàng)新互聯(lián)成立以來不斷整合自身及行業(yè)資源、不斷突破觀念以使企業(yè)策略得到完善和成熟，建立了一套“以技術(shù)為基點，以客戶需求中心、市場為導(dǎo)向”的快速反應(yīng)體系。對公司的主營項目，如中高端企業(yè)網(wǎng)站企劃 / 設(shè)計、行業(yè) / 企業(yè)門戶設(shè)計推廣、行業(yè)門戶平臺運營、成都App定制開發(fā)、移動網(wǎng)站建設(shè)、微信網(wǎng)站制作、軟件開發(fā)、綿陽電信機房機柜租用等實行標(biāo)準(zhǔn)化操作，讓客戶可以直觀的預(yù)知到從成都創(chuàng)新互聯(lián)可以獲得的服務(wù)效果。

首先介紹一下GMP什么意思：

G ----------- goroutine: 即Go協(xié)程，每個go關(guān)鍵字都會創(chuàng)建一個協(xié)程。

M ---------- thread內(nèi)核級線程，所有的G都要放在M上才能運行。

P ----------- processor處理器，調(diào)度G到M上，其維護了一個隊列，存儲了所有需要它來調(diào)度的G。

Goroutine 調(diào)度器P和 OS 調(diào)度器是通過 M 結(jié)合起來的，每個 M 都代表了 1 個內(nèi)核線程，OS 調(diào)度器負責(zé)把內(nèi)核線程分配到 CPU 的核上執(zhí)行

模型圖：

避免頻繁的創(chuàng)建、銷毀線程，而是對線程的復(fù)用。

1）work stealing機制

當(dāng)本線程無可運行的G時，嘗試從其他線程綁定的P偷取G，而不是銷毀線程。

2）hand off機制

當(dāng)本線程M0因為G0進行系統(tǒng)調(diào)用阻塞時，線程釋放綁定的P，把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進而某個空閑的M1獲取P，繼續(xù)執(zhí)行P隊列中剩下的G。而M0由于陷入系統(tǒng)調(diào)用而進被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來源有可能是M的緩存池，也可能是新建的。當(dāng)G0系統(tǒng)調(diào)用結(jié)束后，根據(jù)M0是否能獲取到P，將會將G0做不同的處理：

如果有空閑的P，則獲取一個P，繼續(xù)執(zhí)行G0。

如果沒有空閑的P，則將G0放入全局隊列，等待被其他的P調(diào)度。然后M0將進入緩存池睡眠。

如下圖

GOMAXPROCS設(shè)置P的數(shù)量，最多有GOMAXPROCS個線程分布在多個CPU上同時運行

在Go中一個goroutine最多占用CPU 10ms，防止其他goroutine被餓死。

具體可以去看另一篇文章

【Golang詳解】go語言調(diào)度機制搶占式調(diào)度

當(dāng)創(chuàng)建一個新的G之后優(yōu)先加入本地隊列，如果本地隊列滿了，會將本地隊列的G移動到全局隊列里面，當(dāng)M執(zhí)行work stealing從其他P偷不到G時，它可以從全局G隊列獲取G。

協(xié)程經(jīng)歷過程

我們創(chuàng)建一個協(xié)程 go func()經(jīng)歷過程如下圖：

說明：

這里有兩個存儲G的隊列，一個是局部調(diào)度器P的本地隊列、一個是全局G隊列。新創(chuàng)建的G會先保存在P的本地隊列中，如果P的本地隊列已經(jīng)滿了就會保存在全局的隊列中；處理器本地隊列是一個使用數(shù)組構(gòu)成的環(huán)形鏈表，它最多可以存儲 256 個待執(zhí)行任務(wù)。

G只能運行在M中，一個M必須持有一個P，M與P是1：1的關(guān)系。M會從P的本地隊列彈出一個可執(zhí)行狀態(tài)的G來執(zhí)行，如果P的本地隊列為空，就會想其他的MP組合偷取一個可執(zhí)行的G來執(zhí)行；

一個M調(diào)度G執(zhí)行的過程是一個循環(huán)機制；會一直從本地隊列或全局隊列中獲取G

上面說到P的個數(shù)默認等于CPU核數(shù)，每個M必須持有一個P才可以執(zhí)行G，一般情況下M的個數(shù)會略大于P的個數(shù)，這多出來的M將會在G產(chǎn)生系統(tǒng)調(diào)用時發(fā)揮作用。類似線程池，Go也提供一個M的池子，需要時從池子中獲取，用完放回池子，不夠用時就再創(chuàng)建一個。

work-stealing調(diào)度算法：當(dāng)M執(zhí)行完了當(dāng)前P的本地隊列隊列里的所有G后，P也不會就這么在那躺尸啥都不干，它會先嘗試從全局隊列隊列尋找G來執(zhí)行，如果全局隊列為空，它會隨機挑選另外一個P，從它的隊列里中拿走一半的G到自己的隊列中執(zhí)行。

如果一切正常，調(diào)度器會以上述的那種方式順暢地運行，但這個世界沒這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。

Go runtime會在下面的goroutine被阻塞的情況下運行另外一個goroutine：

用戶態(tài)阻塞/喚醒

當(dāng)goroutine因為channel操作或者network I/O而阻塞時（實際上golang已經(jīng)用netpoller實現(xiàn)了goroutine網(wǎng)絡(luò)I/O阻塞不會導(dǎo)致M被阻塞，僅阻塞G，這里僅僅是舉個栗子），對應(yīng)的G會被放置到某個wait隊列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開Gwaitting，而M會跳過該G嘗試獲取并執(zhí)行下一個G，如果此時沒有可運行的G供M運行，那么M將解綁P，并進入sleep狀態(tài)；當(dāng)阻塞的G被另一端的G2喚醒時（比如channel的可讀/寫通知），G被標(biāo)記為，嘗試加入G2所在P的runnext（runnext是線程下一個需要執(zhí)行的 Goroutine。），然后再是P的本地隊列和全局隊列。

系統(tǒng)調(diào)用阻塞

當(dāng)M執(zhí)行某一個G時候如果發(fā)生了阻塞操作，M會阻塞，如果當(dāng)前有一些G在執(zhí)行，調(diào)度器會把這個線程M從P中摘除，然后再創(chuàng)建一個新的操作系統(tǒng)的線程(如果有空閑的線程可用就復(fù)用空閑線程)來服務(wù)于這個P。當(dāng)M系統(tǒng)調(diào)用結(jié)束時候，這個G會嘗試獲取一個空閑的P執(zhí)行，并放入到這個P的本地隊列。如果獲取不到P，那么這個線程M變成休眠狀態(tài)，加入到空閑線程中，然后這個G會被放入全局隊列中。

隊列輪轉(zhuǎn)

可見每個P維護著一個包含G的隊列，不考慮G進入系統(tǒng)調(diào)用或IO操作的情況下，P周期性的將G調(diào)度到M中執(zhí)行，執(zhí)行一小段時間，將上下文保存下來，然后將G放到隊列尾部，然后從隊列中重新取出一個G進行調(diào)度。

除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調(diào)度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。

M0是啟動程序后的編號為0的主線程，這個M對應(yīng)的實例會在全局變量rutime.m0中，不需要在heap上分配，M0負責(zé)執(zhí)行初始化操作和啟動第一個G，在之后M0就和其他的M一樣了

G0是每次啟動一個M都會第一個創(chuàng)建的goroutine，G0僅用于負責(zé)調(diào)度G，G0不指向任何可執(zhí)行的函數(shù)，每個M都會有一個自己的G0，在調(diào)度或系統(tǒng)調(diào)用時會使用G0的棧空間，全局變量的G0是M0的G0

一個G由于調(diào)度被中斷，此后如何恢復(fù)？

中斷的時候?qū)⒓拇嫫骼锏臈Ｐ畔ⅲ４娴阶约旱腉對象里面。當(dāng)再次輪到自己執(zhí)行時，將自己保存的棧信息復(fù)制到寄存器里面，這樣就接著上次之后運行了。

我這里只是根據(jù)自己的理解進行了簡單的介紹，想要詳細了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設(shè)計者的文檔或直接看源碼

參考： ()

()

Golang database/sql源碼分析

Gorm是Go語言開發(fā)用的比較多的一個ORM。它的功能比較全：

但是這篇文章中并不會直接看Gorm的源碼，我們會先從database/sql分析。原因是Gorm也是基于這個包來封裝的一些功能。所以只有先了解了database/sql包才能更加好的理解Gorm源碼。

database/sql 其實也是一個對于mysql驅(qū)動的上層封裝?！眊ithub.com/go-sql-driver/mysql”就是一個對于mysql的驅(qū)動，database/sql 就是在這個基礎(chǔ)上做的基本封裝包含連接池的使用

下面這個是最基本的增刪改查操作

操作分下面幾個步驟：

因為Gorm的連接池就是使用database/sql包中的連接池，所以這里我們需要學(xué)習(xí)一下包里的連接池的源碼實現(xiàn)。其實所有連接池最重要的就是連接池對象、獲取函數(shù)、釋放函數(shù)下面來看一下database/sql中的連接池。

DB對象

獲取方法

釋放連接方法

連接池的實現(xiàn)有很多方法，在database/sql包中使用的是chan阻塞使用map記錄等待列表，等到有連接釋放的時候再把連接傳入等待列表中的chan 不在阻塞返回連接。

之前我們看到的Redigo是使用一個chan 來阻塞，然后釋放的時候放入空閑列表，在往這一個chan中傳入struct{}{}，讓程序繼續(xù) 獲取的時候再從空閑列表中獲取。并且使用的是鏈表的結(jié)構(gòu)來存儲空閑列表。

database/sql 是對于mysql驅(qū)動的封裝，然而Gorm則是對于database/sql的再次封裝。讓我們可以更加簡單的實現(xiàn)對于mysql數(shù)據(jù)庫的操作。

coredns源碼分析

CoreDNS是使用go語言編寫的快速靈活的DNS服務(wù)，采用鏈?zhǔn)讲寮Ｊ?，每個插件實現(xiàn)獨立的功能，底層協(xié)議可以是tcp/udp，也可以是TLS，gRPC等。默認監(jiān)聽所有ip地址，可使用bind插件指定監(jiān)聽指定地址。

格式如下

SCHEME是可選的，默認值為dns://，也可以指定為tls://，grpc://或者https://。

ZONE是可選的，指定了此dnsserver可以服務(wù)的域名前綴，如果不指定，則默認為root，表示可以接收所有的dns請求。

PORT是選項的，指定了監(jiān)聽端口號，默認為53，如果這里指定了端口號，則不能通過參數(shù)-dns.port覆蓋。

一塊上面格式的配置表示一個dnsserver，稱為serverblock，可以配置多個serverblock表示多個dnsserver。

下面通過一個例子說明，如下配置文件指定了4個serverblock，即4個dnsserver，第一個監(jiān)聽端口5300，后面三個監(jiān)聽同一個端口53，每個dnsserver指定了特定的插件。

下圖為配置的簡略圖

a. 從圖中可看到插件執(zhí)行順序不是配置文件中的順序，這是因為插件執(zhí)行順序是在源碼目錄中的plugin.cfg指定的，一旦編譯后，順序就固定了。

b. .根serverblock雖然指定了health，但是圖中卻沒有，這是因為health插件不參與dns請求的處理。能處理dns請求的插件必須提供如下兩個接口函數(shù)。

dns請求處理流程

收到dns請求后，首先根據(jù)域名匹配zone找到對應(yīng)的dnsserver(最長匹配優(yōu)先)，如果沒有匹配到，則使用默認的root dnsserver。

找到dnsserver后，就要按照插件順序執(zhí)行其中配置的插件，當(dāng)然并不是配置的插件都會被執(zhí)行，如果某個插件成功找到記錄，則返回成功，否則根據(jù)插件是否配置了fallthrough等來決定是否執(zhí)行下一個插件。

plugin.cfg

源碼目錄下的plugin.cfg指定了插件執(zhí)行順序，如果想添加插件，可按格式添加到指定位置。

源碼目錄下的Makefile根據(jù)plugin.cfg生成了兩個go文件：zplugin.go和zdirectives.go。

core/dnsserver/zdirectives.go將所有插件名字放在一個數(shù)組中。

codedns 主函數(shù)

codedns.go 首先導(dǎo)入了包"github.com/coredns/coredns/core/plugin"，此包內(nèi)只有一個文件zplugin.go，此文件為自動生成的，主要導(dǎo)入了所有的插件，執(zhí)行每個插件的init函數(shù)。

接著執(zhí)行 run.go Run

此文件又引入了包"github.com/coredns/coredns/core/dnsserver"，其init函數(shù)在 dnsserver/register.go 文件中，如下所示，主要是注冊了serverType

剩下的就是解析參數(shù)，解析配置文件后，執(zhí)行caddy.Start。

這里就是根據(jù)配置文件中指定的serverblock，執(zhí)行插件的setup進行初始化，創(chuàng)建對應(yīng)的server，開始監(jiān)聽dns請求

tcp協(xié)議調(diào)用Serve，udp協(xié)議調(diào)用ServePacket

收到DNS請求后，調(diào)用ServeDNS，根據(jù)域名匹配dnsserver，如果沒有匹配不到則使用根dnsserver，然后執(zhí)行dnsserver中配置的插件

以k8s插件為例

參考

//如何寫coredns插件

//coredns源碼分析

//NodeLocal DNSCache

Go語言的開源項目

1．Docker項目

網(wǎng)址為。

介紹：Docker是一種操作系統(tǒng)層面的虛擬化技術(shù)，可以在操作系統(tǒng)和應(yīng)用程序之間進行隔離，也可以稱之為容器。Docker可以在一臺物理服務(wù)器上快速運行一個或多個實例。例如，啟動一個Cent OS操作系統(tǒng)，并在其內(nèi)部命令行執(zhí)行指令后結(jié)束，整個過程就像自己在操作系統(tǒng)一樣高效。

2．golang項目

網(wǎng)址為。

介紹：Go語言的早期源碼使用C語言和匯編語言寫成。從Go 1.5版本自舉后，完全使用Go語言自身進行編寫。Go語言的源碼對了解Go語言的底層調(diào)度有極大的參考意義，建議希望對Go語言有深入了解的讀者讀一讀。

3．Kubernetes項目

網(wǎng)址為。

介紹：Google公司開發(fā)的構(gòu)建于Docker之上的容器調(diào)度服務(wù)，用戶可以通過Kubernetes集群進行云端容器集群管理。

4．etcd項目

網(wǎng)址為。

介紹：一款分布式、可靠的KV存儲系統(tǒng)，可以快速進行云配置。

5．beego項目

網(wǎng)址為。

介紹：beego是一個類似Python的Tornado框架，采用了RESTFul的設(shè)計思路，使用Go語言編寫的一個極輕量級、高可伸縮性和高性能的Web應(yīng)用框架。

6．martini項目

網(wǎng)址為。

介紹：一款快速構(gòu)建模塊化的Web應(yīng)用的Web框架。

7．codis項目

網(wǎng)址為 Labs/codis。

介紹：國產(chǎn)的優(yōu)秀分布式Redis解決方案。

8．delve項目

網(wǎng)址為。

介紹：Go語言強大的調(diào)試器，被很多集成環(huán)境和編輯器整合。

golang unicode/utf8源碼分析

包 utf-8 實現(xiàn)的功能和常量用于文章utf8編碼,包含runes和utf8字節(jié)序列的轉(zhuǎn)換功能.在unicode中，一個中文占兩個字節(jié)，utf-8中一個中文占三個字節(jié)，golang默認的編碼是utf-8編碼，因此默認一個中文占三個字節(jié)，但是golang中的字符串底層實際上是一個byte數(shù)組.

Output:

RuneSelf該值的字節(jié)碼值為128，在判斷是否是常規(guī)的ascii碼是使用。hicb字節(jié)碼值為191. FF 的對應(yīng)的字節(jié)碼為255。

計算字符串中的rune數(shù)量,原理：首先取出字符串的碼值，然后判斷是不是個小于128的，如果是小于則直接continue.rune個數(shù)++.

如果是個十六進制f1.的則是無效字符，直接continue.rune個數(shù)++,也就是說一個無效的字符也當(dāng)成一個字長為1的rune.如果字符的碼值在first列表中的值和7按位的結(jié)果為其字長，比如上面示例中的鋼。其字長為三位，第一位的值為 233 .二進制形式為 11101001 ;與7按位與后的值為0.從acceptRanges中取出的結(jié)果為{locb, hicb}。也就是標(biāo)識 ox80 到 0xbf 之間的值。而結(jié)果n也就是直接size+3跳過3個字節(jié)后，rune個數(shù)++。其他函數(shù)的處理流程差不多，不再過多敘述。

示例：

ValidString返回值表明參數(shù)字符串是否是一個合法的可utf8編碼的字符串。

RuneCount返回參數(shù)中包含的rune數(shù)量,第一個例子中將 utf8.RuneCountInString ,改成該方法調(diào)用，返回的結(jié)果相同。錯誤的和短的被當(dāng)成一個長一字節(jié)的rune.單個字符 H 就表示一個長度為1字節(jié)的rune.

該函數(shù)標(biāo)識參數(shù)是否以一個可編碼的rune開頭,上面的例子中，因為字符串是以一個ascii碼值在0-127內(nèi)的字符開頭，所以在執(zhí)行

first[p[0]] 時，取到的是 p[0] 是72,在first列表中，127之前的值都相同都為 0xF0 ,十進制標(biāo)識為240，與7按位與后值為0，所以，直接返回 true .

和FullRune類似，只是參數(shù)為字符串形式

golang性能測試框架k6源碼分析

k6是新興的性能測試框架，比肩jmeter，另外測試腳本使用js，更加適合自動化的架構(gòu)。

k6啟動的框架是使用golang的cli標(biāo)準(zhǔn)框架cobra，入口函數(shù)

進入cobra框架后，我們直接查看getRunCmd，這個是命令run的入口，主要工作都是從這里開始。

重點關(guān)注初始化Runner，這個是通過js腳本，使用goja庫解析后，生成的實際執(zhí)行單元。

進入js目錄，查看Runner的結(jié)構(gòu)，runner.go

Runner有一些配置屬性，另外還有方法，方法用lib.Runner的接口進行規(guī)范。

Runner有一個NewVU方法，里面定義了連接參數(shù)，實現(xiàn)api測試

返回主函數(shù)，在初始化完成Runner后，啟動調(diào)度器，以及做結(jié)果收集

最終封裝成一個engine

啟動測試

分享名稱：go語言源碼剖析 go語言開源嗎
文章出自：http://muchs.cn/article44/doccdhe.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站設(shè)計公司、網(wǎng)站設(shè)計、響應(yīng)式網(wǎng)站、手機網(wǎng)站建設(shè)、做網(wǎng)站、營銷型網(wǎng)站建設(shè)

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源：創(chuàng)新互聯(lián)

猜你還喜歡下面的內(nèi)容