1
| 本文作者： 叢末 | 2018-12-01 14:02 |
雷鋒網(wǎng) AI 科技評論按：作為排名靠前的最受歡迎和增長最快的編程語言之一，Python 是一種多用途、高級別、面向?qū)ο?、交互式、解釋型和對用戶非常友好的編程語言，擁有卓越的可讀性和極高的自由度。而為了能利用多核多線程的的優(yōu)勢，同時又要保證線程之間數(shù)據(jù)完整性和狀態(tài)同步，Python 官方的、最廣泛使用的解釋器——CPython 往往會采取最簡單的加鎖的方式——全局解釋器鎖（GIL）。
然而，GIL 的設(shè)計有時會顯得笨拙低效，并對語言的并發(fā)性帶來嚴(yán)重限制，但是此時由于內(nèi)置庫和第三方庫已經(jīng)對 GIL 形成了巨大的依賴，想改變 GIL 反而變得困難了。不過實際上，Python 生態(tài)系統(tǒng)中存在諸多工具可以解決這一問題。
近日，在雷鋒網(wǎng) AI 研習(xí)社公開課上，畢業(yè)于澳大利亞國立大學(xué)的尹立博介紹了全局解釋器鎖（GIL）和提升并發(fā)性的不同思路。公開課回放視頻網(wǎng)址：http://www.mooc.ai/open/course/569？=aitechtalkyinlibo
尹立博：畢業(yè)于西澳大利亞大學(xué)和澳大利亞國立大學(xué)。現(xiàn)在堪培拉 Seeing Machines 公司擔(dān)任數(shù)據(jù)分析師，日常使用 Python 數(shù)據(jù)工具對大量時序數(shù)據(jù)進(jìn)行管理、分析與可視化開發(fā)。
分享主題：Python 全局解釋器鎖與并發(fā)
分享提綱：
1、全局解釋器鎖 (GIL)
2、多進(jìn)程 (multiprocessing)
3、多線程 (multithreading)
4、異步 (async)
5、分布式計算（以 Dask 為例）
雷鋒網(wǎng) AI 研習(xí)社將其分享內(nèi)容整理如下：
今天要跟大家分享的是 Python 全局解釋器鎖與并發(fā)。我會先介紹一下全局解釋器鎖 （GIL）)的概念和影響；接下來會借助幾個案例分析來展示 Python 通過多進(jìn)程、多線程和異步、分布式計算來達(dá)成并發(fā)的幾種方式；最后會介紹一套分布式計算工具——Dask。
GIL 的概念用簡單的一句話來解釋，就是「任一時刻，無論線程多少，單一 CPython 解釋器只能執(zhí)行一條字節(jié)碼」。這個定義需要注意的點包括：
第一，GIL 不屬于 Python 語言定義，而是 CPython 解釋器實現(xiàn)的一部分；
第二，其他 Python 解釋器不一定有 GIL。例如 Jython (JVM) 和 IronPython (CLR) 沒有 GIL，而 PyPy 有 GIL；
第三，GIL 并不是 Python 的專利。其他語言也有 GIL，尤其是動態(tài)語言，如 Ruby MRI。
說到 GIL，就不得不提 Python 線程模型，它的運行方式如下：
CPython 使用 OS 原生線程，由 OS 負(fù)責(zé)調(diào)度；
每個解釋器進(jìn)程有唯一的主線程和用戶定義的任意數(shù)量子線程；
GIL 是字節(jié)碼層面上的互斥鎖。剛剛定義中提到的 PyThread_type_lock 就是 OS 互斥鎖的別名
每個解釋器進(jìn)程有且僅有一把鎖；
當(dāng)解釋器啟動時，主線程即獲取 GIL；
一個線程持有 GIL 并執(zhí)行字節(jié)碼時，其他線程處于阻塞狀態(tài)。
GIL 被加到 CPython 解釋器中，是有其原因的。在 1992 年，單 CPU 是合理的假設(shè)！多核則是 2005-2006 年前后才普及，此外，GIL 的優(yōu)勢還包括：
簡化解釋器實現(xiàn)；
優(yōu)化單進(jìn)程性能；
簡化 C 擴(kuò)展庫的整合。
Python 有兩種多任務(wù)模型：一種叫做協(xié)作式 (cooperative) 多任務(wù)；另一種叫搶占式 (preemptive) 多任務(wù)。
協(xié)作式多任務(wù)：
在 I/O 前主動釋放 GIL，I/O 之后重新獲取。這可以在 C 源代碼中使用 Py_BEGIN_ALLOW_THREADS / Py_END_ALLOW_THREADS 宏實現(xiàn)
這種多任務(wù)方式能夠提升代碼性能！
搶占式多任務(wù)：
間歇性掛起活躍進(jìn)程，交由 OS 重新調(diào)度
Python 2：每執(zhí)行 100 個字節(jié)碼，當(dāng)前進(jìn)程就會被掛起
Python 3.2+: 每隔 5 毫秒
這種多任務(wù)方式不提高代碼性能，但使得多個任務(wù)能在同一時間段內(nèi)執(zhí)行
接下來可以進(jìn)展到去除 GIL。這是很多 Python 用戶十分期待的事情，但是短期內(nèi)是不太可能實現(xiàn)的，它的難點包括：
第一，技術(shù)問題
Guido 要求不降低單線程執(zhí)行效率
兼容現(xiàn)有引用計數(shù)與垃圾回收機(jī)制
兼容現(xiàn)有 C 擴(kuò)展
第二，在社區(qū)友好性上，不顯著提高開發(fā)難度。
盡管如此，我們也可以看到一些現(xiàn)有去除 GIL 的實驗性的方案：
Gilectomy：嘗試將 GIL 換成若干小鎖，然而這種方案嚴(yán)重降低了 Python 的性能。首先，它會使得多線程競爭同一把鎖。其次，它在將 GIL 換成若干小鎖后，將嚴(yán)重降低緩存的命中率。
PyPy：實驗性分支支持軟件事務(wù)內(nèi)存 (STM)，不過 STM 目前還是一個相對少見的機(jī)制，可解決當(dāng)前很多問題，但是實現(xiàn)非常困難——尤其在像 Python 這種高度動態(tài)的語言當(dāng)中。
Starlark：這種方案并非去掉 GIL，而是一門兼容部分 Python 語法，并發(fā)執(zhí)行字節(jié)碼的新語言。它目前用于 Google Bazel 編譯系統(tǒng)，我個人認(rèn)為這是一個非常有意思的未來趨勢。
既然現(xiàn)在去除 GIL 的方案都有很多弊端，并且短期內(nèi)我們也無法讓 GIL 從 Python 中被去除，我們最常見的解決方案就是避開 GIL，主要通過兩種手段實現(xiàn)：
第一種是多解釋器進(jìn)程并發(fā) (multiprocessing)
第二種是避免執(zhí)行 Python 字節(jié)碼，常見的方法有：Cython ctypes、部分 NumPy 函數(shù)釋放 GIL、Numba JIT「nogil=True」，以及 TensorFlow/PyTorch JIT。
進(jìn)入案例分析前，先介紹幾個相關(guān)的概念。
首先介紹一下并行與并發(fā)的區(qū)別：
并發(fā)（concurrency）：是指多個操作可以在重疊的時間段內(nèi)進(jìn)行，例如在第一個時間片內(nèi)，線程 A 執(zhí)行，線程 B 阻塞；第二個時間片內(nèi)，線程 B 等待 I/O，而線程 A 執(zhí)行；第三個時間片內(nèi)，線程 A 執(zhí)行，而線程 B 還在等待 I/O。
并行（parallelism）：是指多個操作在同一時間點上進(jìn)行。無論在哪個時間片里，兩個線程可能同時處于某一狀態(tài)。例如在第一個時間片內(nèi)，線程 A 執(zhí)行，線程 B 執(zhí)行；第二個時間片內(nèi)，線程 A 等待 I/O，線程 B 也在等待 I/O ；第三個時間片內(nèi)，線程 A 執(zhí)行，而線程 B 也 執(zhí)行。
多線程意味著我們在使用并發(fā)這種線程模型，而多進(jìn)程則是在使用并行這一線程模型，其各有利弊：
多線程并發(fā)的優(yōu)勢為：可共享內(nèi)存空間，方便交換數(shù)據(jù)；劣勢為：會同時寫入內(nèi)存將導(dǎo)致數(shù)據(jù)損壞。
多進(jìn)程并行的優(yōu)勢為：內(nèi)存空間獨立（恰來自其劣勢）；劣勢為：進(jìn)程間交互需要序列化-通信-反序列化。
接下來我們將通過一個案例來嘗試 Python 并發(fā)的幾種不同解決方案的案例：
（關(guān)于嘗試 Python 并發(fā)的幾種不同解決方案的案例講解，請回看視頻 00：19：05 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
這就講到多進(jìn)程（multiprocessing）這一概念，它的適用場景包括：
CPU 占用率高
子進(jìn)程間通信簡單
相關(guān)變量和函數(shù)可被序列化，但占用內(nèi)存較小
如果想知道更多內(nèi)容，大家可參見文檔：
接下來進(jìn)入到多進(jìn)程解決方案的案例講解：
（關(guān)于多進(jìn)程解決方案的案例講解，請回看視頻 00：23：25 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
之后要講到多線程 (multithreading)，多線程的使用場景包括：
CPU 占用率低
I/O 負(fù)載高
子任務(wù)需要共享內(nèi)存
如要了解更多內(nèi)容，可以參見文檔：
（關(guān)于多線程解決方案的案例講解，請回看視頻 00：33：25 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
再看一下 Python 多線程編程難點，下面這些難點有些針對 Python，有些是所有多線程共通的難題：
第一，CPython 的線程切換可能在任意字節(jié)碼之間發(fā)生，而 Python 指令不具有原子性
第二，每次訪問受限資源都需獲取鎖
第三，鎖不具有強(qiáng)制性，即使忘記獲取鎖，代碼也可能運行
第四，競爭狀態(tài)難以復(fù)制
我們看一個相關(guān)的案例——多線程計數(shù)器：
（關(guān)于多線程計數(shù)器的案例講解，請回看視頻 00：37：00 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
接著講一下異步 (async)。Python 中的異步是一種在單一線程內(nèi)使用生成器實現(xiàn)的協(xié)程，比線程能更高效地組織非阻塞式任務(wù)。協(xié)程的切換由 Python 解釋器內(nèi)完成。當(dāng)然，其他語言也有異步編程，比如 Go 語言的 goroutine，以及 Nginx 用 C 實現(xiàn)了異步編程。
關(guān)于更多異步編程的內(nèi)容，大家可參見文檔：
看案例之前，先比較一下異步與線程。與線程相比，異步的優(yōu)劣勢分別為：
優(yōu)勢：
簡單的多任務(wù)模型
明確的協(xié)程切換點
系統(tǒng)開銷遠(yuǎn)小于 OS 原生線程
劣勢：
有相對獨立的生態(tài)系統(tǒng)
與其他并發(fā)模型混用較難
API 仍未穩(wěn)定
下面我們看異步的案例：
（關(guān)于異步的案例講解，請回看視頻 00：46：05 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
最后講一下分布式計算，本堂課中的分布式計算以 Dask 為例。
Dask 是一種基于運算圖的動態(tài)任務(wù)調(diào)度器，可使用動態(tài)調(diào)度器擴(kuò)展 NumPy 和 Pandas。左邊這個圖就是 Dask 的運算圖。
（關(guān)于 Dask 運算圖的講解，請回看視頻 00：55：45 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
與另一種分布式計算方法 Spark 比較，Dask 的特性非常鮮明：
它是一個純 Python 實現(xiàn)
無需遵循 map-reduce 范式
細(xì)粒調(diào)度帶來較低的延遲
在 Dask 中，我們更關(guān)注的是 Distributed。它是 Dask 在異構(gòu)集群上的擴(kuò)展。它的網(wǎng)絡(luò)結(jié)構(gòu)遵循客戶 – 調(diào)度器 – 工作節(jié)點這樣的形式，因此要求所有節(jié)點擁有相同的 Python 運行環(huán)境。
接下來我們看一個簡單的案例：
（關(guān)于該案例講解，請回看視頻 00：59：45 處，http://www.mooc.ai/open/course/569？=aitechtalkyinlibo）
最后放上今天這堂課涉及到的內(nèi)容的演講，基本都能在 youtube 上進(jìn)行觀看。
Dave Beazley: Understanding the Python GIL, PyCon 2010
Dave Beazley: Embracing the Global Interpreter Lock (GIL), PyCodeConf 2011
Larry Hastings: Python's Infamous GIL, PyCon 2015
Larry Hastings: Removing Python's GIL: The Gilectomy, PyCon 2016
A Jesse Jiryu Davis: Grok the GIL Write Fast And Thread Safe Python, PyCon 2017
Raymond Hettinger: Keynote on Concurrency, PyBay 2017
https://www.youtube.com/watch?v=9zinZmE3Ogk
https://pybay.com/site_media/slides/raymond2017-keynote/index.html
Dave Beazley: Fear and Awaiting in Async: A Savage Journey to the Heart of the Coroutine Dream
Robert Smallshire: Coroutine Concurrency in Python 3 with asyncio
https://www.youtube.com/watch?v=c5wodlqGK-M ?Matthew Rocklin: Dask for ad hoc distributed computing
Matthew Rocklin: Dask: A Pythonic Distributed Data Science Framework, PyCon 2017
以上就是本期嘉賓的全部分享內(nèi)容。更多公開課視頻請到雷鋒網(wǎng) AI 研習(xí)社社區(qū)（http://ai.yanxishe.com/）觀看。關(guān)注微信公眾號：AI 研習(xí)社（okweiwu），可獲取最新公開課直播時間預(yù)告。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
