從顯卡的硬件和架構看顯卡是如何被設計出來的

這期視頻我們將從硬件和架構兩方面,爲你詳細講解顯卡是如何被設計出來的。 我們先來說硬件,顯卡里面最重要的就是這塊GPU芯片。 那GPU和CPU有什麼區別呢? 首先在覈心方面,GPU擁有超過1萬個核心。 如果我們查看安裝到主板的CPU,你會發現,好點的CPU也僅僅只有24個核心。 如果單從核心上看,你可能會認爲GPU要比CPU強大很多倍,其實並不是這樣的。 如果我們把GPU比作一艘大型的貨船,那麼CPU就是一架大型的噴氣式飛機。 貨船可以一次裝載大量的集裝箱貨物,但是運行的速度較慢。 而噴氣式飛機飛得很快,但是容量有限,不過飛機更加靈活。 它不僅可以運載集裝箱,還能運載各種不同的乘客和包裹。 在運算方面,GPU只能運行相對簡單的指令,而CPU執行的指令則更爲複雜。 另外,CPU和GPU的運用領域有所不同。 如果你想並行執行海量的簡單的計算任務,那麼GPU可以更快地完成。 如果你需要執行少量但是指令很複雜的計算任務,那麼CPU則更適合。 此外,如果你想要運行操作系統,支持網絡連接,以及各種不同的應用程序,也是需要CPU的。 接下來我們就打開一塊顯卡,來詳細瞭解一下內部的各個硬件。 這是一塊大的印刷電路板,上面安裝着各種不同的組件。 我們先從顯卡的大腦GPU講起,打開GPU。 它的內部是一款名爲GA102的芯片,該芯片由283億個晶體管構建而成。 芯片很大一部分都被處理核心佔據着,整個處理核心被分成了7個圖形處理集群。 每個處理集群裏面有12個流逝處理器,每個流逝處理器內部又有4個work和一個光線追蹤核心。 每個work裏面又分佈着32個CUDA核心和一個張量核心,整個GPU一共有10752個CUDA核心,336個張量核心,以及84個光線追蹤核心。 正是這三種類型的核心,執行了GPU的所有運算,並且每個核心功能有所不同。 CUDA核心可以看作一個簡單的二進制計算器,可以計算一些加減乘除或者位移運算,CUDA核心也是在運行遊戲時運用最多的。 而張量核心可以看成一個矩陣計算器,用於計算矩陣數據,在幾何變換。 神經網絡和人工智能領域運用比較多,光線追蹤核心是最大的,但是數量也是最少的,主要用於執行光線追蹤算法,可以讓我們的遊戲場景非常逼真。 其實市場上主流的N卡都是使用的GA102芯片,那爲什麼用同樣的芯片,顯卡價格卻有很大的區別呢? 這是因爲廠商在製造顯卡芯片時,有的圖案錯誤,進入灰塵顆粒或者其他製造問題,會導致有些位置損壞,從而產生電路缺陷。 而不會影響芯片的其他區域,因此這些芯片會根據缺陷的數量來進行測試和分類,從而分成各種不同類型的顯卡。 一般來說,越高端的顯卡能夠正常使用的核心越多,而越低端的顯卡能夠正常使用的核心數會相應的減少,價格自然比較便宜。 說完芯片的處理核心,我們再看一下芯片的其他部分。 在芯片的邊緣周圍,有12個圖形內存控制器,一個NVLink控制器和一個PCIE接口,這個位置還有兩個二級緩存。 二級緩存的中間是圖形處理集群和流逝處理器的引擎。 講解完GPU芯片,我們再看看顯卡上其他的組件。 在GPU的周圍,有一圈圖形內存芯片,一共24個,這些芯片被稱爲GDDRX芯片。 當我們啓動網絡遊戲時,加載遊戲是需要一定時間的。 這個加載過程,其實就是將遊戲的特定場景或者環境模型,從固態硬盤加載到這些圖形內存芯片中。 因此爲了渲染遊戲,不同的場景數據會在內存和GPU之間不斷的傳輸,每秒能執行數十萬一次的計算。 整個過程跟碼頭類似,這24個內存芯片就像24臺起重機,不停的向GPU這艘巨輪上裝載貨物。 24個內存芯片,與GPU之間的總線寬度達到384位,也就是每秒能夠傳輸1.15TB的數據。 相比之下,CPU和DRAM內存之間的總線寬度只有64位,最大每秒只能傳輸64GB的數據。 接下來我們來到顯卡的側邊,這是顯卡不同類型的外接端口,用於與顯示器連接。 這邊這個是12V的電源連接器,轉到這邊,這個是用於將顯卡插入到主板上的PCIE插口。 另外電路板上還有有比較小的組件,組成的電壓調節器模塊,該模塊可以接收12V的電壓,並將電壓轉換爲1.1V,以供GPU使用。 由於顯卡的計算量比較大,所以顯卡會散發大量的熱量,因此在GPU上面還有一個四管的散熱器,以便將GPU和其他組件的熱量通過散熱器的赤片散發出去。 說完硬件,下面我們接着說顯卡的架構,也就是顯卡的SIMD,它也是顯卡能夠運行網絡遊戲,實現人工智能的關鍵之所在。 GPU在處理任務時,會將任務分成很多的小任務進行並行處理,而通過SIMD,我們只需要對GPU輸入單一的指令,GPU就能讓大量的線程任務同時執行這個指令,從而實現海量級數據的並行計算。 然後我們可以將每32個線程一組,捆綁成一個線程數,之後向線程數中的32個線程發送相同的指令,我們可以將多個線程數再組合,形成一個流逝處理器可以處理的線程塊,然後將線程塊再分組成一個個的網格,最後發送到GPU上進行處理。 所有的這些線程塊,都由GPU上的流逝處理器引擎進行調度和管理,它可以有效地將線程塊映射到可用的流逝處理器進行處理。 由於這些流逝處理器內部有上萬個CUDA核心,所以這些線程任務都會被分配到大量的CUDA核心上進行並行運算,因此執行速度非常快。 在SIMD架構中,每個線程數中的32個線程,彼此步調是一致的,就像士兵一樣,一排排的順序通過。 但是到了2016年,一種比較新的SIMP架構出現了,它與SIMD架構不同的地方在於,任務指令的發送還是一樣的,但是SIMP的線程,彼此之間不需要同步,執行速度有的快有的慢,所以提供了更大的靈活性。