8分鐘簡明解釋所有處理單元！

中央處理器 中央處理單元，這顆大家耳熟能詳的晶片，以及幾乎所有 沒有人能真正解釋清楚，除非說是大腦造成的。 事情是這樣的。 中央處理器是一種通用型元件。 它能應付你所提出的一切挑戰。 開啟瀏覽器、執行 Excel、解碼影片、檢查滑鼠是否移動。 它會逐一地、一個接一個地完成，但速度驚人。 現代的處理器運行頻率為 3 至 5 GHz。 每秒數十億條指令。 英特爾於1971年以4004晶片開啟了這場盛宴，這枚晶片擁有2,300個電晶體。 你的現有中央處理器將上千億個元件封裝在指甲蓋大小的矽片上。 今天，你看到的消費級晶片，例如 Apple 的 M 系列、Intel 的，擁有 4 到 24 個核心。 Core Ultra，AMD Ryzen。 所有這些中央處理器都擁有足夠的核心數，能讓你的生活順暢無阻。 每個核心基本上都是一個微型處理器，能夠獨立執行自己的任務。 把CPU想像成學校裡那個數學、歷史、英文和體育都表現穩健的學生。 從來不是任何一件事上的佼佼者。 但你卻希望他們參與每一個小組專案。 其中的關鍵是？ CPU 在同時重複執行同一個小任務一百萬次時表現極差。 要求它渲染一個4K畫面，它就會哭鬧。 這正是我們發明下一個的原因。 顯示卡 圖形處理單元 最初為電子遊戲而設計，卻意外成為人工智慧時代最重要的晶片。 當一個 CPU 擁有 16 個強大的核心時，一個 GPU 則擁有數以千計的簡單核心。 這就像聘用一位諾貝爾獎得主與聘用一整間倉庫的實習生之間的差異。 如果工作內容是重複執行同一個小小的數學題目一百萬次，那麼實習生總是能贏。 結果發現，像素渲染、神經網絡訓練以及加密貨幣挖礦，看起來都像是同一個問題。 巨大的、並行的、矩陣數學。 NVIDIA的RTX 5090 Merci plus de 21 000 cœurs CUDA. AMD的Radeon系列產品在同等級別中展開競爭。 這些東西會吞噬光線追蹤遊戲的效能，訓練 GPT 等級的模型，並讓你的電費帳單熔化。 RTX 5090 在負載下耗電量為 575 瓦。 那是微波爐。 但這裡是人工智慧浪潮背後的骯髒秘密。 ChatGPT 中旅程 穩定擴散 它們都沒有在 CPU 上運行。 它們運行在GPU機架上。 英偉達的市值突破三萬億美元，因為全世界悄然間在同一時間需要一百萬顆他們的晶片。 TPU 張量處理單元 谷歌的答案是：如果我們打造一顆僅懂得進行人工智慧運算、其他什麼都不會的晶片，會怎麼樣？ 於2016年推出的TPU，是谷歌承認即使GPU對人工智慧實際所需而言也過於強大。 神經網絡基本上就是無限次的矩陣乘法。 因此，Google 打造了僅專精於此項任務且速度驚人的晶片。 無圖形。 沒有物理。 沒有影片解碼。 僅是張量。 將TPU想像成一輛NASCAR賽車。 它只能向左轉，但在一條橢圓形賽道上，卻能羞辱任何一輛法拉利。 Google 最新的 TPU v5p 驅動 Gemini，也就是您搜尋結果中的人工智慧，以及 Google 帝國內幾乎每一個神經網路。 你買不到一個。 您透過 Google Cloud 租用其時間。 折衷的代價是靈活性。 TPU 對機器學習以外的任何用途都毫無用處。 但就其設計用途而言，它的每美元和每瓦特性能幾乎遠超地球上任何其他設備。 神經處理單元 神經處理單元 你手機和新筆電裡安靜運作的晶片，能在不耗盡電池或連線至資料中心的情況下執行人工智慧。 蘋果公司在2017年推出的iPhone X中首次正式導入了這一技術。 神經引擎 高通隨後推出了Hexagon。 現在，每一台配備 Co-Pilot Plus 的 PC 都必須具備一台運算能力達到 40 多 TOPS 或更高的 NPU，也就是每秒數兆次的運算能力。 僅僅為了獲得那個標籤。 它實際上是做什麼的？ 這正是你的手機能即時模糊背景、離線轉錄語音，並在200毫秒內透過臉部解鎖的原因。 這也是為什麼你的新筆電能運行本地 verbosity 模型，而風扇不會像卡車引擎一樣轟鳴。 NPU基本上是TPU的迷你版。 體積更小、運算能力較弱，卻能像配給制般節省耗電。 當你的 iPhone 即時編輯照片時，默默承擔繁重任務的是 NPU，而不是 CPU。 LPU 語言處理單元 一顆如此新穎且專門的晶片，以致於大多數科技界人士至今仍聞所未聞。 格羅克 不是埃隆的格羅克。 這是那家擁有 Q 的晶片公司。 特別為運行大型語言模型而打造的LPU，其運算速度遠超所有人原先認為可能的水準。 我們談的是 Llama 3 每秒超過 500 個代幣的處理速度，而一般的 GPU 設定可能僅能達到每秒 50 個代幣。 它不會訓練模型，只會執行模型。 比現今任何生物都更快。 整個架構都是基於語言模型具有順序性這一事實所建構而成。 一個字一個字地。 逐標記地。 儘管GPU擁有強大的運算能力，但它們並非為這種節奏而設計。 如果你曾經使用過 Grok 的示範功能，並看著回應瞬間填滿螢幕，彷彿在作弊一樣， 沒錯，那就是LPU。 國際政策研究所 智慧處理單元 由英國晶片公司 Graphcore 建造，該公司㕚試圖超越 NVIDIA。 而且大多最終成為了一個警示故事。 這個想法確實ENTIC。 與在直線中進行平行運算的GPU不同， 建造一顆以圖形思考的晶片。 由1,472個獨立處理器組成的蜘蛛網狀結構。 所有人同時說個不停。 非常適合某些人工智慧工作負載。 問題在於，世界已經在Graphcore還未能站穩腳跟之前，就已標準化採用了NVIDIA的軟體Sharper/')。 國際議會聯合會在技術上令人印象深刻，但在商業上卻舉步維艱。 請記住，最好的晶片並非總能獲勝。 擁有最佳軟體生態系的晶片。 處理器單元 資料處理單元 現代資料中心的守門人。 NVIDIA 的 Bluefield。 AWS Nitro 英特爾的 IPU。 他們都做著同樣乏味而必要的工作。 處理基礎設施的繁瑣工作，讓CPU和GPU無需親自處理。 網路連接 加密 儲存流量 安全檢查。 在現代雲端伺服器中，DPU 正靜靜地以每秒數太位元的速率在機器之間傳輸資料。 而GPU則專注於實際的AI模型。 你永遠不會直接與其互動，但如果你曾經使用過 AWS、Azure 或 Google Cloud， 一個DPU處理了您的封包。 量子處理單元 量子處理單元 而這個會讓你的大腦稍微崩潰一下。 一塊普通的晶片使用位元，即 0 或 1。 QPU 使用量子位元，這些量子位元可同時為 0 或為 1。 多虧了稱為疊加的性質。 與像CPU一樣逐一檢查每種可能性不同， 量子處理單元會同時探索所有可能，最後收斂到正確的答案。 它不只是一個更快的計算器，更像在請宇宙幫你完成作業。 IBM 的 Condor 芯片突破了 1,121 個量子位元。 Google的Willow晶片，於2024年底發布 在五分鐘內解決了一個問題，這問題若交給地球上最快的超級電腦，也需要十 septillion 年才能完成。 這是一個比宇宙年齡古老許多倍的數字。 問題在於，QPU 必須冷卻至接近絕對零度。 零下273攝氏度，比外太空還要寒冷。 它們大得像吊燈一樣，極度不穩定， 而且它們對於執行 Chrome 瀏覽器來說確實毫無用處。 但對於密碼學、藥物發掘以及分子模擬而言， 他們即將改寫未來十年的可能範疇。 因此，重點在於： 對於日常使用的電腦而言，就是中央處理器（CPU）。 對於遊戲和訓練人工智慧，是顯卡。 針對大規模雲端人工智慧，採用 TPU。 對於手機和筆電上的人工智慧，就是NPU。 為了極速的語言模型回應，首選 LPU。 對於資料中心的管路系統，採用DPU。 至於我們目前完全無法解決的問題，量子處理單元（QPU）就是答案。 嗨，我製作了一段關於一些最重要的資料結構的影片。 務必去看看，它可能會對你有很大幫助。 那樣的話，下一個見。