#494 – Jensen Huang: NVIDIA – The $4 Trillion Company & the AI Revolution
審查後發現兩處省略主語問題,其餘內容清晰完整。修正如下:
審查後發現兩處省略主語問題,其餘內容清晰完整。修正如下:
重點摘要
- 極限協同設計(Extreme Co-design)是 NVIDIA 的核心競爭力:AI 運算問題已超出單一晶片或單一電腦的處理能力,必須跨越 GPU、CPU、記憶體、網路、散熱、電力、軟體整體優化,才能讓算力成長速度遠超硬體數量的線性疊加。
- CUDA 安裝基礎是 NVIDIA 最重要的護城河:當年將 CUDA 導入 GeForce 消費級顯卡是幾乎賭上公司的決定,使毛利率從 35% 大幅壓縮,但最終奠定了整個 AI 基礎設施的計算生態。
- 四大 AI 擴展定律持續有效:預訓練、後訓練、推理時擴展(Test-time scaling)與代理人擴展(Agentic scaling)四個維度仍在同步成長,算力是唯一真正的瓶頸。
- OpenClaw(Open Computer Use Agent)是 AI 代理時代的 iPhone 時刻:Jensen 認為它對代理系統的意義,如同 ChatGPT 對生成式 AI 的意義,AI 工廠時代正式開啟。
- AI 不會消滅工作,而是重新定義工作的邊界:放射科醫師案例說明,即使 AI 視覺在 2019 年已超人類,放射科醫師人數反而增加。智識(Intelligence)將被商品化,真正的競爭優勢在於「人性」本身。
詳細內容
極限協同設計:為什麼規模不再等於效能
Jensen 解釋,現代 AI 訓練問題已無法在單一電腦內完成,必須將模型、資料、計算管線分散到數萬台電腦同時運行。這帶來了 Amdahl’s Law(阿姆達爾定律)問題:如果計算只佔總工作量的 50%,即使計算速度提升百萬倍,整體速度最多只加快兩倍。因此,網路傳輸、記憶體頻寬、電力分配每一環節都必須同步突破。
NVIDIA 應對方式是讓 60 位直屬高層(涵蓋記憶體、CPU、光學、GPU 架構各領域專家)以開放群討論取代一對一會議,讓每位工程師都能在跨領域決策中即時介入。
CUDA 的誕生:以消費者顯卡為跳板
CUDA 的推出本身不困難,困難的是如何建立夠大的開發者基礎(Install Base)。Jensen 以 x86 架構為例說明:架構的優雅與否遠不如安裝量重要,許多設計精良的 RISC 架構最終失敗,反而是不夠優美的 x86 定義了現代運算。
為了培養 CUDA 生態,NVIDIA 決定將 CUDA 內建於 GeForce 消費級顯卡,但這使 GPU 成本大增 50%,直接吃光公司當時約 35% 的毛利。公司市值一度從約 80 億美元跌至 15 億美元。最終,因為許多研究人員本就是玩家,他們在自己的 GeForce 電腦上發現了 CUDA,逐步形成深度學習的計算基礎。
Jensen:「NVIDIA 是 GeForce 蓋起來的房子,因為是 GeForce 把 CUDA 帶給了所有人。」
四大 AI 擴展定律
| 擴展定律 | 說明 |
|---|---|
| 預訓練(Pre-training) | 模型越大 + 資料越多 = 更聰明;合成資料正取代人類生成資料的限制 |
| 後訓練(Post-training) | Fine-tuning、RLHF 等持續優化,資料品質靠 AI 自我增強 |
| 推理時擴展(Test-time scaling) | 推論即「思考」,思考比記憶更耗算力;小晶片無法應對這個市場 |
| 代理人擴展(Agentic scaling) | 一個 AI 衍生出無數子代理人,等同於無限擴充員工數,創造大量新資料回流前三個定律 |
Jensen 認為智能終將由「算力」決定,唯一的長期瓶頸是能源效率(每瓦 token 數),而非技術架構上限。
電力問題:電網的閒置容量
Jensen 指出,電網設計以最壞情境為基準,但 99% 時間使用率僅約 60%。他主張應讓資料中心簽訂「可降載合約」——電網尖峰時段(極少數冬夏幾天)資料中心主動降頻或轉移工作負載,換取平日使用大量閒置電力。
這個方案面臨三個障礙:終端客戶要求 100% 可用性、資料中心不願犧牲 SLA、公用事業者也習慣現有定價模式。Jensen 認為從企業 CEO 層面直接改變採購合約要求,是突破口。
Elon Musk 的工程方法論
Jensen 分析 xAI Colossus 超算(Memphis)在四個月內以 20 萬顆 GPU 完成部署的關鍵:
- 一切從零開始推理,質疑所有「過去就是這樣做」的慣例
- 親身到場,與工程師一起研究插拔網路線的流程細節
- Musk 的個人urgency 感染整個供應鏈,讓所有合作方以最高優先度對待
這與 NVIDIA 的「光速思維」(Speed of Light)一致:先算出物理極限是多少,再用第一原理設計,而不是從現狀做漸進改善。
中國科技生態的觀察
Jensen 提出幾個結構性原因解釋中國何以在 10 年內孕育出世界級科技公司:
- 全球 AI 研究員約 50% 是中國人
- 中國科技業崛起恰逢移動互聯網時代,深植軟體基因
- 各省市長競爭類似多中心市場,催生大量公司與淘汰機制
- 校友文化(同學如兄弟)使知識高速流動,推動開源貢獻
- 工程師是社會精英身份,類比美國律師的地位
Nemotron 3 開源策略
NVIDIA 開源 Nemotron 3(1200 億參數、Transformer + SSM 混合架構)的三個理由:
- 協同設計:NVIDIA 自己做模型研究,才能預見未來硬體需求
- 生態滲透:AI 若全部閉源,許多產業和國家無法加入這場革命
- 多模態覆蓋:語言以外的 AI(生物、物理、天氣預測)也需要有人推進前沿
TSMC 的核心優勢
Jensen 認為 TSMC 最大的誤解是「技術就是一切」。真正護城河是:
- 能在數百家客戶同時動態調整需求的情況下,維持高良率、高吞吐、低成本的製造系統
- 同時做到「技術領先」與「客戶服務導向」兩件通常互相矛盾的事
- 三十年建立的信任——NVIDIA 與 TSMC 的合作沒有正式合約
AGI 的定義與現狀
Jensen 認為 AGI 已經實現,前提是定義為「能在有限時間內創辦一家市值超過十億美元的公司」。他引用中國大量用戶已讓 AI 代理人去「接案賺錢」的現象,以及病毒式傳播的輕量 app 在過去的互聯網時代大量出現為例。
但他強調:即使 AI 能做到上述,一百萬個代理人組合也無法再造一個 NVIDIA,因為那需要的不只是智能,而是人類特有的「意志力、苦難承受力與人性」。
工作的未來
Jensen 用放射科醫師的案例說明:電腦視覺在 2019 年已超越人類水準,但放射科醫師人數反而增加——因為更快的掃描分析能力讓醫院處理更多病患,需要更多醫師下最終判斷。
工作目的 ≠ 工作任務。軟體工程師的目的是解決問題,「寫程式碼」只是完成目的的任務之一。他預測:
- 「能描述軟體規格」的人將從 3000 萬增加到 10 億
- 木工、水電工、會計師等傳統職業若善用 AI,其服務價值將大幅提升
精選語錄
“Install base defines an architecture. Not everything else is secondary.” 安裝基礎定義了架構的生死,其他一切都是次要的。
“We went from a retrieval-based computing system to a generative-based computing system. We need a lot more processing in this new world than in the old world.” 我們從基於「檢索」的運算系統,轉向基於「生成」的運算系統。新世界需要的算力遠超舊世界。
“Intelligence is a commodity. The word we should really elevate is humanity, character, compassion, generosity.” 智識將成為商品。我們真正應該珍視的是人性、品格、慈悲與慷慨。
時間軸
本集逐字稿無明確時間戳記,以下為主題順序:
- 開頭 — 廣告段落(Shopify、Element、Fin、Quo)
- 段落一 — 極限協同設計的定義、原因與 NVIDIA 組織架構
- 段落二 — NVIDIA 演化歷程:從加速器 → CUDA → CUDA on GeForce 的策略決定
- 段落三 — 四大 AI 擴展定律詳解與未來算力展望
- 段落四 — 電力問題與電網閒置容量解法
- 段落五 — Elon Musk 建設方法論、NVIDIA「光速思維」
- 段落六 — Vera Rubin Pod 規格介紹、AI 工廠心智模型
- 段落七 — NVIDIA 市值展望:token 工廠時代的成長邏輯
- 段落八 — 中國科技生態分析、開源 Nemotron 3
- 段落九 — TSMC 文化與 Morris Chang 接班邀約的故事
- 段落十 — CUDA 護城河、生態系廣度
- 段落十一 — 壓力管理與心理韌性:分解問題、快速遺忘、吸引未來
- 段落十二 — 遊戲與 DLSS 5 爭議
- 段落十三 — AGI 定義、工作的未來、放射科醫師案例
- 結尾 — 人類意識、死亡與對未來的希望;對台灣之行的期待
修正說明(2 處):
- Elon Musk 段落:「個人urgency 感染整個供應鏈」→「Musk 的個人urgency 感染整個供應鏈」(補足主語,避免讀者不清楚「個人」指誰)
- Nemotron 3 段落:「自己做模型研究」→「NVIDIA 自己做模型研究」(補足主語)
相關主題
- 〈SP.38|人類演化特輯 (5)|從海底商船到帝國武器:青銅,人類第一場全球化的賭注〉科學好好聽 · 2026-04-04
- EP221 | 我老公從蘋果離職去超市打工,一年來的心得? Feat. 尼可這樣說科技工作講 Tech Job N Talk · 2026-04-04
- 【未來城市Ep.124】前LINE總經理為何學 Vibe Coding?只看報告不動手,AI時代會失去決策手感聽天下:天下雜誌Podcast · 2026-04-04
- 【Off學Ep.146】泰國慢旅怎麼玩?潑水節、在地美食與慢生活心法 feat.部落客亞美將聽天下:天下雜誌Podcast · 2026-04-04
- 【換日線|時事關鍵字 Ep.123】高齡80的川普為何「一戰再戰」?伊朗之後的目標又會是誰?聽天下:天下雜誌Podcast · 2026-04-04