搜尋摘要
目錄
Lex Fridman Podcast · 2026年3月23日 EN

#494 – Jensen Huang: NVIDIA – The $4 Trillion Company & the AI Revolution

審查後發現兩處省略主語問題,其餘內容清晰完整。修正如下:

收聽原始 Podcast

審查後發現兩處省略主語問題,其餘內容清晰完整。修正如下:


重點摘要

  • 極限協同設計(Extreme Co-design)是 NVIDIA 的核心競爭力:AI 運算問題已超出單一晶片或單一電腦的處理能力,必須跨越 GPU、CPU、記憶體、網路、散熱、電力、軟體整體優化,才能讓算力成長速度遠超硬體數量的線性疊加。
  • CUDA 安裝基礎是 NVIDIA 最重要的護城河:當年將 CUDA 導入 GeForce 消費級顯卡是幾乎賭上公司的決定,使毛利率從 35% 大幅壓縮,但最終奠定了整個 AI 基礎設施的計算生態。
  • 四大 AI 擴展定律持續有效:預訓練、後訓練、推理時擴展(Test-time scaling)與代理人擴展(Agentic scaling)四個維度仍在同步成長,算力是唯一真正的瓶頸。
  • OpenClaw(Open Computer Use Agent)是 AI 代理時代的 iPhone 時刻:Jensen 認為它對代理系統的意義,如同 ChatGPT 對生成式 AI 的意義,AI 工廠時代正式開啟。
  • AI 不會消滅工作,而是重新定義工作的邊界:放射科醫師案例說明,即使 AI 視覺在 2019 年已超人類,放射科醫師人數反而增加。智識(Intelligence)將被商品化,真正的競爭優勢在於「人性」本身。

詳細內容

極限協同設計:為什麼規模不再等於效能

Jensen 解釋,現代 AI 訓練問題已無法在單一電腦內完成,必須將模型、資料、計算管線分散到數萬台電腦同時運行。這帶來了 Amdahl’s Law(阿姆達爾定律)問題:如果計算只佔總工作量的 50%,即使計算速度提升百萬倍,整體速度最多只加快兩倍。因此,網路傳輸、記憶體頻寬、電力分配每一環節都必須同步突破。

NVIDIA 應對方式是讓 60 位直屬高層(涵蓋記憶體、CPU、光學、GPU 架構各領域專家)以開放群討論取代一對一會議,讓每位工程師都能在跨領域決策中即時介入。

CUDA 的誕生:以消費者顯卡為跳板

CUDA 的推出本身不困難,困難的是如何建立夠大的開發者基礎(Install Base)。Jensen 以 x86 架構為例說明:架構的優雅與否遠不如安裝量重要,許多設計精良的 RISC 架構最終失敗,反而是不夠優美的 x86 定義了現代運算。

為了培養 CUDA 生態,NVIDIA 決定將 CUDA 內建於 GeForce 消費級顯卡,但這使 GPU 成本大增 50%,直接吃光公司當時約 35% 的毛利。公司市值一度從約 80 億美元跌至 15 億美元。最終,因為許多研究人員本就是玩家,他們在自己的 GeForce 電腦上發現了 CUDA,逐步形成深度學習的計算基礎。

Jensen:「NVIDIA 是 GeForce 蓋起來的房子,因為是 GeForce 把 CUDA 帶給了所有人。」

四大 AI 擴展定律

擴展定律說明
預訓練(Pre-training)模型越大 + 資料越多 = 更聰明;合成資料正取代人類生成資料的限制
後訓練(Post-training)Fine-tuning、RLHF 等持續優化,資料品質靠 AI 自我增強
推理時擴展(Test-time scaling)推論即「思考」,思考比記憶更耗算力;小晶片無法應對這個市場
代理人擴展(Agentic scaling)一個 AI 衍生出無數子代理人,等同於無限擴充員工數,創造大量新資料回流前三個定律

Jensen 認為智能終將由「算力」決定,唯一的長期瓶頸是能源效率(每瓦 token 數),而非技術架構上限。

電力問題:電網的閒置容量

Jensen 指出,電網設計以最壞情境為基準,但 99% 時間使用率僅約 60%。他主張應讓資料中心簽訂「可降載合約」——電網尖峰時段(極少數冬夏幾天)資料中心主動降頻或轉移工作負載,換取平日使用大量閒置電力。

這個方案面臨三個障礙:終端客戶要求 100% 可用性、資料中心不願犧牲 SLA、公用事業者也習慣現有定價模式。Jensen 認為從企業 CEO 層面直接改變採購合約要求,是突破口。

Elon Musk 的工程方法論

Jensen 分析 xAI Colossus 超算(Memphis)在四個月內以 20 萬顆 GPU 完成部署的關鍵:

  • 一切從零開始推理,質疑所有「過去就是這樣做」的慣例
  • 親身到場,與工程師一起研究插拔網路線的流程細節
  • Musk 的個人urgency 感染整個供應鏈,讓所有合作方以最高優先度對待

這與 NVIDIA 的「光速思維」(Speed of Light)一致:先算出物理極限是多少,再用第一原理設計,而不是從現狀做漸進改善。

中國科技生態的觀察

Jensen 提出幾個結構性原因解釋中國何以在 10 年內孕育出世界級科技公司:

  • 全球 AI 研究員約 50% 是中國人
  • 中國科技業崛起恰逢移動互聯網時代,深植軟體基因
  • 各省市長競爭類似多中心市場,催生大量公司與淘汰機制
  • 校友文化(同學如兄弟)使知識高速流動,推動開源貢獻
  • 工程師是社會精英身份,類比美國律師的地位

Nemotron 3 開源策略

NVIDIA 開源 Nemotron 3(1200 億參數、Transformer + SSM 混合架構)的三個理由:

  1. 協同設計:NVIDIA 自己做模型研究,才能預見未來硬體需求
  2. 生態滲透:AI 若全部閉源,許多產業和國家無法加入這場革命
  3. 多模態覆蓋:語言以外的 AI(生物、物理、天氣預測)也需要有人推進前沿

TSMC 的核心優勢

Jensen 認為 TSMC 最大的誤解是「技術就是一切」。真正護城河是:

  • 能在數百家客戶同時動態調整需求的情況下,維持高良率、高吞吐、低成本的製造系統
  • 同時做到「技術領先」與「客戶服務導向」兩件通常互相矛盾的事
  • 三十年建立的信任——NVIDIA 與 TSMC 的合作沒有正式合約

AGI 的定義與現狀

Jensen 認為 AGI 已經實現,前提是定義為「能在有限時間內創辦一家市值超過十億美元的公司」。他引用中國大量用戶已讓 AI 代理人去「接案賺錢」的現象,以及病毒式傳播的輕量 app 在過去的互聯網時代大量出現為例。

但他強調:即使 AI 能做到上述,一百萬個代理人組合也無法再造一個 NVIDIA,因為那需要的不只是智能,而是人類特有的「意志力、苦難承受力與人性」。

工作的未來

Jensen 用放射科醫師的案例說明:電腦視覺在 2019 年已超越人類水準,但放射科醫師人數反而增加——因為更快的掃描分析能力讓醫院處理更多病患,需要更多醫師下最終判斷。

工作目的 ≠ 工作任務。軟體工程師的目的是解決問題,「寫程式碼」只是完成目的的任務之一。他預測:

  • 「能描述軟體規格」的人將從 3000 萬增加到 10 億
  • 木工、水電工、會計師等傳統職業若善用 AI,其服務價值將大幅提升

精選語錄

“Install base defines an architecture. Not everything else is secondary.” 安裝基礎定義了架構的生死,其他一切都是次要的。

“We went from a retrieval-based computing system to a generative-based computing system. We need a lot more processing in this new world than in the old world.” 我們從基於「檢索」的運算系統,轉向基於「生成」的運算系統。新世界需要的算力遠超舊世界。

“Intelligence is a commodity. The word we should really elevate is humanity, character, compassion, generosity.” 智識將成為商品。我們真正應該珍視的是人性、品格、慈悲與慷慨。


時間軸

本集逐字稿無明確時間戳記,以下為主題順序:

  • 開頭 — 廣告段落(Shopify、Element、Fin、Quo)
  • 段落一 — 極限協同設計的定義、原因與 NVIDIA 組織架構
  • 段落二 — NVIDIA 演化歷程:從加速器 → CUDA → CUDA on GeForce 的策略決定
  • 段落三 — 四大 AI 擴展定律詳解與未來算力展望
  • 段落四 — 電力問題與電網閒置容量解法
  • 段落五 — Elon Musk 建設方法論、NVIDIA「光速思維」
  • 段落六 — Vera Rubin Pod 規格介紹、AI 工廠心智模型
  • 段落七 — NVIDIA 市值展望:token 工廠時代的成長邏輯
  • 段落八 — 中國科技生態分析、開源 Nemotron 3
  • 段落九 — TSMC 文化與 Morris Chang 接班邀約的故事
  • 段落十 — CUDA 護城河、生態系廣度
  • 段落十一 — 壓力管理與心理韌性:分解問題、快速遺忘、吸引未來
  • 段落十二 — 遊戲與 DLSS 5 爭議
  • 段落十三 — AGI 定義、工作的未來、放射科醫師案例
  • 結尾 — 人類意識、死亡與對未來的希望;對台灣之行的期待

修正說明(2 處):

  1. Elon Musk 段落:「個人urgency 感染整個供應鏈」→「Musk 的個人urgency 感染整個供應鏈」(補足主語,避免讀者不清楚「個人」指誰)
  2. Nemotron 3 段落:「自己做模型研究」→「NVIDIA 自己做模型研究」(補足主語)

相關主題