跳至主要內容

搜尋摘要

財報狗 節目封面
收聽 1:07:46 閱讀約 6 分鐘

560.【達人聊產業】相信潘董!USB、SSD 到 Edge AI 方案商 ft. 群聯潘健成執行長

群聯電子執行長潘健成以自家 AI 落地七月花 150 萬省下五千萬台幣的實證,說明 Flash 記憶體是 AI 推論不可或缺的補充品,並指出 NAND 產能成長遠追不上 AI Token 需求的倍增速度。

在 Apple Podcasts 收聽

本頁摘要由 AI 自動生成,著作權屬原節目創作者;可能存在錯誤或遺漏,建議收聽 原節目《財報狗》 以獲取完整資訊。

重點摘要

  • Flash 記憶體不是 DRAM 的替代品,而是必要的補充品:DRAM 負責運算、Flash 負責儲存,AI 推論產生的大量 KVCache 無法全放進 DRAM,NVIDIA 下一代 Vera Rubin 架構預估每顆 GPU 平均需搭配約 20TB SSD,這是無法省掉的剛需。
  • 群聯電子以自己當白老鼠的方式驗證地端 AI 的 ROI:2026 年 7 月內部花約 150 萬台幣在雲端 AI 服務,經團隊統計發現省下約五千萬,等於一個月就把硬體採購成本收回;6 月單月已節省相當於 114 位工程師的產能,預估 2026 年底可達 500 多位,驗證成功後再以合資(JV)模式向海外複製。
  • NAND 供給幾乎追不上 AI 需求:NAND 製造商(如 Samsung)月產能約 50 萬片 wafer,兩年後頂多長到約 60 萬片,GB 產出成長不超過 1.6 倍;但 AI 使用人數、頻率、內容形式(文字→影像)三個維度相乘,Token 需求是指數成長,兩者差距只會越拉越大。
  • 群聯同步走兩條 AI 商業化路線:地端 AI Data Platform 群聯以合資(JV)模式快速複製海外(目前已與新加坡洽談),群聯提供技術與訓練,當地夥伴負責在地業務,群聯長期靠軟體服務收費;AI PC(On-device)則靠 SSD 出貨量與高毛利獲利,兩條路並行。
  • 潘健成選 AI 應用人才不看成績單,要找「愛打電動的人」——他們習慣在沒有規格書的情況下不斷試錯、找社群、死磕到贏,這種無邊界探索能力正是推廣地端 AI 最需要的,跟成績第一名的人先查規格書再做事的路徑完全不同。

詳細內容

群聯電子的創業起點與 Toshiba 投資

群聯電子由潘健成與團隊在一連串機緣下成立,起始資金僅三千萬台幣,並非主動想創業,而是在原東家切割、外部投資生變後被迫走上自行創業一途。公司成立時確立一個基本宗旨:永遠為「明天的壞天氣」做準備,以最壞情境作為決策基準。

Toshiba 於 2002 年 4 月投資群聯,背景是群聯開發出第一個 USB 隨身碟方案。當時 NAND Flash 是 Toshiba 發明的,Nokia 想用卻不獲授權,只授權給三星;群聯打造 USB 方案讓 Flash 找到了新的應用出口,Toshiba 因此決定投資。

「沒有需求就不會有攻擊」的業務哲學

潘健成把業務開發的核心概括為一句話:「沒有需求就不會有攻擊」。早年花大量時間主動找客戶談產品,毫無成果;後來體認到客戶若沒有需求,上門也是浪費時間,要等需求出現再行動。

但另一面是,需求不是被「創造」出來的,而是「本來就存在、等待被挖掘」。以 KVCache 地端方案為例:三年前(2023 年)他就判斷這個需求會發生,當時所有人都說不可能,群聯仍然投入研發、耐心耕耘,三年後市場驗證了,競爭者開始抄。潘健成說:這顆藥丸我已經吃過,而且證明活到 100 歲了,還需要我去推廣嗎?

群聯自己當 AI 使用者:從 User 到 Provider

群聯電子最初只是想逼內部員工用地端 AI,因為市場上沒有現成方案,就自己開發,開發完自己用,發現效果很好,外面也沒人有,於是從使用者(User)變成開發商(Developer),再變成服務提供商(Provider)。

關鍵數字:

  • 2026 年 6 月單月,群聯透過 AI 工具節省了相當於 114 位工程師的產能
  • 預估 2026 年底可省相當於 500 多位工程師的產能
  • 2026 年 7 月,花了約台幣 150 萬元在雲端 AI 服務,經統計發現省了約五千萬元——等同一個月就把硬體採購成本收回
  • 群聯為此共採購了大量 B300 與 6000Pro(NVIDIA GPU),總計花費台幣約 15 億元

潘健成說,一開始他根本不相信那個五千萬的數字,叫團隊重算了一遍。

Flash 是 AI 推論的「必要品」,不是 DRAM 替代品

潘健成直接說,把 Flash 視為 DRAM 替代品是「不懂基本知識」:DRAM 做運算、Flash 做儲存,功能根本不同,Flash 是 DRAM 的必要補充。AI 推論產生的大量 KVCache 不可能全放進 DRAM;NVIDIA Vera Rubin 架構的規劃是每顆 GPU 平均需搭配約 20TB SSD,這是剛需。

此外,他提到 FMS(Flash Memory Summit,快閃記憶體高峰會)大會上提出的 Direct Storage 架構——讓資料從儲存裝置直達 GPU,繞過 CPU 中轉,可縮短延遲並提升頻寬。這個方向其實群聯四年前就在與 GPU 廠商共同開發,現在已被主流架構採納。

記憶體供給永遠追不上 AI Token 需求

潘健成以三個維度說明需求成長:

  1. 使用人數:2026 年使用 AI 約 10 億人,預估 2028 年成長 2-3 倍
  2. 使用頻率:現在每天用幾次,未來幾十次
  3. 內容形式:現在主要是文字(體積小),未來漫畫、動畫、影像(體積大)

三個因素相乘,Token 需求是 N 倍成長。反觀 NAND 製造商(如 Samsung)的供給,其月產能約 50 萬片 wafer,兩年後頂多長到約 60 萬片,GB 產出成長不超過 1.6 倍。差距只會持續拉大,「除非川普按下某個鍵」,不然記憶體永遠不夠用。

他也指出記憶體毛利率過高(達 80-90%)對產業其實不健康:材料成本一塊錢的東西,最終使用者要付約六十塊,會嚴重墊高 AI 應用的普及成本,壓縮整個產業的健康度。

地端 AI 商業化:合資模式複製海外

群聯電子目前並行推進兩條 AI 商業化路線:

  • 地端 AI Data Platform:群聯自行採購 AI Server 先內部驗證 ROI,再以合資(JV)模式複製到海外。目前群聯已在與新加坡洽談 JV,模式是群聯提供技術與訓練,當地夥伴負責在地業務,省去對方三至五年的摸索期,群聯長期靠軟體服務收費
  • AI PC(On-device):隨著模型小型化,終端 AI PC 也是布局方向,靠 SSD 出貨量與高毛利獲利

潘健成強調,整個演進路徑跟群聯當年從賣 Controller、到賣模組、到賣整機系統的軌跡一致;他以 NVIDIA 二十年前賣 GPU 給華碩做遊戲卡、十年前賣給礦工、現在賣整機系統作為類比。

人才選拔哲學:找愛打電動的人

HR 招募 AI 應用人才不應先看成績單,要找「愛打電動的人」。原因是:成績第一名的人做任何事之前都要先念規格書、查文件,步驟多;打電動的人習慣在沒有邊界、沒有規格書的情況下不斷試錯、找社群、問問題、死磕到贏為止,這種無邊界探索能力正是推廣地端 AI 最需要的特質。潘健成說,他現在要的人是「三天內告訴我這個模型好不好用」,不是坐在辦公室規規矩矩寫程式的人。

股票期權制度與留才挑戰

潘健成認為台灣應比照美國,允許所有上市公司(不只電子業)發行 RSU(限制型股票單位)。目前美國科技公司來台挖角,開出年薪加等額 RSU,若員工年薪 400 萬,外商出 400 萬薪加 400 萬 RSU,台灣公司若只能出現金就要拿出 800 萬,壓力沉重。他希望遊戲規則一致,讓台灣企業能夠持有工具來抵抗挖角,至於要不要用、怎麼用,是各公司自己的事。

長期主義 vs. 市場短期壓力

潘健成對長期主義的立場很清晰:「你相信就買,你不相信你就賣,不要碰。」公司的責任是長期把業務耕耘得越來越好,不迎合市場的短線期待。他說五年前、七年前、三年前講過的判斷,大部分都被驗證了,所以繼續堅持自己的判斷,不需要因市場質疑就妥協改變。

針對市場質疑庫存暴增,他直接以數學回應:群聯 2025 年 12 月底庫存 300 億台幣、2026 年 6 月底 900 億台幣,庫存金額成長三倍,但同期 Flash 價格成長了 8-10 倍;庫存金額成長 3 倍、Flash 漲 8-10 倍,這代表以容量計庫存其實是下降的,根本不是問題。他說這是「簡單數學」。

精選語錄

「沒有需求就不會有攻擊,客戶沒有需要,你就不要去浪費時間,等他有需要再說。」

「七月份團隊花了大概台幣 150 幾萬,可是他們去統計,省了五千多萬……我一個月就把我的成本硬體拿回來了。」

「你相信你就買,你不相信你就賣,就不要碰就好了。公司要做的是長期能夠耕耘的越來越好。」

時間軸

逐字稿無明確時間戳記,以下為主題段落順序:

  • 開場 主持人薇宇、SKY、小鎮介紹潘健成,SKY 分享十幾年前跟隨群聯法說的緣起
  • 段落一 群聯電子創業故事:三千萬起家,被迫創業,Toshiba 2002 年 4 月投資,USB 隨身碟的誕生
  • 段落二 業務哲學:「沒有需求就不會有攻擊」,需求不是被創造而是被挖掘,KVCache 方案三年前(2023 年)就開始耕耘
  • 段落三 群聯 AI 落地數字:6 月省 114 人力、7 月花 150 萬省 5,000 萬、年底目標 500 人力
  • 段落四 Flash vs. DRAM 本質之辯:補充品而非替代品,Vera Rubin 每顆 GPU 需配 20TB SSD,Direct Storage 架構
  • 段落五 NAND 供需分析:Samsung 50 萬片月、成長上限 1.6 倍、AI Token 需求三維倍增,記憶體永遠不夠
  • 段落六 地端 AI 商業化路線:AI Data Platform(合資海外複製)+ AI PC 雙路並進
  • 段落七 人才哲學:找愛打電動的人,不看成績單
  • 段落八 RSU 制度、留才挑戰、長期主義 vs. 市場短期壓力、庫存數學解釋

相關主題