全球AI算力短缺 輝達:仰賴台灣生態系擴增產能
NQ 評分
0/100
N1 內容完整性
0.9
AI 摘要(NQ 加工版)
輝達AI與資料中心GPU產品行銷總監納拉辛漢於6月3日在GTC Taipei表示,全球AI算力需求遠超供給,新一代Vera Rubin架構已全面量產,需台灣生態系協助擴產。
AI 分析
常見問題
- Q: 輝達為何需要台灣生態系?
- A: 輝達AI與資料中心GPU產品行銷總監納拉辛漢指出,全球AI算力需求遠超過目前能提供的運算總量,因此需要台灣生態系協助將產能擴增到量產階段,以供應全球的AI工廠。
- Q: Vera Rubin平台相較Blackwell架構有哪些改進?
- A: Vera Rubin平台大幅簡化設計,過去在Blackwell架構上需要花費2小時的製造步驟,現在能以20倍的速度完成,大幅提升生產吞吐量。
- Q: Vera Rubin平台如何因應代理式AI(Agentic AI)需求?
- A: 輝達在新平台配備搭載88個核心的獨立中央處理器(CPU),專門處理工具調用與答案驗證,並將回饋即時傳送到繪圖處理器(GPU),形成更高效的算力協同體系。
- Q: 納拉辛漢如何解讀黃仁勳「買越多、賺越多」的名言?
- A: 納拉辛漢分析,這兩句話代表營收、獲利與降低成本的綜合效益。對AI工廠而言,需要Vera Rubin平台實現最低的Token成本,同時需要最高的Token吞吐量。
- Q: 目前市場上AI算力的供需狀況如何?
- A: 納拉辛漢表示,任何手上有Token可以販售的人,都處於供不應求的狀態,全球對AI算力的需求已遠遠超過目前能提供的運算總量。