NVIDIA GTC 2025 Dynamo FP4 DGX Spark 20250321，NVIDIA GTC 2025 帶來三大亮點。Dynamo 讓 GPU 可靈活切換推理與訓練，FP4 提升 AI 推理效能且節省功耗，而 DGX Spark 則讓中小企業也能擁有 AI。
NVIDIA GTC 2025 Dynamo FP4 DGX Spark 影片
今天我們來談NVIDIA GTC
2025帶來的三大亮點
分別是Dynamo、FP4
以及DGX Spark
我覺得這個才是媒體的漏網之魚
我是亞瑟我有三高
每週一到每個禮拜五
我都會分享學到的點點滴滴
今天我們就來看一下
輝達年度大會可能漏掉的重要訊息
GTC 2025
- NVIDIA重大技術突破
- Dynamo FP4
- DGX Spark 推動普及
- AI 運算進入中小企業
- 終端 AI 即將迎來普及
https://www.tomsguide.com/computing/live/nvidia-gtc-2025-live
每一年 NVIDIA 的 GTC，都是科技界的大事。這次大會本來我沒打算特別講，因為媒體一定會報，講了好像也沒什麼太大意義。
不過 GTC 開了幾天後，我發現大家好像都在講那些「做夢的東西」，什麼量子科技啊、機器人啊……但真正重要、而且馬上就要發生的事，反而沒什麼人在提。
所以，今天我特別要打出三個關鍵字：Dynamo、FP4，還有 DGX Spark。
這三項技術提升 AI 推理的效率，更推動 AI 的落地和普及。尤其是 DGX Spark，它會讓 AI 運算力真正進入到每一個中小企業，甚至開發者的桌面上。
這次 GTC 2025 最重要的東西，是 AI 正在從雲端走向終端，而且只差最後那一小步了。
更重要的是，DGX Spark 還授權給 宏碁 來生產，很快的真的很快的，大家就能擁有屬於自己的 AI 超級電腦，只要 三千美金，就能加入 AI 俱樂部了。
Dynamo 是什麼？
- 讓 GPU 可切換推理
- 解決 ASIC 晶片限制
- GPU可執行多種AI應用
- 不需另購ASIC節省成本
- AI 競爭轉向推理效率
Dynamo 是 NVIDIA 在 GTC 2025 ，推出的開源軟體，專為 AI 模型擴展 和 數據中心配置 設計。它能讓原本用來訓練 AI 模型的 GPU，透過 Dynamo 直接切換成推理設備，大幅提升資產的活性。
過去如果要讓 AI 模型，有效率的執行推理工作，，通常會使用 ASIC 晶片。ASIC 雖然效能很強，但只針對特定演算法設計，演算法一變就得重做，會耗費很多時間跟成本。
Dynamo 的出現，解決了這個問題。它像是一座橋樑，讓 GPU 不只能跑訓練，還能切換成推理設備。
企業未來不需要額外添購 ASIC 晶片，只要加上 Dynamo，就能達到接近 ASIC 的推理效能，可以省下大量成本。
換句話說AI 的競爭，正從「模型訓練」延伸到「推理效率」的新戰場。
Dynamo 實際應用
- 軟體提升 GPU 靈活性
- GPU 可訓練也能執行推理
- 企業降低硬體投資成本
- 快速應對演算法變化
- GPU 更彈性更具價值
https://ithome.com.tw/news/167943
Dynamo 的最大優勢，就是能大幅提升 GPU 的靈活性，讓原本用來訓練 AI 模型的設備，隨時切換成 AI 推理設備。
像是某家公司買了一批 GPU 伺服器，專門用來訓練大型語言模型。模型訓練完後，這批伺服器本來可能就閒置了。
但有了 Dynamo，這批 GPU 伺服器立刻就能切換成推理設備，執行各種 AI 應用。像是語音辨識、生成式 AI、廣告推薦、圖片辨識或圖片生成等。
過去 AI 訓練和 AI 推理，通常需要兩種不同的硬體設備，但現在只要一套 GPU，再搭配 Dynamo，就能同時處理兩種需求。
簡單來說，Dynamo 讓 GPU 更有彈性，企業也能更快應對演算法的變化，讓運算中心變得更便宜、更簡單。
套句老黃去年說的話：「買越多，省越多。」
FP4低精度運算
- FP4 提升AI推理效率
- 比上一代快 1.5 倍
- 適合小型設備運算
- FP4 推動AI終端應用
- 降低推論功耗和成本
https://www.nvidia.com/zh-tw/data-center/technologies/blackwell-architecture
FP4 是 NVIDIA 2025推出，低精度浮點運算技術。簡單來說就是一種 4-bit 浮點數據格式，專門用來加速 AI 推理。
過去 AI 模型的訓練，大多使用 FP32來確保精度，但這也導致計算量龐大、資源消耗驚人。
後來，為了平衡精度與效率，業界推出了 FP16「半精度」來降低負擔，接著為再提升推理速度，又出現了 FP8 和 FP4。
這次 NVIDIA 特別針對 FP4 進行了優化，讓它的推理效能比上一代提升了 1.5 倍，同時計算資源和功耗也大幅降低。
FP4 讓 AI 的推理，不再依賴大型機房或高階 GPU，現在就連小型設備也能負擔 AI 任務。
這代表 AI 技術正逐步從資料中心，擴展到更多日常的終端應用中。
精度運算的比較
- FP32 精度高計算量龐大
- FP16 兼顧精度與效率
- FP8 FP4 提升推理速度
- FP4 效能智力達最佳平衡
- 手機電腦皆可執行FP4
https://hackmd.io/@OmniXRI-Jack/BJQhvD2AT
FP4 的出現，讓大家開始注意到不同精度格式，對 AI 推理的影響。
過去 AI 模型的訓練大多使用 FP32，雖然精度高，但計算量大、資源消耗驚人。後來為了平衡效率，業界推出了 FP16，減少計算量又保有一定的精度，這也是目前伺服器端 AI 推理的主流選擇。
為了進一步降低推理成本，後來又推出了 FP8 和 FP4，將數據縮減到 4 位元，推理速度更快，功耗也更低。
根據測試，FP4、FP8、FP16 在語言模型推理上的「智力」表現其實差異不大，使用起來感受差不多。但如果降到 FP3，模型的輸出品質就會明顯變差。
因此，FP4 算是目前效能、成本、和模型表現的最佳平衡點，也讓一般家用電腦，甚至手機也能跑語言模型。
像我之前做的本地端語言模型測試，基本上都是用 FP4 來處理的。
DGX Spark
- 平價版售價 2999 美元
- GB10晶片 128GB 記憶體
- 每秒 1000 TOPS AI 算力
- 機身小巧媲美 Mac Mini
- AI 推理模型開發新門檻
https://www.nvidia.com/en-us/products/workstations/dgx-spark
DGX Spark 是 NVIDIA 推出的「平價版 AI 超級電腦」，專為個人開發者和小企業設計，售價僅 3,999 美元。
它搭載與 聯發科 合作的 GB10 晶片，配備 128GB 記憶體 和 4TB SSD。
更讓人驚訝的是，它的 AI 運算能力竟然高達每秒 1,000 TOPS，這樣的性能已經媲美許多專業伺服器。再加上 128GB 記憶體，整體效能足以應付 AI 模型的推理和開發。
更意外的是，DGX Spark 的機身大小竟然跟 Mac Mini 差不多，對於小型企業、開發者，甚至學生來說，DGX Spark 就是一台「入門級 AI 工廠」。
它的出現，將 AI 推理和模型開發的門檻大幅降低，讓 AI 應用將走進每一個人的桌面。這也意味著，終端 AI 的時代，就只差實際出貨這一小步了。
Spark需求強勁
- DGX Acer 版僅 2999
- 支援串接兩台擴展算力
- 性能超越 M3 Ultra
- DGX Spark更便宜實用
- AI 開發研究者最佳選擇
https://marketplace.nvidia.com/en-us/reservations/
DGX Spark 系列已經開放預購了。NVIDIA 原廠版 4TB SSD，售價 3,999 美元；而 Acer 版 1TB SSD，價格只要 2,999 美元。
更棒的是，DGX Spark 系列還支援專屬的連線技術，可以直接串接兩台 DGX Spark，算力和記憶體立刻翻倍。
這點直接打中了 Apple M3 Ultra 的市場。我原本購物車裡，就放了兩台 M3 Ultra，一台是 96GB 13 萬台幣，另一台是 512GB 33 萬台幣。
老婆已經批准了購買預算，但我一直猶豫不決，遲遲下不了手。結果 DGX Spark 的價格一出來，立馬就把蘋果的訂單給刪了。
對於 AI 開發者、研究人員、小企業主，甚至像我這種需要 RAG 模型的一般人來說，DGX Spark 絕對是一種福音。
就算不拿來做 AI 開發，光是跑 RAG 模型、寫程式、分析股票，這些現在已經成熟的應用，DGX Spark 就已經非常值得了。
所以，我猜這一波 DGX Spark 應該會賣到缺貨。
三者結合的時代
- Dynamo 提升GPU應用
- FP4 降低 AI 推理成本
- DGX Spark 普及 AI 算力
- AI 從機房走向桌面設備
- 終端應用浪潮快速來臨
https://www.businessinsider.com/nvidia-gtc-keynote-live-jensen-huang-rubin-blackwell-ultra-2025-3
NVIDIA 這次在 GTC 2025 推出的 Dynamo、FP4、DGX Spark，正是 AI 普及化的關鍵。
Dynamo 提供軟體層面的優化，讓 GPU 不再受限於特定用途，隨時切換成 AI 推論、模型開發等功能，讓硬體發揮最大價值。
FP4 則提升了 AI 推論的計算效率，降低硬體成本，推動 AI 進入更多日常設備。
DGX Spark 則打破傳統 AI 運算的高門檻，讓個人、小型企業也能享受到強大的 AI 算力。
三者結合，等於是把 AI 從大型機房，帶到每個人的桌面，甚至是行動裝置上。
這不是只有技術的突破而已，這更象徵者 AI 的主戰場，即將從雲端伺服器大廠，進入終端的設備中。
AI終端投資機會
- NVIDIA 台積電基本受惠
- 聯發科因 DGX Spark 受益
- 華碩宏碁獲 DGX 授權生產
- AI 終端市場將爆發成長
- 代工廠與筆電業者獲利
https://www.ctee.com.tw/news/20250319700571-430501
過去 AI 的發展，重心都在資料中心和雲端運算，所以過去幾年，市場焦點一直放在伺服器代工廠，尤其是七大代工廠，營收和股價都漲了又漲。
不過隨著雲端業者的硬體投資趨於飽和，市場的焦點正慢慢轉向 終端消費市場。
最基本的，當然還是要關注 NVIDIA 和 台積電。
NVIDIA 是 AI 技術的核心，無論是 DGX Spark、FP4、Dynamo，通通離不開它的 GPU。
台積電 NVIDIA 最重要的代工夥伴，隨著 AI 應用越來越普及，台積電的業績自然會持續成長。
因為 DGX Spark 搭載了 聯發科 GB10 晶片，聯發科自然會是這一波可能爆發的重點股。
此外，華碩 和 宏碁 已確認獲得 DGX Spark 的生產授權，未來隨著 DGX Spark 的出貨成長，這兩家台灣廠商的營收也有望大幅提升。
除了這些核心廠商，隨著 AI 終端市場逐漸擴展，相關的代工廠也有機會吃到紅利。
AI 終端時代已經逐漸成形，這一波新的市場機會，可能會比過去幾年的資料中心浪潮更廣、更深、更快。
那今天就到這邊我們之後
如果有新的進展再和各位分享
我是亞瑟感謝各位的觀賞
明天見～恩～下週見～拜拜
