AIPC誰搞砸 微軟 高通? 20241231，2024 年是 AIPC 的元年，但也可能是最後一年。微軟的硬體定義缺乏實用性，NPU 生態系統建設不足，導致發展陷入瓶頸。反觀蘋果，透過 M1 和 M4 晶片優化本地運算，展現整合實力，可能成為 AIPC 的引領者。
AIPC誰搞砸 微軟 高通 影片
AIPC誰搞砸
- AIPC元年也是最後一年
- 需要實用性而非空洞概念
- 討論 AI PC 背景和應用
- 微軟是 AI PC 失敗的根源
- 蘋果可能領先 AI PC
https://technews.tw/2024/12/24/conclusion-of-the-first-year-of-ai-pc/
最近科技圈有一篇報導提到，2024 年是 AI PC 的元年，但同時也說這可能是它的最後一年。為什麼呢？因為我們需要的是 AI 和 PC 的結合，而不是單純的 AI 加 PC，更不是為了 AI 去買 PC。
這篇報導引起了不少討論，我跟作者的觀點有些相似，但在細節上卻有不同看法。今天就來聊這個話題，包含 AI PC 的背景、NPU 是什麼、目前 NPU 的實際運用例子，以及發展遲緩的原因。最後還會談談顯示卡對 AI PC 的影響，以及對未來投資的看法和展望。
整體來說，我的結論跟作者有些像，對 2024 年的 AI PC 同樣不看好，但我認為失敗的根源在微軟，而蘋果可能會成為未來 AI PC 的引領者。所以今天我們會特別針對微軟、蘋果，以及其他廠商的表現，來做一些探討和分析。
AI PC 元年
- Intel 首次加入 NPU
- 蘋果NPU比 Intel更實用
- 缺乏軟體與應用支撐
- 2024是AIPC的噱頭元年
- 需要實用性而非數字
2024 被稱為 AIPC 的元年，原因是 Intel 第一次在處理器裡加入了 NPU，專門用來處理 AI 運算。這聽起來好像很新，但其實並不是第一次。早在 2015 年，高通就已經在手機晶片中加入了 NPU，而蘋果也在 2020 年的 M1 處理器上加入了 NPU。蘋果的 NPU 效能只有 11 TOPs，但卻很好用，這點我們稍後還會提到。
反觀 Intel 的 PC 處理器，到 2023 年底才開始加入 NPU，2024 年效能才提升到 40 TOPs。可是我覺得這更像是個噱頭。因為硬體再強，如果沒有實際應用場景支撐，這些數字根本沒有用。2024 年的情況恰恰證明了這一點，蘋果的 11 TOPs NPU 反而更實用，這才是真正吊詭的事。
從微軟和 Intel 的角度來看，他們當然希望用「元年」這個概念來推動一個新市場，特別是通過 AI 和硬體的聯動來炒熱氣氛。但問題是，光靠硬體性能堆疊，卻沒有軟體應用配合，是無法真正吸引消費者買單的。市場要的是真正好用的東西，而不是空洞的概念或一堆沒用的硬體數字。
NPU 發展困境
- AI運算多數跑在遠端
- 蘋果本地運算更好用
- 微軟未建立完整AI生態
- 軟體廠商難以調用NPU
- AIPC 發展陷入瓶頸
AIPC 的發展可以說是雷聲大雨點小。今年六月份我拍過一支影片，當時就提到 AIPC 的 AI 運算其實根本沒有跑在本地端，而是把資料送到遠端伺服器處理，再把結果回傳。這樣的情況下，有沒有 AIPC 其實根本沒有差別。
反觀蘋果，他們的 M1 處理器雖然效能比較低，但它有一些可以跑在本地端的應用，使用起來非常流暢也很好用。而微軟的生態呢？NPU 完全沒有被好好利用。像剪片軟體，目前大多數都無法調用本地端的 NPU。
這其實反映了一個更深的問題，那就是微軟和軟體廠商之間的合作是不夠的。AIPC 的生態系統根本沒有建立起來，導致軟體廠商很難真正調用 NPU 的算力。
對小型廠商來說情況更糟，他們幾乎無法負擔額外的技術開發成本來應用 AI。如果微軟無法提供足夠的支持，那麼 AIPC 的發展只會持續陷入瓶頸，無法突破。
硬體定義不重要
- NPU算力標準缺乏實用性
- M1 的 11 TOPs 表現佳
- 語音辨識高算力未顯優勢
- 微軟忽視軟體整合的優化
- 硬體高但軟體不足是空談
微軟定義 AIPC 的 NPU 要有 40 TOPs，但這個數字實際上沒有意義。舉個例子，像 RTX 4090 獨立顯示卡的算力已經超過 1000 TOPs，而蘋果的 M1 NPU 只有 11 TOPs。可是，在實際應用上，M1 卻比這些高算力的硬體更好用。
我舉一個語音辨識的例子來說，比如用 Whisper 模型來跑語音轉文字。如果用 M1 處理 10 分鐘的影片，大約只需要 2 分鐘就能生成字幕，而且準確率超過 95%。但如果用 Intel 的 NPU 跑，同樣的影片可能需要 4 到 5 分鐘，準確率大概只有 85%。即使使用 RTX 4090，速度和 M1 差不多，也是 1 到 2 分鐘，但準確率依然只有 85%。
從使用者的角度來看，這些高標準的 NPU 算力並沒有帶來實際的便利性。微軟在這裡過於在意硬體性能的提升，卻忽略了應用場景的優化。硬體效能再高，如果軟體跟不上，沒有實用性，那麼這些硬體就變成了空談
微軟搞砸AIPC
- 微軟未建立AI生態
- 隱私權處理不佳
- 蘋果的整合體驗佳
- 微軟需建設開發者工具
- 加強安全與隱私保護
綜合上述原因，我認為搞砸 AIPC 的其實是微軟，不是高通，也不是 Intel，更不是蘋果。當初微軟定義了 AIPC，但卻沒有把相關的軟體框架和架構做好，導致本地端的 AI 軟體無法真正被使用。
另一個問題是微軟在隱私權的處理上，沒有讓大家感到信任。很多用戶寧可把資料放在 Google 或蘋果的生態系統裡，也不願交給微軟。這對於本地端 AI 的應用來說，也是一個很大的阻力。
在之前的報導中提到，獨立顯示卡 GPU 是 AI 的關鍵，但我不這麼認為。以剪片的例子來說，蘋果的 M1 在效率和體驗上，都遠勝於 Windows 搭配頂級的 RTX 4090。所以問題不在硬體有多強，而在於整合是否做好。而這部分，微軟明顯沒做好。
如果微軟想要挽回 AIPC 的市場，他們必須從基礎開始做起。這包括 AI 的開發者工具、生態系統的完善、函式庫的支持，還有對隱私的保護。只有這些問題解決了，AIPC 才可能迎來長期的發展。
NPU 進展緩慢
- AI軟體生態圈尚未完善
- 蘋果的 MLX 框架優化
- 微軟資源集中於 Copilot
- 以及大型語言模型
- AIPC生態圈未獲重視
https://www.computerworld.com/article/1611155
為什麼本地端 NPU 相關的軟體進展這麼慢？這部分我問了不少業界人士，得到的答案大多數都指向一個核心問題，就是 AI 的軟體框架還沒有完全搭建好。現在的函式庫、本地 API，以及最基本的底層程式碼都還不完善，這也導致終端應用的 AI 軟體生態圈還是不完整的。
目前來看，蘋果算是比較成功的例子。他們推出了一個新的 MLX 框架，對 CPU 和 NPU 做了深度的優化，可以用很少的算力完成很多事情。不過，蘋果一直都有把事情做到完美才推出的習慣，所以速度慢還算可以理解。但反觀微軟，他們的速度這麼慢就有點奇怪了。
為了解釋這點，我特地問了一些在微軟工作的朋友，他們說，微軟現在的資源主要都集中在 Copilot 和語言模型的開發上。因為這些項目對於商業應用來說，是微軟目前最重要的收入來源。由於人手有限，他們不得不忽略 AIPC 的本地端生態圈建設。
這意味著，AIPC 的進展可能要等到微軟重新調整資源，把重心拉回到 AIPC 上，才有可能看到明顯的改善。
AIPC 的未來
- 蘋果可能成AIPC引領者
- Apple Intelligence平台
- M4 本地運算和AI需求
- AIPC 爆發需辦公自動化
- 小型商業 AI 化需求
https://www.techtarget.com/whatis/definition/Apple-Intelligence
過去微軟一向走在技術發展的前面，但這一次他們可能會被蘋果超越，這其實還挺讓人意外的。我的判斷是，2025 年 AIPC 應該還會繼續發展，但微軟可能會變成後面的追趕者，而蘋果反而會率先推出成熟的 AIPC 應用。
目前來看，蘋果的 AIPC 很可能會整合到 Apple Intelligence 平台裡，包括 iPhone、雲端服務和 Mac 的本地運算。據說蘋果的 M4 晶片已經將近 40 TOPs，這樣的算力足以應付字幕生成、降噪、AI 圖片編輯，甚至一些本地端生成的任務。只要優化得好，速度和效果應該都會很優秀。
未來 AIPC 的應用方向，我認為一開始會從剪輯和影音處理起步，要全面爆發可能還需要等到辦公自動化或小型商業 AI 化的時候。到那時，AIPC 的價值才會被完全體現。這個轉折點很可能會發生在 2025 年。無論是 AI 影片剪輯還是商業應用，未來的需求特別是在商業和教育領域，應該都會非常巨大。
