Intel放棄記憶體封裝 AIPC時代又將錯失？Intel近日宣布放棄將記憶體封裝於CPU內的設計。我認為這是典型的「創新者窘境」，錯失了AIPC市場的未來。記憶體封裝是AI運算的關鍵，未來的AIPC必須支援更大的AI模型，Intel應該推動創新，這樣才能真正抓住AI時代的機會。
Intel放棄記憶體封裝 AIPC時代又將錯失？ 影片
Intel放棄記憶體封裝
- Intel放棄記憶體
- 封裝於CPU內的決策
- 市場分析師反映正向
- 亞瑟觀點與市場不同
- 此舉是「創新者的窘境」
https://www.techbang.com/posts/119437-intel-confirmed-that-future-generations-of-processors-will-no
今天要討論Intel最新的決策，他們決定放棄將記憶體，封裝於CPU裡面的設計。我對這個方式採取的態度是～不建議，我反對！
我覺得這其實是很典型的「創新者的窘境」。創新企業會困於過去的成功經驗，在面對新挑戰、新變革的時候，反而變得比較保守，最後選擇維持舊有的東西，但這樣可能會失去新的市場。
很多分析師和媒體對於這次Intel的決策有類似的解釋與報導，但我的看法卻完全相反。接下來，我會針對媒體的報導，再提出我自己不同的看法。
新聞媒體報導
- 記憶體封裝於於CPU
- 導致許多新的問題
- 成本上升/供應鏈複雜
- OEM廠商不滿意
- AIPC應用市場不成熟
https://technews.tw/2024/11/05/why-intel-lunar-lake-failed/
詳細的報導說，Intel宣布未來的處理器，像是Panther Lake和Nova Lake系列，都不會再把記憶體封裝於CPU之內了。會有這樣的改變，是因為目前這代的Lunar Lake，記憶體封裝到CPU裡面後，導致了幾個問題。
第一個問題是成本上升，第二個是供應鏈管理複雜，以及第三，OEM廠商對此非常不滿意。此外，還有第四個原因，那就是AIPC的應用市場不成熟。
相關的報導我有留在下面，分析師郭明錤也幾乎抱持著一模一樣的態度。接下來，我會針對這四項逐一來討論，並指出我認為哪些地方是不妥的部分。
OEM廠商意願低
- 降低OEM廠零件彈性
- 品牌廠無法選擇記憶體
- 影響OEM廠利潤和收入
- 亞瑟：利潤可調價格解決
- 成本結構的影響被誇大
媒體報導認為，記憶體封裝於CPU內部，會降低OEM廠商，在零組件選擇上的彈性。例如，像華碩或技嘉這樣的品牌廠商，在製作Notebook或PC時，無法自由選擇記憶體的廠牌或容量。
而且，也可能會影響到OEM廠商的利潤，因為品牌廠商通常可以透過記憶體的自由配置多賺一筆收入。媒體進一步指出，這樣的情況導致市場，對此設計的接受度不高。
但我個人認為，這其實是無稽之談。
如果OEM廠商無法在記憶體賺一筆，可以直接調整整機售價來解決。更何況，假如Intel所有的CPU都採用，Memory on Package（MOP）的設計，組裝廠就只能接受這樣的標準，這樣一來，也不會有利潤受到影響的說法。
當然，記憶體被封裝於CPU內，記憶體選擇的自由度會大幅降低，這是事實。但如果多準備幾種不同配置的CPU，換CPU就是換記憶體，本質上不會對成本結構，帶來不可解決的壓力。
再者，現代市場對CPU的需求不高，不再需要大量型號的機海策略。因此，我認為OEM廠商，對於這種設計的不滿，並不是不能克服的問題，只是成本與售價結構調整而已。
成本結構不利
- Intel缺乏成本優勢
- 傳聞議價能力弱於蘋果
- 封裝記憶體據傳提高成本
- 亞瑟：整合可降低花費
- 毛利率降低但淨利增加
媒體也指出，Intel在記憶體封裝上缺乏成本優勢。他們認為，Intel與記憶體供應商的議價能力較弱，而且如果記憶體封裝在CPU內，還需要仰賴台積電的代工，進一步推高成本。然而，我認為這個理由相當荒唐且難以想像。
首先，Intel的出貨量遠遠超過蘋果，價能力不可能比蘋果差。封裝記憶體到CPU內後，整體成本不僅不會提高，反而有可能下降。因為記憶體顆粒若是做在外面，還需要額外的PCB板和插槽。
這些額外的材料和成本，完全可以通過記憶體與CPU的整合來節省。這樣的整合設計，其實有助於降低整機成本，讓PC市場的價格變得更具競爭力和親民。
也有一種說法認為，Intel將記憶體封裝到CPU後，會導致帳面上的毛利率下降，這是事實。記憶體晶片的毛利率，可能只有5%到10%。但即便毛利率下降，Intel的營業額和實際利潤卻是提升的。
舉例來說，一顆原本售價100美元的CPU，因為加入記憶體封裝，可能售價可以提高到150美元。即便毛利率稍有下降，實際的總利潤仍然是大幅增加的。
若因為成本或毛利率的考量，放棄這樣的策略，那確實是相當短視的做法。更何況Intel近年來，並不是一間高獲利的公司，它應該專注於賺更多錢，而不是在意毛利率的表象。
AIPC市場不成熟
- AIPC需求未成熟
- 目前市場反應不佳
- 限制MOP設計推廣
- 亞瑟：AI需更大更快記憶體
- 記憶體是AI PC實現的關鍵
接下來要談到最重要的部分，那就是Intel認為AIPC的需求尚未完全成熟，因此客戶不願意為，Lunar Lake這樣的產品買單。這種不佳的市場反應，進一步限制了MOP（Memory on Package）設計的推廣。他們認為短期內難以推動這樣的技術。
但我覺得，這才是Intel最大的問題，這樣使他們掉入了「創新者的窘境」。我們正邁向AI的時代，對記憶體的需求會變得越來越大。無論是運行AI模型還是AI Agent，都需要更高容量、更高速的記憶體。而記憶體封裝到CPU內的設計，正是實現這些需求的關鍵。
透過記憶體封裝，能夠實現「統一記憶體」的架構。在調用AI模型時，這樣的結構可以提供更大、更快速的記憶體支援，提升效率並優化運算方式。傳統的插槽式DRAM，速度會很慢效率很差，無法應對AI運算的需求。
這其實已經在蘋果的M系列晶片，M1、M2，甚至到M4上得到了驗證。現在，蘋果的M系列晶片，已經能夠在本地運行相對較大的語言模型，這正是記憶體封裝，與統一記憶體結構帶來的效果。
如果要讓AIPC真正實現，必須要先讓硬體到位。當前的AI PC硬體無法滿足需求，主因是現有的記憶體容量太小、速度太慢，導致無法支撐大型AI模型的運行。而記憶體封裝到CPU內，正是解決問題的關鍵，可以讓AI模型運行得更順更快、更好更滿。
因此不是等到AIPC市場成熟後，才需要內建記憶體的CPU，而是必須先推出內建記憶體的CPU，才能讓AI PC真正實現。Intel這樣的觀念錯誤，簡直讓人不禁想問：「你到底在想什麼啊？」
AIPC的未來發展
電腦發展證明需更強硬體
AIPC需要更大的記憶體
記憶體封裝CPU提升效能
縮小AI模型非長遠之道
Intel應持封裝記憶體於CPU
要了解AIPC未來的發展，其實只需要回顧過去30年的電腦行業。曾經面臨記憶體不足、硬碟容量不夠、CPU性能不足的情況，當時人們也努力縮小程式、壓縮軟體，甚至讓一個1.35MB軟碟，就能運行圖形作業系統。但最終的結果是，人類並不會屈就於小型化的軟體，而是選擇不斷推動硬體，依靠更強大的算力，來實現更多效能與應用。
換句話說，未來的AIPC需要支援更大的AI模型，從現在來看，光是語言模型就可能需要8B，再加上AI Agent的應用，可能需要額外的8B。即使模型合併瘦身，兩者合計仍然需要十幾B的規模，運行至少也要十幾GB的記憶體，這些記憶體封裝在CPU旁，才能提供足夠的速度和穩定性。
可以做簡單的硬體測試，當使用一張16GB的RTX 4090顯卡，運行語言模型時，它的運行速度非常快。但若拔掉顯卡，用傳統DRAM來運行模型，速度就會顯著降低。而且，問題通常並不是算力不足，而是記憶體的頻寬、延遲和容量限制。
傳統插卡式記憶體設計，無法以多工、多線程的方式，有效支持AI誇張多程序的同時運算。因此，需要全新的硬體架構，以及記憶體封裝技術來適應AI模型的推理需求。
儘管目前硬體受限，被迫縮小AI模型的規模，但未來軟體的發展方向，必然是越來越大、越來越強。這就要求硬體性能也不斷增強，設計越來越整合，運行速度越來越快才行。
Intel已經實現了Lunar Lake的架構，之後應做的是繼續推動它，將其性能提升得更快、更高效、更省電、價格更低，而不是退回到原本的架構。這才是應對未來AI時代的正確策略。
