WWDC 2024 蘋果開獎 20240611， 這集盤點昨天的預測， 說中的有：NPU其實蘋果早就已經提前佈局、本地端的小模型也可以運作、M1的電腦就可以運行小模型，兩樣東西有點錯誤，包括：原以為iPhone 12就可以AI、以及猜測M4的Mac mini可以組成叢集伺服器。
WWDC 2024 短片
嗨我是亞瑟我有三高
今天是2024年6月11號
這一次來講的是
WWDC 2024蘋果開獎
錄這個影片的前一天晚上
我們剛剛開講過蘋果開發者大會
我們這一次來評估一下
真實發生的事情
跟我之前前一天所預估的事情
有哪些不一樣的
亞瑟前一天預測
- NPU早已提前佈局
- 本地端小模型可運作
- 2020後M1電腦皆可AI
- 2020後Ipone12可以AI
- Mac Mini 伺服器叢集
前一天我預測了幾件事情
有些中有些沒中
中的那就是NPU
其實蘋果早就已經提前佈局
這沒問題
再來是本地端的
小模型也可以運作
這個蘋果也確認
另外我也覺得M1的
筆記型電腦或是桌機
它就可以運行小模型
蘋果也說沒問題
但是有兩樣東西有點錯誤
我那時候預估2020年之後
iPhone 12都可以AI
但是蘋果說no不是這樣的
另外我原本也預估
蘋果會公告它Mac mini
可以組成伺服器
但是蘋果也沒有這件事情
我們順便復盤一下
蘋果講了哪些東西
NPU早已佈局
- 蘋果藉由硬體強權
- 提前四年部署AI
- 由NPU提供AI運算
- 算力11 TOPS為底線
- 運作小模型解析語言
早前前面幾年
蘋果借由它的硬體強權
無法選擇的地位
我們消費者只能接受
所以它在四年前
就已經先佈局了AI了
那就是由NPU
這個專門來幫AI做計算的元件
加在CPU的核心裡面
11 TOPS目前來看它剛剛好
可以作為小規模語言模型的運作
它也可以運行一點點的這個
GPT例如3或3.5之類的小模型
所以我們在M1的時候
就有11 TOPS
那M2-16 M3-18
然後到了M4會到38
本地小模型可運作
- 手機電腦端識語言
- 小模型修正辨識結果
- 配合遠端大模型運作
- 蘋果大模型處理硬體功能
- ChatGPT處理額外問答
這一次蘋果發佈了一些
本地小模型可以運作的東西
第一個就是手機或電腦這一端
本地端就可以主動辨識語言
而且可以套用小模型
去修正辨識的效果
因為本地已經進行了
一些小模型的運作
所以得出了一些文字答案
就可以送去遠端給大模型做運作
它有兩種部分可以做進行
第一種當你把資料
送去蘋果那邊的時候
蘋果大模型可以做一些處理
然後它可以回到你的手機上
幫你做一些指令的操作
如果說今天是只是問答
蘋果就會把它導到ChatGBT
去幫你回答新的
額外的問題的回答
所以在蘋果這邊
跟安全有關的蘋果處理好
跟新知識有關的
或跟你瞎掰聊天的
由ChatGBT外部處理
M1電腦可AI
- 2020 M1 AI算力 11TOPS
- 蘋果也宣告可以AI實作
- 目前FinalCut已導入
- 人聲可以快速獨立出來
- GarageBand也可分離樂器
另外一個亞瑟我自己猜對的
當然就是M1電腦可以AI
在2020年出的那個M1
它的AI算力就有11TOPS
就可以做AI實做
而且蘋果也確認
像是我們做剪影片的final cut
已經導入AI了
現在它處理人的聲音的
部分做的特別好
例如說像final cut
現在可以直接把人的聲音
從一段影片中直接提取出來
而把雜音音樂全部給它關掉
這是非常厲害的功能
我們之前要花1萬多塊錢
去買額外的軟體
而且要花非常非常久的時間
才能提取出來
提取的還沒有蘋果好
所以AI的確是蠻有用的
另外GarageBand是
它一個錄音軟體
也可以分離不同的樂器
iPhone15 pro AI
- 亞瑟預判iPhone 12就能AI
- 但蘋果僅開放iPhone15 pro
- M1-AI算力11 TOPS
- i12-AI算力11 TOPS
- i15-AI算力17 TOPS
- 猜測是刻意限制好賣新手機
比較令我跌破眼鏡的是
蘋果說iPhone 15 Pro
之後的機型才能使用AI
這個跟我的判斷不一樣
因為我原本我預判
iPhone 12之後就可以AI了
2020年M1的晶片
它的運算力就是11TOPS
它就可以跑AI了
所以如果相對應來說
照理而言12就可以
iPhone 12就可以跑AI
可是很可惜蘋果要求
要iPhone 15 Pro才行
那我自己感覺是
它是刻意限制手機的AI算力
好讓你強迫你去買新的手機
Mac Mini 伺服器叢集
- 蘋果WWDC沒有提到
- 但沒有和NVIDIA定機器
- 也沒開發大型AI伺服器
- 2024秋天蘋果模型上市
- 應是Ｍ4組成伺服器叢集
最後亞瑟沒有預料到的是
我原本以為他會公開這個東西
但是卻沒有的
那就是Mac mini的伺服器叢集
說實話蘋果本身也沒有
和NVIDIA訂購任何的機器
它也沒有去開發大型的AI服務器
台廠的服務器廠商
也沒有接到蘋果的單
蘋果自己的內部的AI大模型
在2024年的秋天就要上市了
這個時候如果現在才下定
789這三個月
絕對不可能拿到機器的啦
所以換句話說我還是認為
蘋果拿來跑蘋果大模型的機器
應該還是由M4的Mac mini
好多台好多台組成叢集伺服器
做這樣子的處理的
那今天就到這裡~明天見拜
