CUDA NVIDIA護城河 夜盤抄底變抄家 20240823，這篇探討 CUDA 技術如何成為 NVIDIA 的核心競爭力，並分析歷年的發展歷程、應用範圍及其對 AI 和圖形運算的影響。CUDA 生態系統的形成護城河的角色，讓競爭對手難以打破這一技術壁壘。
CUDA NVIDIA護城河 影片
CUDA NVIDIA護城河 夜盤抄底變抄家
- 夜盤抄底變抄家
- CUDA 超級護城河
- CUDA 超前部署
- CUDA 簡單介紹
- CUDA 進階應用
- CUDA 宇宙的形成
- CUDA 的護城河
嗨我是亞瑟我有三高
今天來談CUDA
NVIDIA的護城河
在台灣通常我們
不太在乎誰會是AI之王
誰會是AI伺服器之王
因為不管是誰最後都是由台灣代工
台灣製造台灣出貨
但是世界的變化
我們總不可能不知道
總算了解一下
尤其是最近傳出ZT賣給AMD
這難免會影響台灣供應鏈的版圖
所以一定要來了解一下
當然啦股市先來
夜盤抄底變抄家
- 20240823
- 近來總經數據不佳
- 預期聯準會將放鴿
- 老包談話竟然放鷹
- 台指夜盤跌500點
- 做多輸一次/抄底輸兩次
今天是2024年8月23號
我覺得比較特別的是昨天夜盤
最近的總經數據不佳大家都知道
然後大家都預期可能好像經濟會萎縮
所以說股市就整個往下跌一點點
原本普遍預期
這次點準會將會放鴿
會說一些可能未來降息的一些好東西
好讓市場振奮一下
所以這時候我就去買漲
結果沒想到老包談話的時候竟然放鷹派
說他還沒開到足夠的數據
結果昨晚夜盤一跌跌500點
所以一開始的時候做多輸一次
之後這邊抄底輸一次
這邊抄底再輸一次
夜盤抄底變抄家
然後到今天白天的時候開低
到盤中後面之後突然又飆高了
氣死我了
昨天都沒有我的份
我要歸隱山隱
好好做本業啦各位
CUDA 超級護城河
- 高通、Google 英特爾
- 打造oneAPI聯盟
- CUDA 推動 AI 發展
- CUDA 運算基礎技術
- NVIDIA 的核心競爭力
接下來回到重點了那就是這主題
CUDA是超級護城河
最近的新聞不知道大家有沒有發現
高通Google Intel
他們準備好打造一個聯盟
叫做oneAPI聯盟
他們要挑戰NVIDIA的壟斷地位
決定不要讓NVIDIA一直不斷賺下去
可是說句實話
其實CUDA是推動AI發展的重要推手
而且他在這幾年的發展之後
已陸續成為Nvidia的核心競爭力
CUDA是Nvidia的特殊技術
而它的進階應用包含了圖形計算
科學計算計算機等領域
因為CUDA的關係
使得圖形運算變得很快
而且也使得這次的AI加速運算
也變得非常的快
現在大多數的模型
都是建構在CUDA的底層技術上面
來運作來運算來發展的
所以經過這幾年突飛猛進的發展
CUDA的宇宙已經成為一個標準了
眾多廠商軟體商都在使用它
因此CUDA的護城河是非常牢靠的
其他公司如果想挑戰的話
那一定要付出很大的努力很大的代價
才有可能瓜分他一點點的市場
我把相關新聞放在下面
各位可以點進去稍微了解一下
https://udn.com/news/story/6811/7978388
CUDA 超前部署
- 黃仁勳十年前
- 推動 CUDA
- 提高顯示卡成本和效能
- 曾經股價暴跌
其實CUDA的概念在十幾年前就有了
那個時候黃仁勳強行推動CUDA方法
是在一般的顯示層架構上面
再多了一個硬層或是硬層
所以它會使得原本
顯示卡片成本大幅提高
可是如果能妥善運用擴大的技術
那麼當然也可以
讓顯示卡效能大幅提升
而這個瘋狂的嘗試
讓NV的成本大幅增加獲利大幅往下跌
他的股價曾經跌到
只剩下一塊5美金而已
回到當時其實CUDA沒有很成功
但是隨著顯示卡的速度越來越快
CUDA的價值跟效能就顯現出來了
時至今日CUDA已經是不可或缺的平台了
如果想要知道CUDA當時是怎麼產生的
連結一樣附在下面
各位可以了解一下黃仁勳當時的演講
黃仁勳校園演講 : CUDA架構的誕生
https://www.youtube.com/watch?v=V0EvIuL42qs
CUDA 簡單介紹
- GPU 擁有數百小核心
- 傳統需直接命令每個核心
- CUDA 充當工頭
- 了解顯示核心特性
- 管理小核心核心運作
CUDA它本身是應用在顯示卡上的
顯示卡和CPU很不一樣
顯示卡本身是有非常多小核心
在傳統的架構之下
如果你要去調用顯示卡的圖形程式的話
你要分別和小核心下指令
但是有了CUDA的架構之下
CUDA比較像是300個工人的一個工頭
而我只要告訴工頭說我要做什麼
那工頭就會去分配
每個工人要去做的事情
這個道理就像工廠一樣
只有工頭最了解每個工人或工種
他們最適合做什麼事
總經理只要把工作交給工頭
工頭就會去指揮下面的工人
這樣子才能讓工人發揮最大的效用
CUDA就是這樣子的一個地位
為了更好地解釋CUDA的地位
我畫了一張圖讓各位解釋一下
GPU下面就是各種工人們
CUDA就是他的一個工頭
有了CUDA之後
人類只要跟CUDA下指令
就讓CUDA去跟工人對話就好
就不用人類一對一的去和工人下指令
這省了很多事
隨著時代的進步
發展出更多厲害的東西
例如說在CUDA的上面又有記憶體
CUDA也會去管理記憶體
工程師也就不用再去管理記憶體了
現在CUDA就好
後來再厲害一點點呢
CUDA還可以跟CPU溝通
把適合顯示卡重要的東西交給顯示卡
其他的交給CPU
更厲害的事情是等一下後面會提到的
在CUDA跟人類中間
他們又做出了很多的軟體
函式庫應用程式
而這些東西大量的增加了工程師
創作製作或是運算的一個能力
CUDA加這個軟體造成的這個宇宙
這使得他們建構出一個非常強大的護城河
CUDA 進階應用
- CUDA 加速 AI 計算
- 承擔大量小型同步運算
- 分配 CPU 和 GPU 任務
- 提升運算效率
- 統籌記憶體管理
接續剛剛我畫的很好笑的圖片
隨著CUDA的不斷的演進
後來成為一個非常有用的工具
像是在我們處理AI的時候
由於是做大量的矩陣運算
所以可能一次就會收到1萬個或10萬個
那種非常小的預算
如果這麼多的小型運算
交給CPU來處理的話
CPU可是一個慢慢算
或是4核8核也是8個慢慢算要算很久
如果說交給顯示卡算的話
顯示卡片一次也是算300個
那也可能算很久
但把它交給CUDA之後
CUDA這個工頭
就去妥善的分配他們該怎麼處理
例如說適合CPU的他可以交給CPU算
適合顯示卡交給顯示卡算
甚至他要去區分他的權重
或幫他們做分類做分組
以及善用整個顯示卡記憶體
去做共同的運算
甚至還會把不同的計算方式做分類
分別做處理
讓它變得更快速
加快了計算的流程
也就是說CUDA是個非常聰明的工頭
他知道該怎麼分配整個工廠的主要資源
CUDA 宇宙的形成
- 硬體已經過於複雜
- 開發者依賴中介層
- 利用函式庫溝通硬體
- CUDA 成顯卡運算標準
- 多方合作和反饋助力
其實在很久很久很久以前
開發者是有能力
而且也需要硬體直接溝通的
但現在的硬件都已經過於複雜
複雜到需要用各種不同的函式
函式庫軟體或中介層來寫程式
這樣子等於是把硬體溝通的能力
交給更專業的平台
或更專業的軟體韌體去做處理
而CUDA它本身就是可以溝通
顯示卡片上的每一個運算位
而在CUDA的上面
又有其他的函數庫跟應用程式
像剛剛前面有畫的
程式裡面有一些是輝達自行開發的
也有一些是廣大
第三方所開發出來的函式庫
而這些函式庫跟軟體
它就像是更厲害的工頭
或者更厲害的外部工程師
他們可以一起協同CUDA
這個工頭去做運算
有這麼多專家的協助
等於說開發者
不再需要去了解工廠的細節
他只要把他想要的東西丟給工廠
工廠就會把他做出來
這樣子開發者只要專心
在他想要開發的事情上面那就好
CUDA 的護城河
- 對手難以繞過專利障礙
- CUDA 已成為行業標準
- INTEL靠X86吃30年
- NVIDIA 壟斷AI規格
- 預計至少持續十年
所以來到結論的部分
那就是CUDA的護城河
NVIDIA之外廠商
想要聯合起來做一個新的平台
希望能夠溝通所有的AI硬件
未來在做這樣子運算的時候
不要再被NVIDIA壟斷
但說句實話
這個部分可能會有很大的困難呢
CUDA架構已經成為一個標準了
這些配合的廠商
是圍繞著他一起發展出來的
一旦成為標準了之後就很難被推翻
因為大家都靠這個賺錢
沒有人想要犧牲自己的獲利
如果要挑戰CUDA的護城河
第一個要面對的
當然就是NVIDIA的專利保護
CUDA已經發展了十多年
累積了非常多的專利
這個時候你要
繞過專利去發展是非常困難的
再加上CUDA是NVIDIA製作出來的
也就是說只有CUDA
才最了解NVIDIA的硬體
第二個CUDA這一整個生態系
是經過不斷的研發跟演進
甚至還有眾多協力廠商的貢獻跟回饋
持續不斷的修正
才有今天的成果
所以你覺得它這麼好用
那都是因為大家長期的互相幫忙
跟互相協助
如果今天不是CUDA了
那麼是不是要重新訓練
重新學習重新了解
那麼只是花上更多的時間而已
在現在AI競爭跑的快速的時候
誰還有能力停下來
去做最基礎、最簡單的基本建設呢
第三點就是就像當年的Intel一樣
Intel有了X86的標準後
而且那個標準一旦確立了之後
大家都圍繞著它發展
即使Intel再不認真
X86平台也讓它壟斷了30年
維持了30年
換句話說NVIDIA即使再不認真
至少後面也會有個黃金十年吧
所以要打破NVIDIA CUDA的壟斷
是非常困難的事情
最後還是要讚嘆一下
當時黃仁勳的聰明才智
你知道原本的顯示卡
他們在做運算的時候
其實不是像這樣子的架構的
原本應該是使用者就可以
直接控制每一個顯示卡的運算核心
也就是說原本這個綠色細細的線
是原本顯示卡就該有的執行序列
紅色這條線都是
為了CUDA而另外架出來的
這使得NV的顯示卡在很長一段時間
它的成本是高到誇張的
所以天才不是只有聰明而已
天才還有努力天才還有堅持
天才還有他瘋狂的那一面
好了那今天到這邊
下次見~週末愉快拜
