NPU終端AI運算核心 股票期貨綁手中 20240719，為什麼NPU如此重要？因為它是終端AI的運算核心。未來的終端AI都依賴NPU來進行運算。NPU專為AI模組設計，推論運算非常快速，而且節省耗電，低發熱。至少在AI運算上，NPU將完全取代CPU和GPU的使用。
NPU終端AI運算核心 影片
NPU終端AI運算核心
- 股市期貨綁手中
- NPU-終端AI運算核心
- 為何要講NPU？
- CPU是什麼？
- NPU是什麼？
- NPU與CPU的區別
- NPU的應用場景
嗨我是亞瑟我有三高
今天要來講NPU
要講的事情是NPU的重要性
為什麼NPU如此重要呢?
因為它是終端AI的運算核心
股市期貨綁手中
- 盤中發現多方有點假
- 刻意拉低後攻擊
- 攻擊一波後就放棄
- 不會是空方整人吧～
- 股票&期貨綁手中
當然啦先來講一下今天的股市
今天股市非常難得的跌破月均線
上一次跌破應該是兩個月前的事情了
由於前面的操作都不是那麼順
所以今天是非常謹慎的
今天在盤中我就有發現到
多方的攻勢好像有一點假
例如說它準備要拉漲的時候
它會先把它拉低一點然後再拉漲
再來就是拉漲的時候它的攻擊只有一波
攻擊完之後明明可以繼續再攻擊
可是它卻沒有再攻擊,就停下來了
所以我在想說
這十之八九是空方在整人
不是多方是空方在假裝是多方
今天特別的提醒自己不要亂操作
所以期貨也好或股票也好
目前都是綁手當中
期貨目前是空的
股票的話目前all in 聯發科
希望外資高抬貴手不要賣太多謝謝
NPU終端AI運算核心
- 終端設備-手機與電腦
- 靠NPU運行AI
- 專為AI模組設計
- 推論運算快速
- 節省耗電與發熱
接下來要談這次的重點
那就是NPU它是終端AI的核心
在可以見到的未來
我們的手機電腦、電器汽車、交通工具
甚至未來的機器人
其實它都要依賴NPU來進行AI的自動化運作
它是專門為人工智慧的模型而設計的
它能夠在終端上面高效率的運行AI的計算
無論是智能手機還是電腦
NPU都可以在本地進行複雜的AI推論運算
因為它本身是為了AI模型而設計的
所以它可以輕易的提升智能設備運用AI的能力
NPU能夠快速的而且大量的處理AI的數據
比如說像是語音識別、圖像處理
或是自然語言理解這些東西
也就是說它可以用更低的功耗
去完成原本需要非常大型的電腦
或是非常厲害的顯示卡
才能完成的那些AI智能的應用跟處理
而且它是專用的設計
所以還非常的不耗能
更適合使用在我們目前的手機上面
為何要講NPU？
- 未來10年是AI紀元
- 所有電子設備
- 都要導入AI功能
- NPU將迅速普及
- 爆發性成長的產業
為什麼要特別提NPU
那是因為未來十年將會是AI人工智能的時代
而所有的電子設備都將會具備AI的功能
如果說你想要具備AI的功能
你就必須要有NPU的計算能力
隨著AI應用的增多
NPU勢必會越來越普及
而成為我們目前可想而知的電子設備中的標配
而這個技術的快速發展
將會為這個產業帶來爆發性的成長
而且它也是未來科技產業中新的一個增長點
CPU是什麼？
- 中央處理器
- 用於多功能計算
- 近年已發展成熟
- 依順序執行命令
- 八核也僅能八程序
要了解NPU之前
我們先來談一談CPU
CPU大家就比較熟悉了
CPU就是所謂的中央處理器
它是一種多用途的多功能處理單元
CPU可以做各種類型的運算
不管從簡單的到複雜的
甚至邏輯、AI、圖像計算其實都可以
但是它的設計是求廣不求精
所以什麼都可以的情況之下
畢竟在某些專業領域中它就沒有這麼的厲害
經過這麼多年的發展
其實CPU的技術已經非常成熟了
各位的手機、電腦其實都是屬於
CPU算力過高的狀況
但是CPU有它本身設計上的限制
CPU在執行命令的時候是一條一條
一個一個一個的分筆執行
一步一步的慢慢來做
也就是說如果你有128個東西要執行的話
它會從第一個開始執行
執行完了就去下一個
像現在CPU有時候會有8個核心
還可以開個什麼超執行序
這樣就有16個可以一起執行
可是問題是頂多也就執行16個執行序而已
因為CPU的這種限制
使得它在圖形上面的處理就沒這麼厲害
同樣的AI也是
AI有非常多的神經運算
CPU計算的時候能力也會很有限
我在這邊畫了一張圖來做個解釋
也就是說假設這每一格子
是一個要運算的東西
在AI的運算上面
我們很可能一次就要計算128個結果
因為所有的參數都要互相連結
假設你是比較厲害的桌機
你有8個核心
那你一次也只能執行8個點而已
假設你真的有什麼超核心執行序
那你一次也只能執行16個點而已
這一面的東西要執行的話
它需要執行很久才可以把它執行完
所以光是排隊就可以把時間排到沒有
這是CPU目前執行上面比較困難的部分
NPU是什麼？
- 神經處理器
- 專門為人工智能設計
- 包含大量小型核心
- 可同時執行眾多程序
- 矩陣運算和卷積操作
接下來我們來講NPU
NPU就是神經處理單元
是專門為了人工智慧而設計的特殊處理器
它本身的目的就是來高速的去推論
神經網路中複雜的各種關聯
為什麼可以做呢
那是因為NPU裡面包含了大量的小核心
非常非常多小核心
而且它的設計是一起執行
所以它在算AI的時候
是可以整顆CPU全數開起來算的
實現了類似像我們人腦一樣
各種腦細胞一起運算
一起想事情的一個運算模式
而模擬出我們所謂的人工智能
因為這個特性
使得NPU特別適合做矩陣運算跟卷積操作
之後會找機會拍影片和大家解釋
什麼是矩陣運算跟卷積操作
請期待
我們現在回到了
剛剛所謂的128個東西需要運算的狀況
那麼它會一次全部開起來做運算
NPU裡面每一個執行單元
都沒有這麼聰明沒有這麼快
但是神經運算或AI運算
它也不需要每個執行序都這麼聰明
當AI在判斷事情在推理的時候
就可以使用這樣子的設備
一次把所有小核心全部開起來做計算
而這樣子做不但更省電而且效率更快
更能夠達成終端設備的AI推論
NPU與CPU的區別
- 目標不同-AI/通用
- 運算不同-並行/依序
- 功耗不同-省電/耗能
- 記憶體-模型/命令
- 硬體結構上明顯不同
接下來我們來簡單區分一下NPU跟CPU的區別
最重要的重點就是它的目標不同
NPU是專為AI運算而產生
而CPU則是為了通用運算而做設計的
第二個是它們的運算方式不一樣
NPU採取的方式是所謂的並行計算
也就是它所有的小核心可以一次開起來一起算
但是CPU它是依照執行序
一個一個一個去執行命令的
它的效率比較低
可是它每一個執行序可以進行極為龐大複雜的運算
第三個是功耗的不同
NPU是特別為了AI模型的計算來做設計的
所以它在算AI的時候特別省電
但是CPU因為是通用設計
所以它等於是拿一個大車做一個小事一樣
這樣子算AI的時候就沒有這麼快
而且會非常的耗能
再一個根本上的不同就是記憶體的使用不同了
在做AI運算的時候需要把模型導進來
而通常模型都有一定的體量
例如我現在常用的語音辨識模型
它基本上就有個3G、4G的大小
所以為了要速度快而且NPU可以即時取用
它本身會把記憶體就直接放在處理器的旁邊
好讓它可以即時取用
但是傳統的CPU它不需要這麼大的記憶體來做暫存
所以傳統的CPU通常只會有幾MB的暫存記憶體而已
而那個記憶體很快、很小
通常是直接包在了CPU裡面
電腦本身再額外裝什麼DRAM
DDR4、DDR5那樣的記憶體來做輔助
為了AI所產生的處理器
它的記憶體可能是跟處理器合在一起的
傳統電腦的CPU它的記憶體是額外再加裝的
這個部分會產生硬體上截然明顯不同的區別
NPU的應用場景
- 語音識別與降噪
- 圖像辨識編輯
- 即時影像分析
- 交通自動駕駛
- 機器人自動化
接下來結論的部分我們就要談
NPU的應用場景
目前NPU最厲害的功能
大概是語音識別跟降噪功能
語音識別我前面的集數已經示範過了
後面會再找機會示範
目前AI做人聲提取是提取得非常厲害的
另外NPU在圖像識別跟編輯
也非常的有用而且非常重要
這也是AI去理解我們要如何看世界
或是我們要如何操作手機
一個重要的判斷依據
未來會有的是即時影像分析
這是引爆未來行業重要的功能
特別是用在交通自動化
或是機器人自動化上面
沒有這些東西我們就無法讓駕駛自動化
或是機器人自動執行我們要的命令
為什麼要提NPU
因為它代表著新的生意機會
上面所提到的每一件事情
其實都是一個待開發的大商機
它都可以撼動目前所有的行業基準
所以有新生意我們才知道該投資哪裡
知道投資哪裡才有錢賺
好了今天節目到這邊
下次見
