決策-AI的預測+人的判斷 20241107，萬維鋼《拐點》的第三章第一節，探討AI進入個人生活的影響，強調AI應負責預測，人類則保留最終判斷權。透過結合自動判斷門檻，AI能在一定風險下自動介入，避免過度干預與人為疏失。最終，人類才具備預言未來的能力與夢想，這是AI無法取代的。
決策-AI的預測+人的判斷 影片
AI預測人類判斷
- AI預測與評估
- 人類的判斷
- 自動判斷門檻
- 輔助駕駛的實例
- 顯示性偏好
- 人類才有預言能力
這一次我們再次回到《拐點》，萬維鋼老師這本書的第三章第一節。這部分主要在談AI進入個人生活後可能帶來的影響。假如說上一個章節偏向總體經濟的話，那這邊就像是個體經濟，也就是AI帶來的個人層面的影響。
本章一開始就表示，認為應該讓AI負責預測，而人類負責做出最終的判斷。我們決定先介紹一下這些內容，中間再用自動駕駛為例子做解釋，然後再提出我自己的反饋。
AI預測與評估
- AI分析大量數據
- 對比過去相關紀錄
- 提供風險與機率評估
- 自動駕駛/市場趨勢
- 醫療診斷/信用卡欺詐
在談到AI和個人生活的結合時，萬維鋼老師認為應該讓AI來做預測。不過看完內文之後，覺得其實應該是讓AI來做評估會更適合。因為「預測」這個詞比較偏向forecast，會讓人覺得是在談未來的事情，所以我認為應該讓AI負責整體的評估。
這一段的重點在於，用AI來分析大量的數據和趨勢變化，並且和過去的資料做比對，可以藉此得出每件事的風險和發生的機率評估。
AI可以做出大致的判斷和評估，目前這種技術可以廣泛應用在自動駕駛上，這一節裡面也是以自動駕駛的例子，來串起所有的論述，稍後會繼續深入講解。
另外，在投資市場趨勢預估、醫療診斷，或者是信用卡詐欺的偵測上，AI同樣可以進行預估，評估風險的可能性，或者潛在的損失，讓人類進一步判斷是否採取行動。
以自動駕駛為例，AI會透過感測器來偵測四周的狀況，評估前方物體、車速與相對位置，計算是否存在碰撞風險。而且AI還要知道車子的煞車性能，這樣才能判斷最後的煞車時機，來避免碰撞的風險。
剛剛提到的投資和醫療診斷也都可以採用類似的方式，讓AI來做預測和評估。
人類的判斷
- 人類評估AI的預測
- 綜合道德風險經濟社會
- 決定最終採取的行動
- Uber自駕車事故
- 人類設定風險與底線
前面我們提到，可以交由AI來做預測和評估，讓它提供大量數據和過去的經驗，甚至用量化的方式告訴我們，可能發生危險的機率是多少。但在得知了這些報告後，最終的決策還是要交由人類來評估AI的預測。
因為在個人決策或日常生活中，有許多判斷不只是數字的問題。人類在判斷時，還會綜合多方面的因素，包括道德準則、風險接受度、經濟承受度，甚至社會的觀感和價值觀，這些都會影響我們的判斷依據。所以最後的權柄還是要交到人手上，讓人類來決定如何行動。
在這裡繼續用自動駕駛的例子。書中提到一個Uber自駕車的案例，當時Uber的系統發現前方有障礙物，但判斷是人的可能性比較低，所以沒有啟動保護機制。
在那起事故中，Uber選擇不降速繼續前行，但最後偏偏發生了機率很小的事件，前方的確是人，最終撞上導致車禍。
從這個例子可以了解，AI無法完全理解人類的價值觀。AI可能覺得機率小就姑且一試，但在我們人類的世界中，生命是至高無上的。只要有可能會撞到人，就應該減速、煞車或規避處理。
這也回到這一段的主題：人類的判斷。最終還是需要由人類設定風險和底線，決定在什麼情況下可以冒險，什麼情況下一定要踩煞車。如果所有事情都交由AI處理，可能會缺少人性，反而無法滿足我們人類的需求。
自動判斷門檻
- 設定AI自動介入門檻
- 超過風險值發出警報
- 或自動執行干預行動
- 避免AI過度規避風險
- 防範人類過度大意
前一段談到人類要負責最後的判斷，但人類的判斷有時也會出現疏失，這時候就需要AI來做最後的補救。所以在設計AI的時候，要設定一個自動介入的門檻，一個標準的風險值。
當風險超過這個門檻，AI就要對我們發出警報。如果情況到了必須處理的地步，AI就要接管並自動執行干預行動。透過這樣的設定，可以讓AI幫助我們避免過度風險。
同樣的道理，AI的自動介入也因為啟動門檻，可以避免AI過度干預，造成不必要的干擾。為AI設定好自動判斷的門檻之後，一方面能防止人類過度大意，另一方面也能防止AI過度介入而影響效率。
如果以輔助駕駛的例子來看，AI也是扮演類似的角色。當沒有明顯違規超速的時候，AI就不會干預我們；但當我們超速時，AI可能會發出警示。如果超速超過一定範圍，比如超過10公里，AI可能就會自動執行降速或限速的功能。這就是幫AI設定自動介入門檻的一個典型做法。
這個例子同樣可以應用到信用卡或醫療系統上。例如，在信用卡詐欺防範中，當AI發現有風險時可以先發出警告；如果風險非常高，AI則可以自動擋下卡片交易，然後再交由人類進一步確認是否真的有問題。這就是設定自動判斷門檻的好處。
輔助駕駛的實例
- Level2輔助駕駛
- 計算前方撞擊可能
- 最後煞車機會時作動
- 變換車道評估後方
- 撞擊可能則干預駕駛
在這邊我要跳出這個章節的內容，來分享一下自己對輔助駕駛的實際感受。在錄製這段影片的時間點，也就是2024年11月，目前我們最熟悉的AI應用，其實就是Level 2的車輛輔助駕駛功能。
舉我的車子為例，行駛的過程中，它隨時都在計算，和前方車輛的距離、雙方的速度、甚至路況。最後，車子會計算出是否有撞擊的可能性。
如果出現碰撞風險，車子會提醒可能會發生撞擊。但如果情況真的到了會撞上的地步，車子會自動介入油門，甚至煞車踩到底。
因為是車內的AI系統，所以知道在什麼情況下能完全停下來，避免碰到前車。這就是Level 2輔助駕駛的保護機制。
相同的機制也出現在變換車道的時候。行駛時車子隨時注意四周的狀況，特別是在切換車道時，它會偵測後方來車的距離和速度，再分析我的車速和轉彎時間，計算是否有碰撞的可能性。
如果只是有碰撞的可能，車子會跳出警示，提醒後方有車要小心。但如果碰撞的機率已經很高，這時候AI會接管方向盤，直接把車拉回原車道，防止發生嚴重車禍。
我的車子已經六年，這套輔助駕駛系統一直穩定運作。這也顯示出，AI在我們的生活中已經行之有年，不管是過去、現在還是未來，都能持續發揮它類似的輔助功能。
顯示性偏好
- 預測結果換算金錢
- 反應真實的偏好
- 願意付出的代價
- 風險機率x或有損失
- 人類評估合理配置
在這個章節裡，作者稍微岔題了一下，提到了一個經濟學上的專業名詞，叫「顯示性偏好」。雖然有點岔題，但我覺得這概念還是挺合理的。
它的重點在於，用AI來預測風險和狀況時，可以把可能發生的結果轉化成金錢，這樣就能反映出人類對真實世界的偏好，讓我們清楚是否願意付出，這樣的代價去承受風險，或者願不願意付出這樣的代價，去換取某種收益。
以風險的評估為例，AI可以算出風險的發生機率，並結合可能的損失，得出如果做某件事後，可能產生的預期負報酬。
比如說闖紅燈，AI計算出闖紅燈被撞的機率是多少、被撞之後的潛在損失是多少，這樣綜合起來就是闖紅燈的「預估損失」。此時你就可以自己決定，是否願意冒這個風險去闖紅燈。
同樣的道理，也可以用這種方式來評估投資股票、買房，甚至是是否要讀書深造。用這種非常數字化的方式，讓人類可以更合理地評估每個選擇的配置是否值得。
在早期，這種概率和數字的估算是很困難的，但因為有了AI和大數據的加持，再加上各種推論模式，現在可以計算出更精確的數字。
所以AI的導入，大大加強了人類在評估和配置上的能力，讓我們能夠做出更正確的判斷。
人類才有預言能力
- 機器只能分析數據
- 人類才能預測未來
- 領袖擁有對未來的信仰
- 一步步實現看到的願景
- AI無法替代卓越領袖
是的我要跟作者一樣，在這邊岔題一下，而且我要岔得更遠。我認為，AI其實沒有想像中那麼厲害，真正可以預言未來的還是人類。
這本書讀到現在應該瞭解，AI、機器、電腦這些科技，只能分析已經存在的數據，做出評估或推測。但是，只有人類才能真正預測未來。
而我這邊說的預測，不單單是信仰的問題。有些人當然會對未來充滿信仰，相信未來會發生自己所期待的事，但這還不只是信仰，因為人類還有夢想。
人類因為有夢想，才會有追尋未來的動力，而這正是機器所沒有的。例如，台積電的張董事長或NVIDIA的黃仁勳，他們在公司創立的那一刻，其實已經有了清晰的藍圖，甚至可以說有一種信念。他們相信自己能做到，因此一步步去實現他們腦中的願景。
這種能力只有人類能做到，甚至是只有人類中的優秀領袖才能辦到的。也正因為如此，AI無法取代這些卓越領袖的功能。即便AI能替代一般的工作、日常的決策，但AI無法替代領導人做出的深謀遠慮的判斷，以及他們的遠見。
這也是我們研究AI、學習AI，並最終超越AI的核心目的：要讓AI成為我們的工具，讓我們更專注於發揮人類最強的長處和智慧。
