社會 被AI接管後的憂患 20241101，回到萬維鋼《拐點》的章節解說，重新審視AGI逐漸接管社會後，可能帶來的各種影響與變化。同時結合另一篇OpenAI Sam Altman《Planning for AGI and Beyond》，我會舉一些實例，來支持或挑戰他們的想法。
社會 被AI接管後的憂患 影片
AI接管後的憂患
- 拐點第二章第四節
- AGI逐步接管的社會
- OpenAI Sam Altman
- Planning for AGI and Beyond
- 融合介紹並提出反饋
https://openai.com/index/planning-for-agi-and-beyond
今天我們要討論的內容，回到萬維鋼老師的書《拐點》第二章第四節，這一章節讓我們重新審視AGI，通用人工智慧逐漸接管社會後，可能帶來的各種影響與變化。
書中強調，AGI已經不再只是科幻小說，而是一項逐漸逼近現實的技術，有些專家預測AGI可能在2025就會開始實現。這讓我們開始思考，當AI具備更高智慧、甚至可以掌控我們的社會結構時，究竟會面臨什麼樣的挑戰。
事實上，這一章節是參考了另一篇由OpenAI CEO Sam Altman在2023年發表的文章《Planning for AGI and Beyond》。Altman在文章中強調要逐步推動技術的進步，以便給社會足夠的時間來適應。
然而，我也有一些不一樣的看法，因此藉由這個機會，融合《拐點》的內容和Altman的論述，探討AGI未來的可能發展。接著我會舉一些生活中的實例，來支持或挑戰他們的想法，幫助我們更全面地理解AGI的影響。
AGI與社會適應
- AGI人工通用智慧
- 將促進經濟與科學進步
- 漸進有助於社會適應
- 需時間調整經濟與監管
- 亞瑟-應為分散AI系統
AGI，也就是人工通用智慧，過去也被稱為「強AI」。不同於目前看到的單一用途AI，AGI是一個可以處理多種任務的高智慧系統，簡單來說，就是一個AI可以處理所有的事務。
在書中提到，一旦AGI發展成熟，它將對我們的生活、工作、甚至經濟帶來巨大的提升，可以解決更多問題，並且推動科學的突破。
不過，這種巨大的變革需要一段適應期，讓社會逐步調整。OpenAI的立場是採用「漸進過渡」的方式，慢慢釋出技術，讓社會有時間消化它帶來的好處和挑戰，並對經濟和監管做出必要的調整，減少社會的衝擊。
但對於這些觀點，我有兩點不完全同意的看法。
首先，我認為政府不太可能允許，單一的AI系統掌控太多權力，未來幾年比較可能會出現分散式的AI系統。
舉個自動駕駛的例子，我們會讓每一台車分別運作，而不是讓城市裡的所有車，都由同一個AI系統駕駛控制，因為萬一這個AI出問題，整個城市可能會陷入癱瘓。
同樣的道理，即便未來有強大的AGI系統，我們也不會讓它，完全接管人類社會的方方面面，而是採取分散式的方式，以防一旦出錯可能帶來毀滅性的後果。
此外，我對AGI的時間也有一些懷疑。我不認為AGI能在2025年實現，這聽起來更像是商人畫大餅，AGI的真實實現可能需要20年或更長的時間。
Altman這樣說，無非是為了吸引更多投資者，持續投入資源支持AI的發展。但～ 人類不就是靠願景，一步步實現夢想的嗎！
依賴風險與透明
- AI依賴削弱人類自主
- 缺乏解釋可能影響公平
- 須兼顧透明與安全
- 保障社會理解AI決策
- 亞瑟-老婆信用卡沒過
隨著AI技術的進步，我們可能會越來越依賴它的決策，甚至對AI的判斷產生無條件的信任。但這樣的依賴會不會，讓我們失去對事情的判斷力？
久而久之，我們會不會把AI的判斷視為「命運」？或者無條件的真理？，導致人類的自主性大幅下降？而且，很多時候人類也無法理解AI的判斷依據，這會影響到對公平和透明的認知。
OpenAI特別強調透明性，希望讓大眾理解AI是如何做決策的，這樣才能保障社會的基本權利和公平原則。
不過我認為AI霸權，或許已經敲敲開始，舉我老婆的例子：她最近想辦一張信用卡，結果莫名其妙被拒絕了。她有美國運通白金卡、有房子股票和現金流，也多家銀行的VIP，卻被某家銀行的辦卡系統直接拒絕。最後她只能無奈地說：「好吧，AI說不行就不行吧。」
但如果是傳統人工審核，一定打電話去找銀行客服，甚至要求主管說明原因。但現在是AI說了算，銀行的回應就是「這是AI系統的決定」。
這種情況下，AI的決策不透明，我們也只能被動接受。這樣無法理解AI決策的現象，不就是盲目信賴AI，帶來更大的風險與不透明嗎？OpenAI所提的透明性，在我看來，更多是為了安撫大眾的疑慮，但這樣的風險其實已經正在逐漸發生。
新權威與道德
- AI可能成為社會新權威
- 可能視AI為道德仲裁者
- 避免壟斷與權力集中
- 確保技術符合公眾利益
- 亞瑟-全自動駕駛技術
人工通用智慧的發展，帶來的不僅是科技上的進步，還有可能出現更深層的社會影響，它可能成為新的權威，甚至是道德的仲裁者。
隨著AI在各領域取得優勢，人們可能會逐漸將它視為最高智慧、最公正的判斷力，甚至把它的決策當作真理。書中提到，這讓人聯想到中世紀的教會，當時人們依賴神職人員，來指導生活和道德判斷。
為了防止AGI成為類似的新教會，OpenAI主張必須防止技術被少數公司壟斷，確保技術能夠公平共享，符合社會利益，避免AI成為不透明的權力結構。
然而，這個「新權威」的趨勢，正是從人類對AI的依賴開始的。舉一個全自動駕駛的例子來說，如果車禍發生，不管是我的車撞到別人，還是別人的車撞到我，都與我無關，因為這都是AI的決定。
在這樣的情況下，當AI決策成為馬路上的「真理」， 因為普遍會認為AI開車一定不會錯，接著就會開始配合AI的判斷來行動，甚至會出現「人必須配合AI使用道路」，否則錯就在人。
這樣一來，不就是把原本人類的判斷與仲裁，逐步交給了AI嗎？而這只是在交通上的一個例子，未來在投資、司法審判、合約簽訂，甚至醫療、教育等領域，都可能逐步交由AI判斷，這樣AI就慢慢的成為，人們眼中的最高智慧、新的權威和道德標準。
社會轉型與重塑
- AGI帶來啟蒙運動轉型
- 技術進步加速社會變化
- 挑戰社會結構與價值觀
- 人類重新思考自我定位
- 亞瑟-輔助駕駛改變習慣
書中指出，AGI的出現可能會引發一場快速的社會變革，甚至超越啟蒙運動或工業革命的影響。而這一次的變化速度可能更快，意味著我們的社會結構、價值觀，甚至對自己的理解都可能因此而徹底改變。
AI讓我們重新思考人類的角色與價值，這個時代也會需要一套新的哲學框架，幫助我們在AGI時代裡找到自己的人類定位。當然，這樣的變革有好有壞，有人會受益，也會有人因適應不了而受到影響，所以需要更審慎地面對。
許多人可能沒有特別的感受，但我分享一個親身的例子。
大約六年前，我買了一台配備Level 2輔助駕駛的車。這台車的輔助系統不僅在自動駕駛時才啟動，它在任何時候都會運行。超速的時候、跟車太近的時候、不小心壓線或轉彎時後方有車，它都會警示干預、甚至煞車或控制方向。
剛開這台車時，我算是一個比較莽撞的駕駛，沒有發生大事故，但開車風格比較大膽，這車卻不斷提醒我、干擾我，甚至在不知不覺中「教育」我。
經過幾年，現在的幾乎不再聽到那些警報聲了。換句話說，在AI的指導下，我變成一個更謹慎的駕駛，開車時遵守速限、保持安全距離、不壓線，轉彎打燈，停車時確保不碰到其他車輛。AI在無形中已經重塑了我的駕駛行為，這就是AI對我們行為的影響。
這樣的改變可能帶來很多好處，但也有可能有人無法跟上而被淘汰，例如自動駕駛時代，沒有自駕車又開車莽撞的人，是不是要被罰單罰到爆炸？此刻我們是否真的準備好，迎接AGI帶來的新社會變革了呢？
全球對話與治理
- 全球協作保障公平性
- 政府與機構需共同參與
- 訂定邊界與分配機制
- 應對AGI時代的哲學
- 亞瑟-左派別瞎扯
在書中和OpenAI的文章裡面，談到AGI發展需要全球範圍的協作，確保這項技術能夠真正地公平運用。因此，這個技術不應該由某些國家或公司壟斷，應該讓各國政府、主要機構、大型科技公司和公眾都來參與，共同討論AGI技術的使用邊界和利益分配方式，實現更廣泛的共享。
OpenAI認為需要新的哲學基礎，讓人類在AGI影響下仍然能夠保有主導地位，並確保技術能夠長遠地，服務於全人類的利益。
但說實在的，這些「全球對話」的想法我只當作左派的瞎扯。事實上AGI的投資，從一開始就掌控在少數大型公司手上，技術也會牢牢地被他們掌握，他們不可能真的分享這些成果。
OpenAI現在是最不開放的公司之一，而反而是Meta在開源上做得最多。即便他們願意分享，大多數國家或公司也沒有能力，投資這類龐大的伺服器和設備，所以最終技術還是回到這些科技巨頭上。
未來人類的主導地位，會被這些技術逐步侵蝕。但這種「交出主導權」的過程未必是讓人難過的，就像自動駕駛一樣，我是心甘情願被輔助系統「教育」的。如果未來有全自動駕駛，我也樂意把駕駛權交給AI，因為AI接管後發生的事故，那就不再是我的責任。
這樣的心態未來會出現在許多領域，像是醫療、投資、教育等等。我們將更廣泛地依賴AI，而「人類主導地位」這個概念將越來越模糊。
我認為未來會面臨非常大的挑戰，而這些衝擊是現在無法理解的。就像2019年以前，沒有人會預料到COVID-19，會給世界帶來這麼大的變化。對於未來最好的準備，就是要準備接受未知的震盪。
最後的結論就是，左派別瞎扯，別再說那些安撫大眾的蠢話，我們邊走邊修正就是。
