「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂
以太坊共同創辦人 Vitalik Buterin 新文章《我的科技樂觀主義》(My techno-optimi
這篇文章 「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂 最早出現於 鏈新聞 ABMedia。
以太坊共同創辦人 Vitalik Buterin 新文章《我的科技樂觀主義》(My techno-optimism) 中,闡述儘管他知道科技發展帶來負面影響,但總體來看科技發展的益處更多。他認為 AI 發展的風險是值得關注的,AI 可能毀滅文明。並進一步將矽谷盛行的「e/acc」(有效加速主義),昇華成另一個概念「d/acc」。他認為 21 世紀是人類關鍵的時刻,需要問「正在加速走向什麼?」,以決定未來幾千年命運。
科技進步好處大於壞處
Vitalik Buterin 強力論述了科技進步的益處。他回應了對科技的普遍懷疑,這種懷疑通常源於對環境顧慮,或對貧富差距加大,和權力集中化的恐懼。
他主張,科技的益處,無論是可量化的還是無法量化的,都是實質性的,而且遠超過風險。他提供了科技進步提高預期壽命、減少全球貧困和使日常生活更便利的例子。Vitalik 警告過度糾正和減緩科技進步的危險,指出即使是部分減緩也可能帶來風險。他強調需要考慮哪些特定的科技是有益的,特別是在環境問題上。
Vitalik 認為,儘管人們擔心科技造成貧富差距,但總體而言,不同經濟規模的國家,人類壽命都在延長
Vitalik Buterin 認為人工智慧 (AI) 不僅僅是另一項技術進步,而是代表了一個根本性的轉變。
他將 AI 與其他轉型技術如輪子、印刷機和飛機進行比較,並認識到它們對社會的重大影響。然而,AI 作為一種新型快速發展的智慧,有可能超越人類的心智能力,成為地球上的主導物種。
Vitalik 強調 AI 所帶來的存在風險,他認為超智能 AI 可能導致人類滅絕,一個文明的殘餘也不會存活下來。他指出了「工具趨同」(instrumental convergence) 的概念,即 AI 在追求資源和自我保護時可能威脅到人類。儘管努力使 AI 的目標與人類福祉保持一致,但 AI 在未預見情況下反應的不可預測性仍是一大挑戰。
MIRI 研究員 Rob Bensinger 統計不同人對「人工智慧殺死所有人」或「做出幾乎同樣糟糕的事情」的估計,儘管是基於粗略估計,但相當多人認為機率超過 25%:
實際上根據 2022 年機器學習的研究:「平均而言,研究人員認為人工智慧有 5-10% 的可能性會真正殺死我們所有人」
討論還深入探討了科幻小說中 AI 的描繪,特別是伊恩·班克斯的文化系列。在這些故事中,AI 和人類共存,但被稱為「心智」的 AI 握有實際權力。這種描述引發了關於人類在超智能 AI 主導世界中真實角色的問題,暗示人類可能成為僅僅的「寵物」或棋子。
Vitalik 將這種擔憂延伸到《星艦奇航記》(Star Trek)中描繪的情境,其中 AI 從屬於人類。他認為這種權力動態不穩定且可能是過渡性的,導致未來 AI 作為更智能和更了解情況的存在,自然會掌控一切,使人類成為從屬角色。
總的來說,Vitalik 強調在開發和管理 AI 時需要獨特的謹慎和考慮,因為它有潛力徹底改變人類狀態和社會的整體結構。
這篇文章 「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂 最早出現於 鏈新聞 ABMedia。