「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂

 以太坊共同創辦人 Vitalik Buterin 新文章《我的科技樂觀主義》(My techno-optimi
這篇文章 「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂 最早出現於 鏈新聞 ABMedia。 

以太坊共同創辦人 Vitalik Buterin 新文章《我的科技樂觀主義》(My techno-optimism) 中，闡述儘管他知道科技發展帶來負面影響，但總體來看科技發展的益處更多。他認為 AI 發展的風險是值得關注的，AI 可能毀滅文明。並進一步將矽谷盛行的「e/acc」(有效加速主義)，昇華成另一個概念「d/acc」。他認為 21 世紀是人類關鍵的時刻，需要問「正在加速走向什麼？」，以決定未來幾千年命運。

科技進步好處大於壞處

Vitalik Buterin 強力論述了科技進步的益處。他回應了對科技的普遍懷疑，這種懷疑通常源於對環境顧慮，或對貧富差距加大，和權力集中化的恐懼。

他主張，科技的益處，無論是可量化的還是無法量化的，都是實質性的，而且遠超過風險。他提供了科技進步提高預期壽命、減少全球貧困和使日常生活更便利的例子。Vitalik 警告過度糾正和減緩科技進步的危險，指出即使是部分減緩也可能帶來風險。他強調需要考慮哪些特定的科技是有益的，特別是在環境問題上。

Vitalik 認為，儘管人們擔心科技造成貧富差距，但總體而言，不同經濟規模的國家，人類壽命都在延長

Vitalik Buterin 認為人工智慧 (AI) 不僅僅是另一項技術進步，而是代表了一個根本性的轉變。

他將 AI 與其他轉型技術如輪子、印刷機和飛機進行比較，並認識到它們對社會的重大影響。然而，AI 作為一種新型快速發展的智慧，有可能超越人類的心智能力，成為地球上的主導物種。

Vitalik 強調 AI 所帶來的存在風險，他認為超智能 AI 可能導致人類滅絕，一個文明的殘餘也不會存活下來。他指出了「工具趨同」(instrumental convergence) 的概念，即 AI 在追求資源和自我保護時可能威脅到人類。儘管努力使 AI 的目標與人類福祉保持一致，但 AI 在未預見情況下反應的不可預測性仍是一大挑戰。

MIRI 研究員 Rob Bensinger 統計不同人對「人工智慧殺死所有人」或「做出幾乎同樣糟糕的事情」的估計，儘管是基於粗略估計，但相當多人認為機率超過 25%：

實際上根據 2022 年機器學習的研究：「平均而言，研究人員認為人工智慧有 5-10% 的可能性會真正殺死我們所有人」

討論還深入探討了科幻小說中 AI 的描繪，特別是伊恩·班克斯的文化系列。在這些故事中，AI 和人類共存，但被稱為「心智」的 AI 握有實際權力。這種描述引發了關於人類在超智能 AI 主導世界中真實角色的問題，暗示人類可能成為僅僅的「寵物」或棋子。

Vitalik 將這種擔憂延伸到《星艦奇航記》(Star Trek)中描繪的情境，其中 AI 從屬於人類。他認為這種權力動態不穩定且可能是過渡性的，導致未來 AI 作為更智能和更了解情況的存在，自然會掌控一切，使人類成為從屬角色。

總的來說，Vitalik 強調在開發和管理 AI 時需要獨特的謹慎和考慮，因為它有潛力徹底改變人類狀態和社會的整體結構。

這篇文章 「AI 可能讓文明連渣都不剩」Vitalik 文章《科技樂觀主義》下對 AI 的擔憂 最早出現於 鏈新聞 ABMedia。