​Vitalik 對 AGI 與 ASI 感到害怕：人類要優先專注智慧增強工具，不是讓 AI 取代人類

以太坊共同創辦人 Vitalik Buterin 在推特分享對 AGI (通用人工智慧) 與 ASI (人工超級智慧) 的獨特觀點，強調應專注於 AI 工具，而不是追求超級智慧生命體的發展並取代人類，他相當害怕 AGI 和 ASI 過度發展。

AGI 為獨立維持文明的人工智慧

Vitalik 將 AGI 定義為一種相當強大的 AI。他表示，假如所有人類突然消失，而且這個 AI 被安裝到機器人裡，能夠獨立運行並維持整個文明發展。而他補充，這概念將從傳統 AI 的「工具性」進一步升級成一種「自我維繫的生命形式」。

Vitalik 指出，目前的技術無法模擬這樣的情境，我們無法真的測試 AI 是否能在沒有人的情況下維持文明，更難以界定「文明發展」的標準，哪些條件代表文明在繼續運作，而這些問題本身就很複雜，但這可能就是人們可以直接區分 AGI 與普通 AI 的主要辨識來源。

(註：自我維繫的生命形式，意指能夠自行獲取和利用資源來維持生命活動、適應環境變化，並在一定條件下持續存活的生物體或生命系統。)

強調智慧輔助工具的重要性，不是讓 AI 取代人類

Vitalik 對人工超級智慧 (ASI) 的定義則是，當 AI 的進步超越了人類參與所能提供的價值，並且達到完全自主且更高效的階段。他舉例國際象棋在最近十年才真正進入這一階段，AI 的水平已經超越了人類與 AI 合作達成的最佳表現，並坦承 ASI 讓他感到害怕，因為它意味著人類可能真正失去對 AI 的控制。

Vitalik 表示，與其開發超級智慧生命體，不如專注在開發能夠加強人類智慧與能力的工具。他認為，AI 應該輔助人類，而不是取代人類。他認為這樣的發展路線能降低 AI 無法被控制的風險，同時提升整體社會的效率與穩定性。

(生成式 AI 帶來的失業威脅：Amazon 勞工將全面被機器艦隊取代？)