ETHTaipei 2024 進入第二天，以太坊基金會前研究員 Cathie 針對人工智慧模型與輸出資訊的驗證
這篇文章 ETHTaipei｜區塊鏈如何驗證 AI 資訊的真實性 最早出現於 鏈新聞 ABMedia。
ETHTaipei 2024 進入第二天，以太坊基金會前研究員 Cathie 針對人工智慧模型與輸出資訊的驗證真實性議題，介紹了零知識證明機器學習 (zkML)、詐欺證明機器學習 (opML) 的潛力，也提出從代幣經濟面向提出改善開源模型的開發環境方法，期待降低人工智慧資訊驗證的困難度。
AI 產業兩大困境
如何驗證資訊？
人工智慧 (AI) 目前發展至今，如何證明數據輸入、模型、輸出正確性，對於未來應用越來越重要，例如 OpenAI 被詬病的問題之一即是模型無開源與輸入數據不公開，對於數位創作版權與資訊真實性問題層出不窮，受到外界的許多批評。
(媒體與出版業的危機？紐約時報起訴OpenAI及微軟大規模侵犯版權)
驗證某個私有模型輸出結果的正確性、驗證私有數據的有效性同時保有隱私、如何在不公開私有模型的前提下驗證效能？其實一直是機器學習模型發展的困境。
其實上述問題可以歸結為：
可驗證性
保有輸入的隱私性
保有模型的隱私性
如何確保開源模型收益？
目前傳統的解決方式似乎只有將模型開源才能減緩這個問題，但開源將不利於模型商業化與開發，且仍不能 100% 驗證輸出的正確性。
(轟只顧賺錢，馬斯克起訴OpenAI、Sam Altman，要求回歸開源)
因此不論是直接驗證 AI 資訊的真實性，或是將模型開源後的發展策略，目前 Web2 技術似乎都沒有良好的解決方案。而 Cathie 指出區塊鏈有機會可以幫助到 AI 產業解決這兩個問題。
區塊鏈如何解決 AI 驗證議題
潛在解方：將證明資料上傳至區塊鏈
Cathie 表示已經有不少專案嘗試將機器學習結合區塊鏈與密碼學等技術，以驗證「模型本身與輸入輸出」的資訊正確性。將證明資料上傳至區塊鏈，確保不可串改且所有人皆可存取，提供公平驗證資訊的機制。
目前的技術大致可以分為兩類：
零知識證明機器學習 (zero-knowledge machine learning, zkML)：將機器學習模型相關的資訊生成零知識證明，上鏈至區塊鏈提供所有人驗證。
詐欺證明機器學習 (optimistic machine learning, opML)：將機器學習模型相關的資訊生成詐欺證明，上鏈至區塊鏈提供所有人檢視，發現資訊不實可以提出挑戰。
兩者技術分別有獨特優勢與缺點。
zkML 需要將資訊生成零知識證明，需要耗費較多的資源與成本，因此目前僅能適用於規模較小的模型，例如 Decision forest、nanoGPT、GPT-2 等模型，不過當證明生成完成上鏈後，可以馬上完成驗證提供快速的最終性。
opML 則是將資訊上傳至區塊鏈後，需要等待挑戰期結束後才可以有最終性，也無法對隱私資訊有良好保護，最重要的是驗證安全性也相較 zkML 低。不過 opML 可以將其結合任何大小的模型，例如 Stable Diffusion、LLaMA，可用性更高。
而除了上述兩種方式，Cathie 還提出近期研究，結合兩者優勢的新模式 — 樂觀隱私保護 AI (optimistic privacy-preserving AI, OPP/AI)，可以在提供類似安全性與隱私的設計下降低模型驗證成本。
潛在解方：代幣化開源模型之所有權
除了思考如何在保有模型與數據隱私的情況下驗證的方法之外，區塊鏈也可以提供開源模型的所有權代幣化，提供經濟手段期待看到更多模型開源。
具體上，Cathie 提出兩個 ERC，嘗試解決這個問題：
ERC-7641：收入分潤代幣 (Intrinsic RevShare Token)。可以將對應的資金池中的資金自動分潤至代幣持有者。
ERC-7007：藉由驗證確保模型擁有者銷售模型與共享利益。將支援 zkML 與 opML，在驗證人工智慧生成內容 (AIGC) 的正確性的同時，可以累積給與開發者的收益。
Cathie 將上述機制結合並稱為 IMO (initial model offering) 機制，是未來 ORA 協議的發展重心。
IMO 模型
區塊鏈幫助人工智慧產業發展
Cathie 表示不一定是從 AI 如何幫助區塊鏈出發，現有情況更可能是區塊鏈幫助 AI 驗證資訊真實性。
雖然目前仍有許多技術在開發階段 (例如 opML 發展較短暫)，或者是實作上仍有許多的困難點需要克服 (例如如何讓人們願意在使用開源模型時自願套用分潤模型並付費)，但是卻也讓市場看到 AI 與區塊鏈落地結合的可能性與方向，而不再只是紙上談兵。
這篇文章 ETHTaipei｜區塊鏈如何驗證 AI 資訊的真實性 最早出現於 鏈新聞 ABMedia。
