Buterin推動Info Finance防止AI治理中的漏洞利用

• Vitalik 警告，天真的 AI 治理容易受到操縱和利用。
• Info finance 創造模型多樣性與快速修正，使 AI 治理更安全。
• 預測市場與抽查有助於保障 AI 決策與資金安全。

Ethereum 聯合創辦人 Vitalik Buterin 警告，天真的 AI 治理模型存在嚴重風險，並提醒依賴 AI 進行資金分配或決策的框架仍容易受到操縱和利用。在他看來，這類系統允許惡意行為者轉移資源，因此他主張採用名為「info finance」的方法，透過市場、人為監督與檢查來建立問責機制並防止濫用。

反對天真 AI 治理的理由

Buterin 強調，天真的 AI 治理風險極高，並補充說，如果用 AI 來分配資金，人們可以用自己選擇的提示來操縱它，獲得過多的資金。他進一步說明，如果模型運作時沒有任何限制或指引，將可能被濫用，鼓勵駭客利用提示欺騙 AI 釋放錯誤資源。

這類漏洞讓 AI 可能陷入危險的循環。此外，Buterin 揭示了系統性弱點，若不加以檢查，將可能被操縱。隱蔽攻擊、提示注入等都是攻擊者輕易利用的例子。

Info Finance 作為替代方案

Buterin 選擇 info finance 取代天真的治理，將其描述為一種「機構設計」方法，結合開放市場競爭與人為驗證。他表示：

作為替代方案，我支持 info finance 方法，在這裡你有一個開放市場，任何人都可以貢獻他們的模型，這些模型可由任何人觸發抽查機制，並由人類陪審團評估。

他指出，Info Finance 允許外部貢獻者整合大型語言模型（LLMs），而不需硬編碼單一系統。這將促進模型多樣性，降低大規模失敗的機率。它也激勵開發者和投機者密切關注缺陷，並在問題發生時迅速行動。

其中一種建議機制涉及預測市場或決策市場。多個模型將相互競爭，參與者可對結果進行押注，從而指示哪些模型最可靠。人類陪審團或審計人員將定期抽查結果，特別是在高風險情境下。

相關閱讀：ETH 國庫激增至120億美元，Vitalik 警告槓桿風險

對加密貨幣與市場的影響

Info finance 依賴分層問責機制，並在開放競爭中尤為突出，允許有缺陷的模型被質疑或替換。人為監督則透過陪審團與審計實現。經濟激勵機制防止操縱，而透明度則讓惡意行為無所遁形。

Buterin 透過將 AI 治理與區塊鏈及交易結合，指出中心化 AI 的缺陷可能會提升對去中心化解決方案的興趣，而這些解決方案多數建立於 Ethereum 之上。此外，像 Render Network 的 RNDR 和 The Graph 的 GRT 等代幣為 AI 運算提供基礎設施，因此可從發展中受益。進一步來說，交易者也可在市場波動時利用 ETH 及這些代幣進行套利。

鏈上數據顯示，與 AI 相關的智能合約有更多 ETH 交易，而 AI 治理問題也可能影響科技股，包括 NVIDIA 和 Microsoft 等公司也參與 AI 投資。總體而言，Buterin 指出 Info Finance 能更快修正錯誤，替換有缺陷的模型並懲罰不法分子。他還補充，陪審團檢查與抽查將防止利用行為擴散。

本文首發於 Cryptotale：Buterin 推動 Info Finance 阻止 AI 治理被利用。