詳解zkML：邁向可驗證人工智能的未來

隨著ZK 技術的改進，人們將發現幾個具有很強產品市場契合度的zkML 用例。

撰文：Avant Blockchain Capital

編譯：GWEI Research

背景

在過去的幾個月裡，人工智能行業出現了多項突破。 GPT4 和Stable Diffusion 等模型正在改變人們生成軟件和互聯網以及與之交互的方式。

儘管這些新的AI 模型具有令人印象深刻的功能，但一些人仍然擔心AI 的不可預測性和一致性問題。例如，在線服務領域缺乏透明度，其中大部分後端工作由AI 模型運行。驗證這些模型是否以預期的方式運行是一項挑戰。此外，用戶隱私也是一個問題，因為我們提供給模型API 的所有數據都可用於改進AI 或被黑客利用。

ZKML 可能是解決這些問題的新方法。通過將可驗證和無需信任的屬性注入機器學習模型，區塊鍊和ZK 技術可以形成AI 對齊的框架。

什麼是ZKML

本文中的零知識機器學習（ZKML）是指在不暴露模型輸入或模型參數的情況下，使用zkSNARK（一種零知識證明）來證明機器學習推理的正確性。根據隱私信息的不同，ZKML 的用例可以分為以下類型：

公共模型+ 私有數據：

• 隱私保護機器學習：ZKML 可用於在敏感數據上訓練和評估機器學習模型，而無需向任何其他人透露數據。這對於醫療診斷和金融欺詐檢測等應用可能很重要。我們也看到一些玩家在生物特徵數據認證上使用ZKML 來構建人性證明服務。
• 證明：在大多數在線內容由AI 生成的世界中，密碼學可以提供真相的來源。人們正在嘗試使用ZKML 來解決deepfake 問題。

私有模型+ 公共數據：

• 模型真實性：ZKML 可用於確保機器學習模型的一致性。這對於用戶確保模型提供者不會懶惰地使用較便宜的模型或被黑客攻擊可能很重要。

• 去中心化的Kaggle：ZKML 允許數據科學競賽的參與者證明模型在公共測試數據上的準確性，而無需透露訓練中的模型權重

公開模型+ 公開數據：

• 去中心化推理：這種方法主要是利用ZKML 的簡潔特性，將復雜的AI 計算壓縮到類似於ZK rollup 的鏈上證明。這種方法可以將模型服務的成本分配給多個節點。

由於zkSNARK 將成為加密世界的一項非常重要的技術，ZKML 也有可能改變加密領域。通過在智能合約中加入AI 能力，ZKML 可以解鎖更複雜的鏈上應用。這種集成在ZKML 社區中被描述為「賦予區塊鏈眼睛」。

技術瓶頸

然而，ZK-ML 帶來了一些當前必須解決的技術挑戰。

量化：ZKP 在場上工作，但神經網絡在浮點數中訓練。這意味著為了使神經網絡模型zk/blockchain 友好，它需要轉換為具有完整計算跟踪的固定點算術表示。這可能會犧牲模型性能，因為參數的精度較低。

跨語言翻譯：神經網絡AI 模型是用python 和cpp 編寫的，而ZKP 電路需要r​​ust。所以我們需要一個翻譯層來將模型轉換為基於ZKP 的運行時。通常這種類型的翻譯層是模型特定的，很難設計一個通用的。

ZKP 的計算成本：ZKP 的成本基本上會比原來的ML 計算高很多。根據Modulus labs 的實驗，對於一個20M 參數的模型，根據不同的ZK 證明系統，生成證明需要1-5 分鐘以上的時間，內存消耗在20-60GB 左右。

智能的成本— Modulus Labs

現狀

即使面臨這些挑戰，我們也看到ZKML 引起了加密社區的極大興趣，並且有一些優秀的團隊正在探索這一領域。

基礎設施

模型編譯器

由於ZKML 的主要瓶頸是將AI 模型轉換為ZK 電路，一些團隊正在研究ZK 模型編譯器等基礎層。從1 年前的邏輯回歸模型或簡單的CNN 模型開始，該領域已經快速進入更複雜的模型。

EZKL 項目現在支持高達100mm 參數的模型。它使用ONNX 格式和halo2 ZKP 系統。該庫還支持僅提交模型的一部分。

ZKML 庫已經支持GPT2、Bert 和diffusion 模型的ZKP！

ZKVM

ZKML 編譯器也屬於一些更通用的零知識虛擬機領域。

Risc Zero 是一個使用開源RiscV 指令集的zkVM，因此可以支持c++ 和rust 的ZKP。這個zkDTP 項目展示瞭如何將決策樹ML 模型轉換為Rust 並在Risc Zero 上運行。

我們還看到一些團隊正在嘗試通過Startnet（吉薩）和Aleo（零重力）將AI 模型帶到鏈上。

應用

除了基礎設施，其他團隊也開始探索ZKML 的應用

定義：

DeFi 用例的一個示例是AI 驅動的金庫，其中機制由AI 模型而不是固定策略定義。這些策略可以利用鏈上和鏈下數據來預測市場趨勢並執行交易。 ZKML 保證鏈上模型一致。這可以使整個過程自動化且無需信任。 Mondulus Labs 正在構建RockyBot。該團隊訓練了一個鏈上AI 模型來預測ETH 價格，並構建了一個智能合約來自動與該模型進行交易。

其他潛在的DeFi 用例包括AI 支持的DEX 和借貸協議。預言機還可以利用ZKML 提供從鏈下數據生成的新型數據源。

賭博：

Modulus labs 推出了一款基於ZKML 的國際象棋遊戲Leela，所有用戶都可以與一個由ZK 驗證的AI 模型提供支持的機器人一起玩。人工智能能力可以為現有的完全鏈上游戲帶來更多的交互功能。

NFT/ 創作者經濟：

EIP-7007：該EIP 提供了一個接口來使用ZKML 來驗證AI 為NFT 生成的內容是否確實來自具有特定輸入（提示）的特定模型。該標準可以啟用AI 生成的NFT 集合，甚至可以為新型創作者經濟提供動力。

EIP-7007 項目工作流程

身份：

Wordcoin 項目正在提供基於用戶生物識別信息的人性證明解決方案。該團隊正在探索使用ZKML 讓用戶以無需許可的方式生成Iris 代碼。當生成Iris 代碼的算法升級後，用戶可以自行下載模型並生成證明，而無需去Orb 站。

採用的關鍵

考慮到人工智能模型零知識證明的高成本。我們認為ZKML 的採用可以從一些信任成本高的加密本機用例開始。

我們應該考慮的另一個市場是數據隱私非常重要的行業，例如醫療保健行業。為此，還有其他解決方案，如聯邦學習和安全MPC，但ZKML 可以利用區塊鏈的可擴展激勵網絡。

更廣泛地大規模採用ZKML 可能取決於人們失去對現有大型AI 提供商的信任。會不會出現一些事件，提高整個行業的意識，促使用戶考慮可驗證的AI 技術？

總結

ZKML 仍處於早期階段，有許多挑戰需要克服。但隨著ZK 技術的改進，我們認為人們很快就會發現幾個具有很強產品市場契合度的ZKML 用例。這些用例一開始可能看起來很適合。但隨著中心化人工智能的力量越來越大，滲透到每一個行業乃至人類生活中，人們可能會在ZKML 中發現更大的價值。