OPML:使用樂觀方法優化區塊鏈上的機器學習

OPML(Optimistic機器學習)是一種新型技術,可以在區塊鏈系統上進行AI模型的推理和訓練/微調。相比ZKML,OPML具有成本低、效率高的優勢,能爲用戶提供更便捷的ML服務。

OPML的一大特點是參與門檻低。即使是沒有GPU的普通PC,也能運行包含大型語言模型(如26GB大小的7B-LLaMA)在內的OPML。

爲了保證ML服務的去中心化和可驗證共識,OPML採用了驗證遊戲機制,類似於Truebit和Optimistic Rollup系統。其基本流程如下:

1. 請求者發起ML服務任務
2. 服務器完成任務並將結果上鏈
3. 驗證者對結果進行驗證,如有異議則啓動驗證遊戲
4. 通過二分協議精確定位錯誤步驟
5. 在智能合約上進行單步驟仲裁

單階段驗證遊戲

單階段驗證遊戲的核心是精確定位協議,其工作原理類似於計算委托(RDoC)。當多個參與方執行相同程序時,可以通過相互質疑來找出有爭議的步驟,並將其提交給區塊鏈上的智能合約進行仲裁。

OPML的單階段驗證遊戲具有以下特點:

• 構建了鏈下執行和鏈上仲裁的虛擬機(VM),保證了兩者的等效性
• 實現了專門的輕量級DNN庫,提高AI模型推理效率
• 採用交叉編譯技術,將AI模型推理代碼編譯爲VM指令
• 使用默克爾樹管理VM鏡像,只將默克爾根上傳到鏈上

通過二分協議定位爭議步驟後,將其發送至區塊鏈上的仲裁合約。測試表明,在普通PC上,基本AI模型(MNIST分類DNN)的推理可在2秒內完成,整個挑戰過程約2分鍾。

多階段驗證遊戲

單階段驗證遊戲的局限性在於所有計算必須在VM內執行,無法充分利用GPU/TPU加速或並行處理。爲解決這一問題,OPML提出了多階段協議擴展。

多階段協議的核心思想是:只在最後階段在VM中計算,其他階段可在本地環境靈活執行,充分利用CPU、GPU、TPU甚至並行處理能力。這顯著提高了OPML的執行效率,使其接近本地環境的性能水平。

以兩階段(k=2)驗證遊戲爲例:

• 第2階段:狀態轉換對應改變計算上下文的"大指令"
• 第1階段:類似單階段驗證遊戲,狀態轉換對應單個VM微指令

提交者和驗證者首先在第2階段啓動驗證遊戲,定位有爭議的"大指令"。然後進入第1階段,定位有爭議的VM微指令,最後發送至區塊鏈仲裁。

爲確保階段間過渡的完整性和安全性,OPML依賴默克爾樹,從高級階段提取子樹以保證驗證過程的連續性。

多階段OPML在LLaMA模型中的應用

在LLaMA模型中,OPML採用兩階段方法:

1. 將ML/DNN計算過程表示爲計算圖G,每個節點存儲中間計算結果
2. 模型推理即在計算圖上的計算過程,整個圖代表推理狀態
3. 第2階段在計算圖上進行驗證博弈,可利用多線程CPU或GPU
4. 第1階段將單個節點計算轉換爲VM指令,類似單階段協議

當單個節點計算仍然復雜時,可引入更多階段以進一步提高效率。

性能提升分析

假設計算圖有n個節點,每個節點需m條VM微指令,GPU/並行計算加速比爲α:

1. 兩階段OPML比單階段快α倍
2. 兩階段OPML的默克爾樹大小爲O(m+n),顯著小於單階段的O(mn)

多階段設計不僅提高了計算效率,還增強了系統的可擴展性。

一致性與確定性保障

爲確保ML結果的跨平台一致性,OPML採取了兩項關鍵措施:

1. 使用定點算法(量化技術),以固定精度表示和執行計算
2. 採用基於軟件的浮點庫,確保跨平台功能一致性

這些技術有效克服了浮點變量和平台差異帶來的挑戰,增強了OPML計算的完整性和可靠性。

OPML vs ZKML

OPML與ZKML相比具有以下優勢:

• 更低的計算和存儲成本
• 更高的執行效率
• 支持更大規模的模型
• 更易於實現和部署

目前OPML主要聚焦於模型推理,但框架也支持模型訓練,可用於各種機器學習任務。OPML項目仍在積極開發中,歡迎有興趣的開發者參與貢獻。