# OPML:乐观机器学习为区块链系统带来新机遇OPML(乐观机器学习)是一种新兴技术,可在区块链系统上实现AI模型的推理和训练。与ZKML相比,OPML具有成本低、效率高的优势。即使在普通PC上,无需GPU也能运行大型语言模型如7B-LLaMA(约26GB)。OPML采用验证游戏机制,类似于Truebit和乐观汇总系统,以确保ML服务的去中心化和可验证性:1. 请求者发起ML服务任务2. 服务器完成任务并将结果提交到链上 3. 验证者检查结果,若发现错误则启动验证游戏4. 智能合约进行最终仲裁## 单阶段验证游戏单阶段精确定位协议的工作原理与计算委托(RDoC)类似。OPML中:- 构建了用于链下执行和链上仲裁的虚拟机(VM)- 实现了专门的轻量级DNN库,提高AI模型推理效率- 使用交叉编译技术将AI模型推理代码编译为VM指令- VM镜像用默克尔树管理,仅将根哈希上传链上测试表明,在PC上可在2秒内完成基本AI模型推理,整个挑战过程可在2分钟内完成。## 多阶段验证游戏 为克服单阶段协议的局限性,提出了多阶段协议扩展:- 仅最后阶段在VM中计算,其他阶段可在本机环境执行- 利用CPU、GPU、TPU甚至并行处理,显著提高性能- 采用默克尔树确保阶段转换的完整性和安全性以LLaMA模型为例的两阶段OPML方法:1. 第二阶段:在计算图上进行验证博弈,可使用多线程CPU或GPU2. 第一阶段:将单个节点计算转换为VM指令## 性能改进多阶段验证框架相比单阶段OPML:- 计算速度提升α倍(α为GPU或并行计算加速比)- Merkle树大小从O(mn)减小到O(m+n)## 一致性与确定性为确保ML结果一致性,OPML采用:1. 定点算法(量化技术):使用固定精度代替浮点数2. 基于软件的浮点库:确保跨平台一致性这些方法有效解决了浮点变量和平台差异带来的挑战,增强了OPML计算的可靠性。OPML虽仍在开发中,但已展现出巨大潜力。它不仅支持模型推理,还适用于训练过程,为区块链系统上的机器学习任务提供了全面解决方案。
OPML技术革新:区块链上实现高效AI模型推理与训练
OPML:乐观机器学习为区块链系统带来新机遇
OPML(乐观机器学习)是一种新兴技术,可在区块链系统上实现AI模型的推理和训练。与ZKML相比,OPML具有成本低、效率高的优势。即使在普通PC上,无需GPU也能运行大型语言模型如7B-LLaMA(约26GB)。
OPML采用验证游戏机制,类似于Truebit和乐观汇总系统,以确保ML服务的去中心化和可验证性:
单阶段验证游戏
单阶段精确定位协议的工作原理与计算委托(RDoC)类似。OPML中:
测试表明,在PC上可在2秒内完成基本AI模型推理,整个挑战过程可在2分钟内完成。
多阶段验证游戏
为克服单阶段协议的局限性,提出了多阶段协议扩展:
以LLaMA模型为例的两阶段OPML方法:
性能改进
多阶段验证框架相比单阶段OPML:
一致性与确定性
为确保ML结果一致性,OPML采用:
这些方法有效解决了浮点变量和平台差异带来的挑战,增强了OPML计算的可靠性。
OPML虽仍在开发中,但已展现出巨大潜力。它不仅支持模型推理,还适用于训练过程,为区块链系统上的机器学习任务提供了全面解决方案。