ORA: opML을 통한 검증가능한 ML 플랫폼 (previous HyperOracle)

1. verifiable AI: Decentralized AI에서의 핵심 아이디어 중 하나는 추론 과정에서 사용자가 의도하지 않은 모델이 사용되거나, 잘못된 추론 결과를 반환할 때 이를 검증할 수 있어야한다는 점. 이러한 검증 모델이 없다면 추론 결과를 반환하는 노드는 코스트가 적은 모델을 사용할 수 있고 결과의 신뢰성에 문제가 생김

2. zkML -> opML: zkSync, stakrware 같은 zk롤업들이 영지식 증명을 통해 L2 state 변화를 검증하는 것처럼, zkp는 머신러닝의 추론 과정을 증명하는데 사용될 수 있음. 그러나 zkp의 증명 생성 시간, 하드웨어 코스트 등은 실제 상용화에 큰 장벽이되며, 특히 모델 사이즈가 커질수록 이러한 코스트는 급격히 높아짐. 이러한 문제를 해결하기 위해 ORA팀은 optimistic rollup에서 착안하여 `opML`이라는 새로운 방식을 제안함. opML은 옵티미스틱 롤업과 비슷하게 '결과'에 문제가 생겼을 때, 즉 veirifer들이 결과에 동의하지 않을 때에만 분쟁 프로세스를 진행함. 분쟁에서 지는 측은 금전적인 손실을 입게되고, 이긴 측은 반대로 금전적인 인센티브를 얻음으로써 항상 정상적인 추론 과정을 수행하도록 경제적으로 강제함.

3. 분쟁 프로세스 (Challenge): 에를 들어, 사용자가 X라는 input을 model에게 추론해달라고 요청했을 때 특정 노드가 이에 대한 추론을 시작하여 Y라는 답변을 내놓을 수 있음. 만약, 다른 veifier들이 해당 model과 input을 사용하여 Y라는 답변이 아닌 다른 G라는 답변이 나왔다면 이에 대한 분쟁을 신청함. 분쟁은 컨트랙트에서 진행되며, 컨트랙트에서 실제 모델을 실행시켜 input에 대한 ouput이 Y인지 G인지를 검증함. 하지만 ML 모델을 컨트랙트에서 전부 실행시키는건 비효율적이고 높은 코스트를 유발하기 때문에 온체인에서 수행하는 계산부분을 최소화 시켜야함. 이를 위해 추론 과정의 중간 결과 [y1, y4, y6, ..., yn] 중에 서로 동의하지 않는 부분을 선택하고, 여기서 또 서로 동의하지 않는 부분을 계속해서 선택함으로써 최종적으로 가장 작은 계산 단위에서 서로 동의하지 않는 포인트를 찾아냄 (bisect 과정). 따라서 해당 부분에서만 on-chain 검증을 수행함으로써 온체인 계산에 필요한 코스트를 줄임 (이 부분은 현재의 optimistic rollup의 방식이기도 합니다)

4. PoC: 현재 https://www.ora.io/app/opml/sd 에서 text-to-image 모델인 Stable Diffusion과 LLM 모델인 llama 2에 대해서 테스트를 진행해 볼 수 있습니다. Promt에 원하는 input값을 넣고 generate 요청 TX을 생성할 수 있으며, Finalize 버튼을 통해 결과 값에 대한 검증이 가능합니다.

5. 투자: 세콰이어 중국, 다오5, Foresight Ventures로부터 $3M (pre-seed, news) + 이더리움 그랜츠

*현재 분쟁 프로세스는 Opstack의 cannon library를 사용하고 있으며, 구체적인 모델 별 분쟁 코드는 (opML.sol) 오픈소스화 되지 않은 상태이며 곧 공개한다고 합니다. 나머지 오픈소스는 아래 github에서 찾아 볼 수 있습니다.

site: https://twitter.com/OraProtocol
paper: https://arxiv.org/pdf/2401.17555.pdf
mirror: https://mirror.xyz/orablog.eth/qLBIR_yxmpFJ4dg5p5Sn8Wz46aQDTG1jCW8myeE7zZ8
github: https://github.com/ora-io/opml
eth forum: https://ethresear.ch/t/opml-optimistic-machine-learning-on-blockchain/16234

리서치 저자: @minebuu

#Ora #opML