Kuzco, 다음주 펀드레이징 공개 및 리브랜딩 예정

- Kuzco는 LLM 추론을 위한 탈중앙화 GPU cluster로 프로젝트가 시작된지 6개월이 지남
- 최근 펀드레이징을 완료했으며, 다음주 새로운 로드맵과 함께 펀드레이징 공개, 리브랜딩 예정

* 현재 제가 GPU를 통해 LLM 추론하고, 포인트를 파밍하고 있는 프로젝트입니다. 소문으로는 괜찮은 VC가 붙었다던데 앞으로도 지금처럼 열심히 일했으면 좋겠네요

#Kuzco

Kuzco, LLM 추론의 마켓플레이스인 inference.net 베타 런칭

https://x.com/inference_net/status/1851338085696749939

- Kuzco는 inference.net의 추론 수행을 위한 개발 환경으로서 동작
- inference.net은 together.ai와 groq같은 LLM 추론 서비스에 비해 50%-90% 저렴한 비용으로 LLM 추론을 제공

#Kuzco #inferenceNet

쿠즈코 시즌2 시작

https://kuzco.xyz/

간단 노드 세팅법

1. vast.ai 같은 플랫폼에서 3060 이상 그래픽카드 선택해서 배포. 배포 시 용량은 80GB 정도, 이미지는 cuda:12.0.1-devel-ubuntu20.04 선택

2. ssh 연결을 통해 접속하고, curl -fsSL https://kuzco.xyz/install.sh | sh 입력

3. kuzco init 입력한 후에 이메일 및 비밀번호 입력 (사이트에서 미리 가입 필요). worker 이름을 정해서 입력하면 끝

4. kuzco 사이트의 Wokers 탭에서 (https://kuzco.xyz/dashboard/workers) 노드의 현재 상태와 생성 포인트를 확인할 수 있음

*TGE는 내년 1분기 말 예정인 것 같지만 언제든 변경될 수 있다는 점을 고려하세요

#Kuzco

Kuzco 6일차 진행 상황

- 현재 약 30대의 3090 및 4090 가동 중
- 하루 비용 $140불 정도
- 현재 쌓인 포인트는 337M로 리더보드 약 12등
- 가끔 서버가 불안정해 추론 요청이 안들어올 때가 있는데, 시간이 지나면 저절로 복구됨
- 불안정한 서버는 단점이지만, worker가 계속해서 늘어나고 있고 스케일링을 위해 노력하고있다니 추후 괜찮아지겠지라고 생각 중
- 지금 당장은 가성비가 3060이 좋지만, 곧 GPU의 램이 24기가는 되야 돌릴 수 있는 모델이 나올것이기 때문에 추후엔 3060의 가성비가 떨어질수도

*꿀팁: vast.ai 같은 플랫폼 대한항공 카드로 결제 시 마일리지를 빠르게 쌓을 수 있다..

#Kuzco

멀티코인과 a16z Crypto의 투자를 받은 Kuzco, 초간단 GPU 노드 세팅법

이제는 공공연한 비밀인 멀티코인과 a16z Crypto의 투자를 받은 Kuzco입니다. 현재 포인트 시스템을 진행 중이니 AI 노출을 가져가고 싶다면 GPU 노드를 돌리는게 좋겠죠?

오늘 Kuzco 팀에서 vast (GPU 렌탈 플랫폼)에서 쉽게 노드를 돌릴 수 있도록 Docker 이미지를 배포했습니다. 해당 이미지를 통해 누구나 쉽게 노드를 돌릴 수 있도록 가이드를 작성해봤습니다. 아래 노션 페이지에서 스크린샷을 보면서 쉽게 노드를 세팅할 수 있으니 관심있으신분들은 한번 돌려보세요

https://quixotic-nation-d73.notion.site/Kuzco-Vast-1619580ee16a80139d1ada49c3b1585f

#Kuzco

쿠즈코 (Kuzco) 업데이트 사항들

https://discord.com/channels/1100110477599723550/1215659199846154261/1331081544416362646

- 한시간정도 뒤에 v0.2 worker가 출시되며 기존 워커들은 업데이트가 필요
- openAI 호환 배치 API 출시
- Kuzco와 Inference.net간 결합/호환을 위해 작업 중 (곧 대규모 llm 모델 업데이트로 인해 3090/4090이 필요해질수도?)
- 솔라나 생태계의 최상위 개발자와 프로토콜 디자이너들로 구성된 위원회와 함께 6주간의 프로토콜 계획 작업을 수행. 목표는 재단 및 토큰 출시를 위한 명확한 커뮤니티 중심의 로드맵을 6주내에 출시하는 것

커뮤니티 피드백을 받아서 토큰 출시를 위한 명확한 로드맵을 설정하려고하는 것 같네요. 잘하자?

#Kuzco

Kuzco (Inference.net), 지갑 연결 기능 추가

https://inference.supply/dashboard/wallet

(구) Kuzco, (현) inference.net이 솔라나 지갑 연결 기능을 추가했습니다. 연결된 지갑은 다음 채굴 Epoch시 테스트 토큰 에어드랍에 사용된다고 합니다. 미리미리 등록해두시길 바랍니다.

쿠즈코의 TGE는 여름으로 예정되어 있습니다.

#Kuzco #Inferencenet

Inference.net (구 Kuzco) 6월 1일까지 솔라나 지갑 연결 권장

Epoch3 시작시 연결된 솔라나 지갑에 Test 토큰이 분배되며, 해당 Test 토큰이 있어야 Epoch 3 참여 가능

#Kuzco

Inference network (Kuzco) 시즌 3 시작

https://x.com/inference_net/status/1931163661806317783?s=46&t=oeMcOtn2ZCZ8Ysr-XAov5g

- Inference network (구 Kuzco)는 a16z crypto의 투자를 받은 AI 추론 네트워크
- 이번년도 말 TGE 예정이며, 시즌 3는 TGE 전 마지막 시즌
- 6월 13일에는 테스트 토큰 에어드랍과 함께 스테이킹 기능 활성화 예정. 스케이킹 가중치에 따라 더 많은 추론 작업을 배정받을 수 있음
- 이 외에도 6월 말에 다양한 업데이트 (보너스 포인트, 슬래싱 등 업데이트 예정)

시즌3 가이드라인

#InferenceNet #Kuzco

Inference.net (Kuzco), Epoch3 테스트 토큰 ($INT) 에어드랍 및 스테이킹 시작

1. 테스트 토큰 에어드랍 클레임 페이지
: 클레임 전에 Phantom 지갑에서 개발자 설정 -> Testnet 모드 활성화 필요
: 10만개 에어드랍

2. Operators 페이지에서 원하는 노드 선택하여 스테이킹
: Operator가 스테이킹을 많이 위임받을 수록 더 많은 추론 작업을 할당 받음
: Opertaor가 프로토콜 정책을 위반하거나 정직하지 않은 동작 수행 시 스테이킹 자금이 삭감될 수 있음. 다만 위임자의 자금은 삭감당하지 않고 Operator의 지분만 삭감됨
: Operator는 수수료 (Commision Rate)를 제외하고 위임한 사람들에게 보상을 분배하기 때문에 GPU가 없는 사용자들도 인센티브를 받을 수 있음
: Operator는 전체 지분의 최소 10%를 유지해야함. 즉 Operator가 10만개를 스테이킹했다면 해당 Operator에 위임 가능한 전체 수량은 최대 90만개
: Operator의 경우 추론 작업에 대한 보상으로 USDC를 추가적으로 보상 받음 (위임자들은 제외)
: 현재는 테스트 토큰이므로 추후 에어드랍이랑은 연관성이 없을 수 있음

스테이킹 관련 Docs

#InferenceNet #Kuzco