이 생각은 못했는데, 시트리니 리서쳐가 계산기를 두들긴 결과 딥시크가 성능 측정한 B200 GPU 임대가와 비교하면 추론 서비스의 gross margin은 피크시간대 여부에 따라 87%-96% 사이로 추정된다고 함. 저도 믿기지 않아서 독립적으로 리서치 시켜봤는데, CoreWeave에서 임대하는 가격 기준 비슷한 수준의 숫자가 나옴.

단 이 값은 KV 캐시 등에 필요한 스토리지를 고려하지 않았으므로 고평가되었다고 봐야 함. KV 캐싱을 고려한 경우에는 peak price(*) 기준 80%, off-peak 65% 정도의 그로스마진을 추정하고 있음.

올해초에 량원펑이 신규 개발에 들어가는 비용을 제외하면 모델 서빙으로 개발비 회수는 몇달만에 가능하다고 투자자 미팅에서 말했었는데, 이정도 수치+계속해서 들어오는 DeepSeek 수요를 고려하면 사실인 것 같음. 미국 프론티어 매출의 대부분이 대부분 엔터프라이즈 수요인 것을 생각하면 왜 미국 국토안보부가 DeepSeek이 간접적으로 묻기만 해도 연방 계약에서 배제한다고 발표했는지 이해가 가는 부분. 이거 미장에는 어떻게 반영되려나...;;;

근데 진짜 DeepSeek 얘네 미친놈들이긴 한듯. 트랜스포머 말도 안되게 마개조해서 비용을 몇십-몇백배씩 깎아버리더니 숫자로 증명해 버리네

https://x.com/zephyr_z9/status/2112499092031185134

*: DeepSeek API는 베이징시간 기준 평일 업무시간대에 가격을 2배로 받습니다

Orbio는, Mosh(BUN토큰) 이랑 어깨 씨게 걸고 걍 하루만에 반등을 2배넘게 했네요..

토큰 사용량자체가 많이 늘거나 펀더멘탈이 갑자기 개선된 그런 상황에서 팍 하고 오른건아니고, 그냥 과학의 -80%쯤에서 반등한 느낌이긴해요

전반적으로 Orbio는 자기 Inference 크레딧을 써줄 친구들을 직접 엑셀러레이팅 해주는 느낌이라 나름의 생태계가 구축되고 있기는해요(다만 생태계 친구들이 아직은 많이 아픔)

이런 형태가 장단점이 있다고 생각하는건

장점은, 이렇게 커간애들은 생태계 락인이 장난 아니라 이런 애들이 성장해도 이탈확률이 아주 적다는점

단점은, 처음부터 같이 키워야해서 성장속도가 조금은 더디다는점이 있을거 같아요.

암튼 Bun <- 이것도 뭐 러그 같은거 방지해보려고하는 그런 런치패드라 유틸이랑 잘 맞고해서 조합이 괜찮긴한듯