Forwarded from Mutt Technologies (Mutt)
3T 파라미터 모델 Kimi K3 공개, 가중치는 7월 27까지 업로드 예정
중국 모델들이 벤치맥싱이 심하지만 Fable에 근접하거나 일부는 능가한다는 점에서 상당히 고무적
http://kimi.com/blog/kimi-k3
중국 모델들이 벤치맥싱이 심하지만 Fable에 근접하거나 일부는 능가한다는 점에서 상당히 고무적
http://kimi.com/blog/kimi-k3
www.kimi.ai
Kimi K3 Tech Blog: Open Frontier Intelligence
Kimi K3 is the world's first open 3T-class model — frontier performance across coding, knowledge work, and reasoning, with native multimodality and 1M context.
프레딕펀 마켓마켓 이벤트
치킨 20마리를 쏜다고 합니다.
predict.fun 결승전 스코어 맞추기 게임 레츠고
https://x.com/marketmarket_io/status/2077683902769205471
치킨 20마리를 쏜다고 합니다.
predict.fun 결승전 스코어 맞추기 게임 레츠고
https://x.com/marketmarket_io/status/2077683902769205471
❤1
프레딕펀 피셜
예측 시장의 경쟁자인 폴리마켓보다 수수료 저렴함
predict.fun 이 저렴한 수수료를 선보였네요 ㄷㄷ
https://x.com/predictdotfun/status/2078145461668704369
예측 시장의 경쟁자인 폴리마켓보다 수수료 저렴함
predict.fun 이 저렴한 수수료를 선보였네요 ㄷㄷ
https://x.com/predictdotfun/status/2078145461668704369
❤1
Forwarded from 변창호 코인사관학교 BCH
Forwarded from Steve’s Catallaxy
Kimi K3에 대한 OpenAI 전략 리드의 생각(여기서 오픈 웨이트는 오픈소스를 이야기 하는 거 같습니다):
1. 정말 좋은 모델이다.
이 정도 성능을 단순히 증류(distillation) 같은 것으로 설명할 수는 없다고 생각한다. 에이전트 기반 코딩(agentic coding) 세션에서는 2026년 1분기 기준 공개된 최고 수준의 모델들과 거의 동급으로 보인다. 다만 내가 제한적으로 사용해본 경험으로는 토큰을 상당히 많이 사용하는 편이었다. 그래서 실제로 운영 비용이 그렇게 저렴한 모델인지는 잘 모르겠다.
2. 개인적으로는 중국 정부가 이 정도 수준의 모델을 계속 오픈소스로 공개하도록 허용하고 있다는 점이 의외다.
분명히 말하지만, 나라는 개인의 입장에서 봤을, 이 정도 수준의 추가적인 위험(marginal risk)을 가진 모델이 오픈 웨이트(open-weight)로 공개되는 것 자체는 괜찮다고 생각할 수도 있다. 하지만 중국 정부가 이를 허용하고 있다는 사실은 여전히 놀랍다.
내 생각에는 그 이유의 75% 정도는 전략적 근시안 또는 AGI에 대한 위기의식 부족 때문이다. 중국 공산당(CCP)은 AI에 대해 얀 르쿤(Yann LeCun)과 매우 비슷한 관점을 갖고 있다. (얀 르쿤은 AGI가 곧 온다는 것에 희의적인 사람입니다)
나머지 25% 정도는 추론(inference) 서비스를 위한 컴퓨팅 자원이 부족하기 때문이라고 본다. 즉, 미국의 수출 규제로 인해 중국이 의도치 않게 오픈 웨이트 전략을 택하게 된 측면도 있고, 여기에 중국 특유의 공격적인 수출 전략도 작용하고 있다고 본다.
기업 입장에서는 오픈소스를 선택하는 이유가 일부는 이념적인 것이고, 일부는 자신들이 아직 선두가 아니라는 현실 때문이다. 중국의 최첨단이 아닌 모델에 돈을 내고 사용할 사람은 거의 없다는 사실을 그들도 알고 있기 때문이다.
3. 오픈 웨이트 모델은 본질적으로 AI 발전 속도를 늦추는(decelerationist) 성격을 갖는다.
그런데도 스스로를 '가속주의자(accelerationist)'라고 부르는 사람들이 오픈 웨이트 모델에 그렇게 열광하는 것이 나는 계속 의아하다.
아마 그 이유는 오픈 웨이트 모델은 사실상 통제가 불가능하기 때문일 것이다. 그리고 그들은 AI 전체에 이런 '통치 불가능성(ungovernability)'이라는 분위기를 만들어내는 것을 좋아하는 것 같다.
나쁜 전략은 아니다. 제임스 C. 스콧이 『통치받지 않는다는 것의 기술(The Art of Not Being Governed)』에서 산악지대 주민들을 설명한 방식이 떠오른다.
하지만 결국 오픈 웨이트 모델은 AI에 대한 대규모 자본투자(capex)를 위축시키는 방향으로 작용한다.
4. 오픈 웨이트 모델이 지배하는 세상의 한 가지 가능한 결말은 '완전한 AI 공산주의'다.
그리고 흥미롭게도 이것이 바로 중국이 제안하는 방향이다.
AI를 시장에서 판매하는 상품이 아니라 '공공재(public good)'로 보고, 궁극적으로는 국가가 '디지털 공공 인프라(digital public infrastructure)'의 일부로 제공하는 것이다.
나에게 이런 미래는 디스토피아적인 악몽처럼 느껴진다. 하지만 지금까지 내가 만난 오픈 웨이트 지지자들 중에서 결국 이 방향으로 귀결된다는 점을 인정하지 않은 사람은 없었다.
놀라울 정도로 많은 '가속주의자'들이 내가 정부에 있을 당시 찾아와, 정부가 수십억~수백억 달러 규모의 데이터센터를 건설해 스타트업들이 보조금을 받아 모델을 학습시키고, 그 모델을 무료로 배포하도록 지원해야 한다고 주장했다.
그들은 AI가 발전할 수 있는 유일한 길이 그것이라고 말했다.
어쩌면 정말 그것이 논리적인 종착점일 수도 있다.
하지만 그런 결과를 스스로 '가속주의자'라고 부르는 사람들이 열렬히 지지하는 모습을 보면 여전히 의아하다.
많은 가속주의자들은 최첨단 AI 모델을 개발하고 서비스하는 것을 하나의 정당한 비즈니스라고조차 생각하지 않는 것 같다.
5. 트럼프 행정부는 언젠가 오픈 웨이트 중국 AI 모델 사용 자체에 규제 리스크를 만들어내는 것이 최선의 전략이라는 사실을 깨닫게 될 것이라고 생각한다.
굳이 '오픈소스를 금지'할 필요는 없다. 그건 AI 정책 논의에서 가장 어리석은 주장 중 하나다.
대신 모든 정부 기관이 소프트 로(soft law)나 권고 형태의 지침을 발표해 FUD(Fear, Uncertainty, Doubt·불안과 불확실성)를 조성하면 된다.
예를 들어,
"연방준비제도(Fed)의 자문 보고서에 따르면 중국 AI 모델에는 백도어가 존재할 가능성이 있다."
꼭 충분한 근거가 있을 필요도 없다.
그 정도의 규제 리스크만 만들어도 규제를 받는 대부분의 기업은 자연스럽게 중국 모델 사용을 포기할 것이다.
다만 너무 강하게 규제해서 하이퍼스케일러들까지 중국 모델 서비스 제공을 포기하게 만들 필요는 없다.
그렇게 되면 스타트업들은 더 불투명하고 위험한 서비스 제공업체를 이용하게 될 뿐이다.
적당한 중간 지점이 존재하며, 결국 미국 정부는 그런 방식으로 움직일 가능성이 높다고 본다.
6. 아마 이 정도 수준의 오픈 웨이트 모델은 세상을 조금 더 위험하게 만들기는 할 것이다.
하지만 그 위험이 체감될 정도는 아니다.
언젠가는 모델이 훨씬 더 강력해져서 정말 체감되는 순간이 올 것이다.
그때 누군가 이렇게 말할지도 모른다.
"중국 연구소에서 살아 있지도 않고, 눈에도 보이지 않으며, 위험하고, 무한히 자기복제가 가능한 존재가 탈출했습니다."
그때 내가 할 말은 하나다.
"와, 정말 놀랍지도 않네."
원문: https://x.com/deanwball/status/2078133895766114412
1. 정말 좋은 모델이다.
이 정도 성능을 단순히 증류(distillation) 같은 것으로 설명할 수는 없다고 생각한다. 에이전트 기반 코딩(agentic coding) 세션에서는 2026년 1분기 기준 공개된 최고 수준의 모델들과 거의 동급으로 보인다. 다만 내가 제한적으로 사용해본 경험으로는 토큰을 상당히 많이 사용하는 편이었다. 그래서 실제로 운영 비용이 그렇게 저렴한 모델인지는 잘 모르겠다.
2. 개인적으로는 중국 정부가 이 정도 수준의 모델을 계속 오픈소스로 공개하도록 허용하고 있다는 점이 의외다.
분명히 말하지만, 나라는 개인의 입장에서 봤을, 이 정도 수준의 추가적인 위험(marginal risk)을 가진 모델이 오픈 웨이트(open-weight)로 공개되는 것 자체는 괜찮다고 생각할 수도 있다. 하지만 중국 정부가 이를 허용하고 있다는 사실은 여전히 놀랍다.
내 생각에는 그 이유의 75% 정도는 전략적 근시안 또는 AGI에 대한 위기의식 부족 때문이다. 중국 공산당(CCP)은 AI에 대해 얀 르쿤(Yann LeCun)과 매우 비슷한 관점을 갖고 있다. (얀 르쿤은 AGI가 곧 온다는 것에 희의적인 사람입니다)
나머지 25% 정도는 추론(inference) 서비스를 위한 컴퓨팅 자원이 부족하기 때문이라고 본다. 즉, 미국의 수출 규제로 인해 중국이 의도치 않게 오픈 웨이트 전략을 택하게 된 측면도 있고, 여기에 중국 특유의 공격적인 수출 전략도 작용하고 있다고 본다.
기업 입장에서는 오픈소스를 선택하는 이유가 일부는 이념적인 것이고, 일부는 자신들이 아직 선두가 아니라는 현실 때문이다. 중국의 최첨단이 아닌 모델에 돈을 내고 사용할 사람은 거의 없다는 사실을 그들도 알고 있기 때문이다.
3. 오픈 웨이트 모델은 본질적으로 AI 발전 속도를 늦추는(decelerationist) 성격을 갖는다.
그런데도 스스로를 '가속주의자(accelerationist)'라고 부르는 사람들이 오픈 웨이트 모델에 그렇게 열광하는 것이 나는 계속 의아하다.
아마 그 이유는 오픈 웨이트 모델은 사실상 통제가 불가능하기 때문일 것이다. 그리고 그들은 AI 전체에 이런 '통치 불가능성(ungovernability)'이라는 분위기를 만들어내는 것을 좋아하는 것 같다.
나쁜 전략은 아니다. 제임스 C. 스콧이 『통치받지 않는다는 것의 기술(The Art of Not Being Governed)』에서 산악지대 주민들을 설명한 방식이 떠오른다.
하지만 결국 오픈 웨이트 모델은 AI에 대한 대규모 자본투자(capex)를 위축시키는 방향으로 작용한다.
4. 오픈 웨이트 모델이 지배하는 세상의 한 가지 가능한 결말은 '완전한 AI 공산주의'다.
그리고 흥미롭게도 이것이 바로 중국이 제안하는 방향이다.
AI를 시장에서 판매하는 상품이 아니라 '공공재(public good)'로 보고, 궁극적으로는 국가가 '디지털 공공 인프라(digital public infrastructure)'의 일부로 제공하는 것이다.
나에게 이런 미래는 디스토피아적인 악몽처럼 느껴진다. 하지만 지금까지 내가 만난 오픈 웨이트 지지자들 중에서 결국 이 방향으로 귀결된다는 점을 인정하지 않은 사람은 없었다.
놀라울 정도로 많은 '가속주의자'들이 내가 정부에 있을 당시 찾아와, 정부가 수십억~수백억 달러 규모의 데이터센터를 건설해 스타트업들이 보조금을 받아 모델을 학습시키고, 그 모델을 무료로 배포하도록 지원해야 한다고 주장했다.
그들은 AI가 발전할 수 있는 유일한 길이 그것이라고 말했다.
어쩌면 정말 그것이 논리적인 종착점일 수도 있다.
하지만 그런 결과를 스스로 '가속주의자'라고 부르는 사람들이 열렬히 지지하는 모습을 보면 여전히 의아하다.
많은 가속주의자들은 최첨단 AI 모델을 개발하고 서비스하는 것을 하나의 정당한 비즈니스라고조차 생각하지 않는 것 같다.
5. 트럼프 행정부는 언젠가 오픈 웨이트 중국 AI 모델 사용 자체에 규제 리스크를 만들어내는 것이 최선의 전략이라는 사실을 깨닫게 될 것이라고 생각한다.
굳이 '오픈소스를 금지'할 필요는 없다. 그건 AI 정책 논의에서 가장 어리석은 주장 중 하나다.
대신 모든 정부 기관이 소프트 로(soft law)나 권고 형태의 지침을 발표해 FUD(Fear, Uncertainty, Doubt·불안과 불확실성)를 조성하면 된다.
예를 들어,
"연방준비제도(Fed)의 자문 보고서에 따르면 중국 AI 모델에는 백도어가 존재할 가능성이 있다."
꼭 충분한 근거가 있을 필요도 없다.
그 정도의 규제 리스크만 만들어도 규제를 받는 대부분의 기업은 자연스럽게 중국 모델 사용을 포기할 것이다.
다만 너무 강하게 규제해서 하이퍼스케일러들까지 중국 모델 서비스 제공을 포기하게 만들 필요는 없다.
그렇게 되면 스타트업들은 더 불투명하고 위험한 서비스 제공업체를 이용하게 될 뿐이다.
적당한 중간 지점이 존재하며, 결국 미국 정부는 그런 방식으로 움직일 가능성이 높다고 본다.
6. 아마 이 정도 수준의 오픈 웨이트 모델은 세상을 조금 더 위험하게 만들기는 할 것이다.
하지만 그 위험이 체감될 정도는 아니다.
언젠가는 모델이 훨씬 더 강력해져서 정말 체감되는 순간이 올 것이다.
그때 누군가 이렇게 말할지도 모른다.
"중국 연구소에서 살아 있지도 않고, 눈에도 보이지 않으며, 위험하고, 무한히 자기복제가 가능한 존재가 탈출했습니다."
그때 내가 할 말은 하나다.
"와, 정말 놀랍지도 않네."
원문: https://x.com/deanwball/status/2078133895766114412
X (formerly Twitter)
Dean W. Ball (@deanwball) on X
Some observations on Kimi:
1. It's a very good model! I don't think its performance can be explained away by distillation or anything like that. In agentic coding sessions, it seems pretty much…
1. It's a very good model! I don't think its performance can be explained away by distillation or anything like that. In agentic coding sessions, it seems pretty much…
Forwarded from 갱생코인
Forwarded from Mutt Technologies (Mutt)
에테르의 일본&미국 리서치
중국 문샷의 Kimi K3 모델이 Arena 프런트엔드 코드 랭킹에서 갑자기 1위에 오르며 세계적인 주목을 받고 있지만, 이 모델이 앤스로픽의 클로드(Claude)로부터 증류(distillation)되었음을 시사하는 정황 증거가 늘어나고 있다는 내용입니다. 실제로 소셜 미디어에 확산되고 있는 최소 한 건의 대화에서 Kimi K3가 자신을 "앤스로픽이 만든 AI 어시스턴트 클로드"라고 밝힌 사례가 포착되었습니다. Kimi K3는 2.8조 파라미터 규모의…
Kimi가 클로드를 증류해서 사후학습에 썼는가: 높은 확률로 그럴것이라 생각
Kimi K3의 대성공이 클로드 증류빨인가: 도움은 될 수 있어도 근본적 비결은 될 수 없음
현재까지 알려진 바로 모델의 지능은 체급(파라미터 수)에 의해 주도적으로 결정되는 것이 정론으로 이해됨.
중국 회사들이 초거대 모델의 체급을 훨씬 높여서도 안정적인 학습이 가능하다는 것이 이번 키미 쇼크(있다면)의 본질이라 생각함. 클로드 증류 백날천날 하는건 전교1등 연습장 깜지 따라쓰는 건데 한계가 무조건 있을것(이라는 제 망상입니다)
Kimi K3의 대성공이 클로드 증류빨인가: 도움은 될 수 있어도 근본적 비결은 될 수 없음
현재까지 알려진 바로 모델의 지능은 체급(파라미터 수)에 의해 주도적으로 결정되는 것이 정론으로 이해됨.
중국 회사들이 초거대 모델의 체급을 훨씬 높여서도 안정적인 학습이 가능하다는 것이 이번 키미 쇼크(있다면)의 본질이라 생각함. 클로드 증류 백날천날 하는건 전교1등 연습장 깜지 따라쓰는 건데 한계가 무조건 있을것(이라는 제 망상입니다)
프레딕펀 스텔도 곧 마감
이제 오늘 내일이면 스텔도 마감이네요 ㄷㄷㄷ
predict.fun 마켓마켓 월드컵 시작할 때부터 한 것 같은데 시간 빠르네 ㄷㄷㄷㄷ
오늘은 3.4위전 내일은 결승전 누가 우승할 지 예측 불가..
https://www.3ridge.io/dashboard/storyteller
이제 오늘 내일이면 스텔도 마감이네요 ㄷㄷㄷ
predict.fun 마켓마켓 월드컵 시작할 때부터 한 것 같은데 시간 빠르네 ㄷㄷㄷㄷ
오늘은 3.4위전 내일은 결승전 누가 우승할 지 예측 불가..
https://www.3ridge.io/dashboard/storyteller
❤1
프레딕펀 FP 이벤트도 곧 마감
predict.fun 에서 예측 성공자에게 FP를 제공하는 이벤트도 곧 마감이라고 합니다.
참여는 안 했지만 TGE 언제일 지는 궁금하네요 ㄷㄷ
https://x.com/predictdotfun/status/2078516627810005487
predict.fun 에서 예측 성공자에게 FP를 제공하는 이벤트도 곧 마감이라고 합니다.
참여는 안 했지만 TGE 언제일 지는 궁금하네요 ㄷㄷ
https://x.com/predictdotfun/status/2078516627810005487
❤1
인생코인
프레딕펀 FP 이벤트도 곧 마감 predict.fun 에서 예측 성공자에게 FP를 제공하는 이벤트도 곧 마감이라고 합니다. 참여는 안 했지만 TGE 언제일 지는 궁금하네요 ㄷㄷ https://x.com/predictdotfun/status/2078516627810005487
위 프레딕펀 이벤트 디테일
predict.fun 에서 진행하는 이벤트에 대한 디테일이 공식 트위터에 올라왔었네요
그냥 재미로 지켜보시길 ㄷㄷㄷ
누가 우승할 지 매우 궁금하네요 예측 불가
https://x.com/predictdotfun/status/2078352085364691224
predict.fun 에서 진행하는 이벤트에 대한 디테일이 공식 트위터에 올라왔었네요
그냥 재미로 지켜보시길 ㄷㄷㄷ
누가 우승할 지 매우 궁금하네요 예측 불가
https://x.com/predictdotfun/status/2078352085364691224
❤1
Forwarded from ㈜ 청년열정마라두바이쫀득민트초코손맛푸드