돌곰배와 매직 코인일기
샘 알트만 : 초지능 2028년쯤 나온다 2028년에는 데이터 센터에 저장된 지적 능력이 인간의 두뇌보다 더 커질 수 있습니다. 인공지능은 최고의 CEO와 과학자들을 능가할 수도 있습니다 이제는 기술 자체보다 누가 그것을 통제하는지가 더 중요해질 것입니다 한줄 요약 : 2년 남았다 직업 있을때 즐겨라 https://x.com/JonhernandezIA/status/2024425886750068755?s=20
https://namu.wiki/w/%EA%B8%B0%EC%88%A0%EC%A0%81%20%ED%8A%B9%EC%9D%B4%EC%A0%90
기술적 특이점 나무위키
오픈ai나오고 초기에 특갤에서 볼때는 재미로 봤었는데 당시 예측이 하나씩 현실화 되니까 요즘은 좀 무서워지고 있어서 한번 쭉 읽어보시는거 추천
기술적 특이점 나무위키
오픈ai나오고 초기에 특갤에서 볼때는 재미로 봤었는데 당시 예측이 하나씩 현실화 되니까 요즘은 좀 무서워지고 있어서 한번 쭉 읽어보시는거 추천
기술적 특이점 타임라인 핵심 정리
2010년대
사물 + 인터넷 연결 시작 (유비쿼터스 개념 등장)
VR 초기 등장 및 대중화 시작
기술은 이미 가능했지만 “대중화는 느리게 진행”됨
2020년대 초
VR 본격 대중화 시작
재택근무 확산 (VR 기반은 아직 초기 단계)
AI·디지털 기술 체감 급격히 증가
2020년대 중반
나노기술 의료 적용 기대 단계
질병 제거
노폐물 관리
조기 진단
아직은 “실험·초기 적용 수준”
2020년대 후반
장기 보강·대체 기술 등장 예상
가상현실 현실 수준으로 고도화
일부 인간 신체 기능 기술로 대체 시작
2030년대 초
에너지 문제 해결 방향 (태양에너지 중심)
인체 구조 변화 시작 (신체 업그레이드 개념 등장)
2030년대 중반
뇌 기능 강화 (나노봇 + AI)
감각 전송 / 뇌-컴퓨터 연결 가능성
“인간 + AI 결합 단계 진입”
2030년대 후반
뇌 데이터 업로드 가능성
인간 의식 = 데이터 개념 등장
생물학적 인간 개념 붕괴 시작
2040년대 초
신체 완전 개조 가능
외형·성별·능력 자유롭게 변경
물리적 몸 없이 존재 가능성 등장
2040년대
인간 지능 < 비생물학적 지능
인간 대부분이 AI 기반 지능 확장 상태
“인간 vs 기계 구분 의미 사라짐”
2045 전후 (특이점)
초지능 등장
기술이 기술을 발전시키는 단계 진입
인간이 기술을 이해하지 못하는 구간 도달
한 줄 핵심 요약
AI → 인간 능력 보조 → 인간 개조 → 인간 초월 → 인간 이해 불가능 단계 진입
Forwarded from PASA 공지방
OpenClaw 를 텔레그램에 세팅해두면 평소에 많이 쓰는 텔레그램에서 이것저것 에이전트에게 시킬 수 있죠.
허나, 보안적으로 아주 취약한 상태에 있긴 합니다.
인젝션 공격이 들어왔습니다.
(처음엔 진짜 깜놀... 돈벌어오라고 해놓은 지갑 다 털리는줄...)
아무튼.. 이건 인젝션 공격이었던 것 같고
OpenClaw 니까 봇 이름과 봇 유저네임을 OpenClaw 비슷한걸로 지정해서 쓰시는 분이 많을텐데 사용자명 무차별 대입법으로 봇과의 대화를 시도하고, 인젝션 공격을 한 것 같아요
그래서 BotToken 을 Revoke 하고 새로 발급아서 새 BotToken 으로 세팅해보았지만 BotToken 과는 관계가 없었죠.
그래서,
dmPolicy: allowlist — allowlist에 있는 chatId만 메시지 수신 허용해주고 allowlist 에는 나만 등록해줘.
라고 해서 오직 나만 dm이 가능하게 했는데..
그런데도!!! 계속 왔습니다!
이유인즉, 이미 세션에 연결되어 있는 계정은 텔레그램 정책상 자동으로 allowlist 가 되어 있는거죠..
그래서 다시 명령을 했습니다.
기존 세션을 찾아서 제거하고, 텔레그램의 미처리 업데이트 메세지들도 스킵하도록 해줘
그제서야 인젝션 공격이 멈추었습니다.
대배분의 OpenClaw 가 기본적인 인젝션은 생각하고 코딩을 하겠지만 이런일도 있으니...
꼭 DM AllowList 설정하고 작업하시라고 알려드리고 싶었습니다.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1
Forwarded from 매실남과 당신은 반드시 승리할것
백팩.
시빌을 대체 얼마나 잡는거임 백팩아
포인트 재분배가 2주 더 연장되어 매주 약 1천만 포인트가 지급될 예정입니다.
TGE 계획은 6주차 이후에 발표될 예정입니다.
시빌을 대체 얼마나 잡는거임 백팩아
Forwarded from 기분좋은 마곤
지금 하이퍼리퀴드 extended 레전드 오라클 갭, 호가갭 나는중
ReboundX 펀딩 fee 대쉬보드 퍼블릭으로 풀었습니다!
현재 하이퍼리퀴드 윗호가랑 extended랑 차이 엄청남
Bybit, Binanace 2+%대에서 벌어져 있는 중
펀비 빨기도 가능
- 신규 페어들 모두 추적가능
- 시간별로 bps, %별로 관찰가능
- 펀딩 fee 갭 나는 것들 살펴보면 베스트 포지션에서 가격 갭 관찰 가능
(특정 이벤트 껴있는 것들이 가격갭까지 포함되므로)
- Binance, Bybit, OKX, Lighter, Backpack, Paradex, Hyperliquid, Variational, Extended, Pacifica, GRVT, edgeX
- 최적화 완료
꽤 보다보면 알파가 많아요 다양하게 활용해주시면 감사하겠습니다
😃 ReboundX Funding rate dashboard 로그인하고 바로 사용하기!
ReboundX 펀딩 fee 대쉬보드 퍼블릭으로 풀었습니다!
현재 하이퍼리퀴드 윗호가랑 extended랑 차이 엄청남
Bybit, Binanace 2+%대에서 벌어져 있는 중
펀비 빨기도 가능
- 신규 페어들 모두 추적가능
- 시간별로 bps, %별로 관찰가능
- 펀딩 fee 갭 나는 것들 살펴보면 베스트 포지션에서 가격 갭 관찰 가능
(특정 이벤트 껴있는 것들이 가격갭까지 포함되므로)
- Binance, Bybit, OKX, Lighter, Backpack, Paradex, Hyperliquid, Variational, Extended, Pacifica, GRVT, edgeX
- 최적화 완료
꽤 보다보면 알파가 많아요 다양하게 활용해주시면 감사하겠습니다
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
Forwarded from 🔥요블이 세상살이🔥 (요블이)
Crypto 카드들
약 42개의 Aggregator
카드 비교도 가능
- 카드 네트워크 (Visa, Master), 캐쉬백, Custody 등등
보통 카드 등급에 따라 혜택이
다른 경우가 많아서 대략 참고 용도
📌 https://www.cryptoagg.io
모아놓고보니 진짜 많구나
약 42개의 Aggregator
카드 비교도 가능
- 카드 네트워크 (Visa, Master), 캐쉬백, Custody 등등
보통 카드 등급에 따라 혜택이
다른 경우가 많아서 대략 참고 용도
📌 https://www.cryptoagg.io
모아놓고보니 진짜 많구나
❤1
Forwarded from 흑우촌 마을회관 (흑우촌)
OpenClaw Android 설치 & 실행 가이드
https://github.com/AidanPark/openclaw-android
OpenClaw-Android는 Android 기기에서 Ubuntu(Proot) 설치 없이, Termux 환경만으로 OpenClaw을 실행하게 해주는 프로젝트
https://github.com/AidanPark/openclaw-android
GitHub
GitHub - aidanpark/openclaw-android: Run OpenClaw on Android with a single command — no proot, no Linux
Run OpenClaw on Android with a single command — no proot, no Linux - aidanpark/openclaw-android
❤2
Forwarded from 리암의 코인공방 (ₗᵢₐₘ ᴸᴵᴬᴹ)
백팩 에필로그(사실상 시즌5) 6주차 까지 하고 TGE 발표예정
#backpack
@everyone TGE를 향한 우리의 행진에 대한 빠른 업데이트입니다.
- 아마도 눈치채셨겠지만, 금고를 조정하고 시장 구조를 업데이트하면서 유동성이 꾸준히 개선되고 있습니다. 매일 개선됨에 따라 이 부분에 더 많은 것이 올 것입니다.
- 보셨을 수도 있듯이, 금고의 일부가 생산에 들어가기 시작했고, 미래 발표의 스크린샷이 타임라인에 유출되었습니다.
- 금고를 공개하기 전에 마지막 업그레이드를 진행하고 있습니다. 이를 통해 금고 예치를 담보로 지원할 수 있게 됩니다. 금고, 현물 마진, 선물, 대출-차입, 그리고 예측과 같은 미래 제품을 모두 하나의 잔액으로 사용할 수 있게 될 것입니다. 교차 마진 및 교차 담보화가 함께 이루어집니다. 라이브가 되면 발표하겠습니다.
- 에필로그의 4주차가 왔습니다. 4주차 이후에는 거래 활동을 계속 추적하고 포인트를 계속 재분배할 것입니다. TGE 이전에는 새로운 포인트가 생성되지 않습니다. 이는 추가로 약 2주 동안 계속될 것으로 예상되며, 원래 발표된 4-6주 타임라인과 일치하는 총 6주가 될 것입니다. 현재 데이터에 따르면 주당 약 1천만 포인트가 될 것으로 예상됩니다. 더 많을 수도, 적을 수도 있습니다.
- 6주차 이후에는 최종 TGE 계획을 발표할 것입니다. TGE 유동성 공급 과정에 대비하여 준비 중인 이벤트가 있습니다. 재미있을 것입니다. 😉
- TGE가 우리의 주요 초점이지만, TGE 이후 곧 출시될 세 가지 추가 마일스톤을 배경에서 작업하고 있습니다. TGE 이후 우리는 다음 큰 제품을 신속하게 출시할 것입니다.
#backpack
리암의 코인공방
백팩 에필로그(사실상 시즌5) 6주차 까지 하고 TGE 발표예정 @everyone TGE를 향한 우리의 행진에 대한 빠른 업데이트입니다. - 아마도 눈치채셨겠지만, 금고를 조정하고 시장 구조를 업데이트하면서 유동성이 꾸준히 개선되고 있습니다. 매일 개선됨에 따라 이 부분에 더 많은 것이 올 것입니다. - 보셨을 수도 있듯이, 금고의 일부가 생산에 들어가기 시작했고, 미래 발표의 스크린샷이 타임라인에 유출되었습니다. - 금고를 공개하기 전에 마지막…
백팩 좋은게 oi포인트를 줘서 헷징쳐두면 거래한번 없이 자동파밍인데 채굴 끝자락이라 받는 포인트양이 전주대비 증가했네요(시빌 분배일지도?)
펀딩비 괴리 잘 찾아서 양방만 계속 걸어두면 사실상 지금 제일 파밍 쉬운 펍덱입니다
펀딩비 괴리 잘 찾아서 양방만 계속 걸어두면 사실상 지금 제일 파밍 쉬운 펍덱입니다
Forwarded from 텔레그램 코인 방,채널 - CEN
Forwarded from Carrot Cave 🥕
돌에 새겨진 지능
인류는 지금 미친 짓을 하고 있다. 도시만 한 데이터센터를 짓고, 옆에 발전소를 세우고, 위성 네트워크를 띄우고, 수백 킬로와트를 먹어치우는 슈퍼컴퓨터 방을 액체 냉각으로 식히고 있다. AI를 돌리기 위해서. 이게 미래라고 믿으면서.
하지만 역사는 다른 이야기를 한다. 기술 혁명은 언제나 괴물 같은 프로토타입으로 시작했고, 실용적인 돌파구가 나타나면 그 괴물들은 순식간에 사라졌다. ENIAC을 기억하는가? 방 하나를 가득 채운 진공관 괴물. 컴퓨팅의 마법을 보여줬지만, 느리고 비싸고 커질 수 없었다. 트랜지스터가 나오자 모든 게 바뀌었다. 워크스테이션, PC, 스마트폰으로 진화했다. 세상은 ENIAC을 더 많이 만드는 대신 넘어서는 쪽을 택했다. 지금 우리가 짓고 있는 GPU 데이터센터가 바로 AI의 ENIAC이다. 작동은 한다. 마법도 보여준다. 하지만 이게 끝은 아니다.
이 글을 계속 읽기 전에, 아래의 사이트에 가서 아무 질문이나 던져보길 권한다. 30초면 된다. 몸으로 느껴봐야 한다.
chatjimmy.ai
엔터를 누르는 순간 답이 와 있는 LLM이 등장했다. 그동안 우리는 AI에 랙이 있는 게 당연하다고 여기며 살아왔다. 그래서 이건 수치로 설명되지 않는 생소한 충격이다.
범용 컴퓨팅이 세상을 바꾼 건 빠르고, 싸고, 만들기 쉬워졌기 때문이다. AI도 똑같은 길을 갈 것이다. 문제는 지금의 AI가 그 길에서 한참 벗어나 있다는 거다. AI에게 질문을 던지면, AI는 턱을 괴고 한참을 생각한다. 코딩 어시스턴트는 몇 분간 멍하니 있다가 답을 내놓고, 몰입을 깬다. 찰나의 반응이 필요한 순간에도 느긋한 응답만 돌아온다. AI와 대화하는 건 아직 국제전화 같다. 말하고, 기다리고, 또 기다리고. 이 지연이 인간과 AI 사이의 벽이다.
비용 문제는 더 심각하다. 지금의 AI를 돌리려면 엄청난 장비와 돈이 필요하다. HBM 스택, 복잡한 입출력, 케이블, 액체 냉각, 첨단 패키징, 3D 적층. 왜 이 모든 게 필요한가? 기억하는 곳과 생각하는 곳이 따로 놀기 때문이다.
이렇게 비유해보자. 당신의 뇌는 서울에 있고, 기억은 전부 부산 창고에 있다. 뭔가를 떠올릴 때마다 KTX를 타고 부산까지 가서 꺼내와야 한다. 현대 AI 하드웨어가 정확히 이 구조다. 메모리(DRAM)는 용량이 크고 싸지만 칩 바깥에 있어서, 접근하는 데 칩 안쪽보다 수천 배 오래 걸린다. 그렇다고 연산 칩 안에 DRAM을 넣을 수도 없다. 공정이 다르니까. 이 모순이 AI 하드웨어의 모든 복잡함을 만든다. 서울-부산 왕복을 줄이려고 HBM이라는 고속철을 깔고, 3D 적층이라는 고층빌딩을 세우고, 액체 냉각이라는 에어컨을 돌린다. 당연히 전기를 많이 먹고, 비용은 천정부지로 올라간다.
Taalas는 이걸 근본부터 뒤집었다. 기억을 부산에서 꺼내오지 않고, 뇌 안에 모두 심었다. 메모리와 연산을 DRAM급 밀도로 하나의 칩에 합쳤다. 그리고 한 걸음 더 나아가 모델마다 전용 실리콘을 만든다. 기성복이 아니라 맞춤 양복. 컴퓨팅 역사를 보면, 깊은 특화는 언제나 극한의 효율로 가는 가장 확실한 길이었다. Taalas는 그 원칙을 끝까지 밀어붙였다.
어떻게 가능한가? AI가 학습한 지식, 즉 가중치를 실리콘의 금속층에 직접 새겨 넣는다. 문자 그대로 돌에 지능을 새기는 것이다. 하나의 트랜지스터가 가중치를 품으면서 동시에 곱셈까지 해낸다. 기억하는 동시에 생각한다. 창업자 Ljubisa Bajic의 표현을 빌리면, 이건 "핵물리학이 아니라, 아무도 이 길로 가지 않았기 때문에 아무도 보지 못한 영리한 트릭"이다. 칩의 뼈대는 그대로 두고 금속층 두 개만 바꿔서 특정 모델에 맞춘다. 같은 몸에 다른 문신을 새기는 것. TSMC 6나노 공정으로, 두 달이면 실제로 돌아가는 카드가 나온다.
Llama 3.1 8B를 새긴 HC1 칩은 유저당 초당 약 17,000 토큰을 처리한다. Nvidia H200이 230, B200이 353, Groq 594, Sambanova 932, Cerebras 1,981. 다들 자전거를 타고 있는데 Taalas만 제트기를 탔다. 카드 한 장 200와트. 서버에 10장 꽂아도 2,500와트. 선풍기 수준이고, 30년 된 데이터센터에도 그대로 꽂힌다. 만드는 비용 20분의 1, 전기 10분의 1. HBM도, 첨단 패키징도, 3D 적층도, 액체 냉각도 필요 없다.
물론 공짜는 없다. 범용 GPU가 아무 노래나 틀 수 있는 스피커라면, Taalas 칩은 하나의 곡만 완벽하게 연주하는 오르골이다. 똑똑하지 않고, 모델이 바뀌면 새 칩을 찍어야 한다. 하지만 컨텍스트 크기 조절과 LoRA 파인튜닝은 가능하다.
그리고 결정적으로, 일상 업무에 충분한 모델의 임계점이 다가오고 있다. 프론티어 모델이 조금만 더 발전하면, 일상적인 반복 업무에는 꽤 오래 쓸 수 있는 시기가 온다. 그때 전용 오르골의 경제성은 성립한다.
Nvidia가 Groq을 200억 달러에 사들이고, SoftBank가 Graphcore를 삼키고, Intel이 SambaNova에 손을 뻗는 지금, 추론 전용 칩을 향한 큰 물결이 일고 있다. Taalas는 그 물결의 가장 급진적인 지점에 서 있다. 첫 제품은 실리콘에 새긴 Llama로 시작하지만, 봄에는 중형 추론 모델이, 겨울에는 프론티어 모델이 뒤따른다.
매우 빠른 AI는 전혀 다른 AI다. 천 분의 일 초 이하 지연이 가능해지면, 상상만 하던 시나리오들이 현실이 된다. 국제전화가 아니라 옆 사람과 뛰어가며 대화하는 체감. Taalas가 첫 모델이 프론티어가 아님에도 chatjimmy.ai를 베타로 연 건, 이 속도에서 뭐가 가능한지 직접 느껴보라는 자신감이다.
자율주행차는 0.01초 안에 판단을 끝내야 한다. 시속 100km로 달리는 차가 0.01초에 움직이는 거리는 28cm. 자 한 뼘. 그 안에 보행자를 인식하고, 판단하고, 핸들을 꺾어야 한다. 드론은 더 가혹하다. 초속 수십 미터로 날면서 장애물을 피해야 한다. 전투기의 fly-by-wire, 수술 로봇, 공장 로봇. 이런 환경에서 클라우드에 질문을 보내고 응답을 기다리는 건, 전장에서 본부에 편지를 부치고 답장을 기다리는 것이다. 네트워크 왕복 시간만으로 사람이 죽는다.
지금의 GPU 추론은 이걸 풀 수 없다. 수백 와트를 먹고 액체로 식혀야 하는 하드웨어를 드론에 넣는 건 냉장고를 자전거에 얹는 것이다. 로봇 안에, 자동차 안에, 드론 안에. 클라우드 없이. 지연 없이. 오르골이 진짜 빛나는 순간은 그 곡이 생사를 가를 때다.
우리는 아직 AI의 ENIAC 시대에 살고 있다. 거대하고 비효율적인 괴물들이 데이터센터를 가득 채우고 있다. 하지만 역사는 반복된다. 트랜지스터의 순간은 온다. 우리 손안에, 우리 주머니에, 우리가 타는 모든 기계 안에 들어가려면, AI는 빠르고 싸고 만들기 쉬워져야 한다. ENIAC의 확산은 일어나지 않았다. AI의 ENIAC 확산도 일어나지 않을 것이다.
AI 생태계는 새로운 접근을 필요로 한다. 그리고 이런 방향의 도전이 절실히 필요하다.
인류는 지금 미친 짓을 하고 있다. 도시만 한 데이터센터를 짓고, 옆에 발전소를 세우고, 위성 네트워크를 띄우고, 수백 킬로와트를 먹어치우는 슈퍼컴퓨터 방을 액체 냉각으로 식히고 있다. AI를 돌리기 위해서. 이게 미래라고 믿으면서.
하지만 역사는 다른 이야기를 한다. 기술 혁명은 언제나 괴물 같은 프로토타입으로 시작했고, 실용적인 돌파구가 나타나면 그 괴물들은 순식간에 사라졌다. ENIAC을 기억하는가? 방 하나를 가득 채운 진공관 괴물. 컴퓨팅의 마법을 보여줬지만, 느리고 비싸고 커질 수 없었다. 트랜지스터가 나오자 모든 게 바뀌었다. 워크스테이션, PC, 스마트폰으로 진화했다. 세상은 ENIAC을 더 많이 만드는 대신 넘어서는 쪽을 택했다. 지금 우리가 짓고 있는 GPU 데이터센터가 바로 AI의 ENIAC이다. 작동은 한다. 마법도 보여준다. 하지만 이게 끝은 아니다.
이 글을 계속 읽기 전에, 아래의 사이트에 가서 아무 질문이나 던져보길 권한다. 30초면 된다. 몸으로 느껴봐야 한다.
chatjimmy.ai
엔터를 누르는 순간 답이 와 있는 LLM이 등장했다. 그동안 우리는 AI에 랙이 있는 게 당연하다고 여기며 살아왔다. 그래서 이건 수치로 설명되지 않는 생소한 충격이다.
범용 컴퓨팅이 세상을 바꾼 건 빠르고, 싸고, 만들기 쉬워졌기 때문이다. AI도 똑같은 길을 갈 것이다. 문제는 지금의 AI가 그 길에서 한참 벗어나 있다는 거다. AI에게 질문을 던지면, AI는 턱을 괴고 한참을 생각한다. 코딩 어시스턴트는 몇 분간 멍하니 있다가 답을 내놓고, 몰입을 깬다. 찰나의 반응이 필요한 순간에도 느긋한 응답만 돌아온다. AI와 대화하는 건 아직 국제전화 같다. 말하고, 기다리고, 또 기다리고. 이 지연이 인간과 AI 사이의 벽이다.
비용 문제는 더 심각하다. 지금의 AI를 돌리려면 엄청난 장비와 돈이 필요하다. HBM 스택, 복잡한 입출력, 케이블, 액체 냉각, 첨단 패키징, 3D 적층. 왜 이 모든 게 필요한가? 기억하는 곳과 생각하는 곳이 따로 놀기 때문이다.
이렇게 비유해보자. 당신의 뇌는 서울에 있고, 기억은 전부 부산 창고에 있다. 뭔가를 떠올릴 때마다 KTX를 타고 부산까지 가서 꺼내와야 한다. 현대 AI 하드웨어가 정확히 이 구조다. 메모리(DRAM)는 용량이 크고 싸지만 칩 바깥에 있어서, 접근하는 데 칩 안쪽보다 수천 배 오래 걸린다. 그렇다고 연산 칩 안에 DRAM을 넣을 수도 없다. 공정이 다르니까. 이 모순이 AI 하드웨어의 모든 복잡함을 만든다. 서울-부산 왕복을 줄이려고 HBM이라는 고속철을 깔고, 3D 적층이라는 고층빌딩을 세우고, 액체 냉각이라는 에어컨을 돌린다. 당연히 전기를 많이 먹고, 비용은 천정부지로 올라간다.
Taalas는 이걸 근본부터 뒤집었다. 기억을 부산에서 꺼내오지 않고, 뇌 안에 모두 심었다. 메모리와 연산을 DRAM급 밀도로 하나의 칩에 합쳤다. 그리고 한 걸음 더 나아가 모델마다 전용 실리콘을 만든다. 기성복이 아니라 맞춤 양복. 컴퓨팅 역사를 보면, 깊은 특화는 언제나 극한의 효율로 가는 가장 확실한 길이었다. Taalas는 그 원칙을 끝까지 밀어붙였다.
어떻게 가능한가? AI가 학습한 지식, 즉 가중치를 실리콘의 금속층에 직접 새겨 넣는다. 문자 그대로 돌에 지능을 새기는 것이다. 하나의 트랜지스터가 가중치를 품으면서 동시에 곱셈까지 해낸다. 기억하는 동시에 생각한다. 창업자 Ljubisa Bajic의 표현을 빌리면, 이건 "핵물리학이 아니라, 아무도 이 길로 가지 않았기 때문에 아무도 보지 못한 영리한 트릭"이다. 칩의 뼈대는 그대로 두고 금속층 두 개만 바꿔서 특정 모델에 맞춘다. 같은 몸에 다른 문신을 새기는 것. TSMC 6나노 공정으로, 두 달이면 실제로 돌아가는 카드가 나온다.
Llama 3.1 8B를 새긴 HC1 칩은 유저당 초당 약 17,000 토큰을 처리한다. Nvidia H200이 230, B200이 353, Groq 594, Sambanova 932, Cerebras 1,981. 다들 자전거를 타고 있는데 Taalas만 제트기를 탔다. 카드 한 장 200와트. 서버에 10장 꽂아도 2,500와트. 선풍기 수준이고, 30년 된 데이터센터에도 그대로 꽂힌다. 만드는 비용 20분의 1, 전기 10분의 1. HBM도, 첨단 패키징도, 3D 적층도, 액체 냉각도 필요 없다.
물론 공짜는 없다. 범용 GPU가 아무 노래나 틀 수 있는 스피커라면, Taalas 칩은 하나의 곡만 완벽하게 연주하는 오르골이다. 똑똑하지 않고, 모델이 바뀌면 새 칩을 찍어야 한다. 하지만 컨텍스트 크기 조절과 LoRA 파인튜닝은 가능하다.
그리고 결정적으로, 일상 업무에 충분한 모델의 임계점이 다가오고 있다. 프론티어 모델이 조금만 더 발전하면, 일상적인 반복 업무에는 꽤 오래 쓸 수 있는 시기가 온다. 그때 전용 오르골의 경제성은 성립한다.
Nvidia가 Groq을 200억 달러에 사들이고, SoftBank가 Graphcore를 삼키고, Intel이 SambaNova에 손을 뻗는 지금, 추론 전용 칩을 향한 큰 물결이 일고 있다. Taalas는 그 물결의 가장 급진적인 지점에 서 있다. 첫 제품은 실리콘에 새긴 Llama로 시작하지만, 봄에는 중형 추론 모델이, 겨울에는 프론티어 모델이 뒤따른다.
매우 빠른 AI는 전혀 다른 AI다. 천 분의 일 초 이하 지연이 가능해지면, 상상만 하던 시나리오들이 현실이 된다. 국제전화가 아니라 옆 사람과 뛰어가며 대화하는 체감. Taalas가 첫 모델이 프론티어가 아님에도 chatjimmy.ai를 베타로 연 건, 이 속도에서 뭐가 가능한지 직접 느껴보라는 자신감이다.
자율주행차는 0.01초 안에 판단을 끝내야 한다. 시속 100km로 달리는 차가 0.01초에 움직이는 거리는 28cm. 자 한 뼘. 그 안에 보행자를 인식하고, 판단하고, 핸들을 꺾어야 한다. 드론은 더 가혹하다. 초속 수십 미터로 날면서 장애물을 피해야 한다. 전투기의 fly-by-wire, 수술 로봇, 공장 로봇. 이런 환경에서 클라우드에 질문을 보내고 응답을 기다리는 건, 전장에서 본부에 편지를 부치고 답장을 기다리는 것이다. 네트워크 왕복 시간만으로 사람이 죽는다.
지금의 GPU 추론은 이걸 풀 수 없다. 수백 와트를 먹고 액체로 식혀야 하는 하드웨어를 드론에 넣는 건 냉장고를 자전거에 얹는 것이다. 로봇 안에, 자동차 안에, 드론 안에. 클라우드 없이. 지연 없이. 오르골이 진짜 빛나는 순간은 그 곡이 생사를 가를 때다.
우리는 아직 AI의 ENIAC 시대에 살고 있다. 거대하고 비효율적인 괴물들이 데이터센터를 가득 채우고 있다. 하지만 역사는 반복된다. 트랜지스터의 순간은 온다. 우리 손안에, 우리 주머니에, 우리가 타는 모든 기계 안에 들어가려면, AI는 빠르고 싸고 만들기 쉬워져야 한다. ENIAC의 확산은 일어나지 않았다. AI의 ENIAC 확산도 일어나지 않을 것이다.
AI 생태계는 새로운 접근을 필요로 한다. 그리고 이런 방향의 도전이 절실히 필요하다.
❤6