🏗️ [크립토] HIVE Digital, 캐나다 토론토 인근에 320MW AI 데이터센터 캠퍼스 개발
프로젝트 규모 및 목표
HIVE Digital Technologies의 자회사 BUZZ HPC가 캐나다 토론토-워털루 기술 회랑에 320메가와트 규모의 AI 데이터센터 캠퍼스를 개발할 계획이다. 이 시설은 완공 시 10만 개 이상의 GPU를 지원할 수 있으며, 약 25에이커 부지와 320MW 전력 할당이 확보되었다.
예산 및 운영 계획
프로젝트 예산은 약 35억 캐나다 달러로 책정되었으며, 2027년 하반기 완공을 목표로 하고 있다. 시설은 온타리오 전력망을 활용하고 폐쇄 루프 냉각 시스템을 도입해 수자원 사용을 줄일 예정이다.
고용 및 인프라 현황
HIVE는 프로젝트가 800개 이상의 건설 일자리와 추가 기술직 채용으로 이어질 수 있다고 밝혔다. 현재 HIVE는 약 5,500개의 GPU를 운영 중이며, 글로벌 데이터센터 및 개발 프로젝트를 통해 850MW 이상의 전력 용량을 확보하고 있다. 회사의 전체 인프라 파이프라인은 약 13만 개의 GPU를 지원할 수 있는 규모다.
주가 반응
HIVE Digital의 주가는 이 발표 후 27% 상승했으며, 연초 대비 33%의 상승세를 기록했다.
결론
출처링크 | 카레채널
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
#HIVE #AI데이터센터 #GPU #캐나다 #인프라
Photo: Pexels / Alesia Kozik
프로젝트 규모 및 목표
HIVE Digital Technologies의 자회사 BUZZ HPC가 캐나다 토론토-워털루 기술 회랑에 320메가와트 규모의 AI 데이터센터 캠퍼스를 개발할 계획이다. 이 시설은 완공 시 10만 개 이상의 GPU를 지원할 수 있으며, 약 25에이커 부지와 320MW 전력 할당이 확보되었다.
예산 및 운영 계획
프로젝트 예산은 약 35억 캐나다 달러로 책정되었으며, 2027년 하반기 완공을 목표로 하고 있다. 시설은 온타리오 전력망을 활용하고 폐쇄 루프 냉각 시스템을 도입해 수자원 사용을 줄일 예정이다.
고용 및 인프라 현황
HIVE는 프로젝트가 800개 이상의 건설 일자리와 추가 기술직 채용으로 이어질 수 있다고 밝혔다. 현재 HIVE는 약 5,500개의 GPU를 운영 중이며, 글로벌 데이터센터 및 개발 프로젝트를 통해 850MW 이상의 전력 용량을 확보하고 있다. 회사의 전체 인프라 파이프라인은 약 13만 개의 GPU를 지원할 수 있는 규모다.
주가 반응
HIVE Digital의 주가는 이 발표 후 27% 상승했으며, 연초 대비 33%의 상승세를 기록했다.
결론
HIVE Digital의 320MW AI 데이터센터 캠퍼스 프로젝트는 캐나다 토론토 인근에 10만 개 이상의 GPU를 지원하는 대규모 인프라 구축을 목표로 한다. 35억 캐나다 달러 규모의 이 프로젝트는 2027년 하반기 완공을 목표로 진행 중이다.
출처링크 | 카레채널
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
#HIVE #AI데이터센터 #GPU #캐나다 #인프라
Photo: Pexels / Alesia Kozik
🔧 Wafer, AMD MI355X에서 GLM5.2 모델 성능 및 최적화 결과 공개
1. 처리량 및 워크로드 성능
Wafer는 AMD MI355X GPU에서 GLM5.2 모델을 구동해 20k 입력 / 1k 출력 토큰, 60% 캐시 히트율 워크로드에서 2626 tok/s/node @ 2.4 rps의 집계 처리량을 달성했다. 단일 스트림에서는 10k 입력 / 1.5k 출력 토큰 기준 213 tok/s를 기록했다.
2. 가격 대비 성능
AMD MI355X는 NVIDIA B300 GPU 대비 약 2.75배 저렴한 평균 가격으로, GLM5.2 모델 구동 시 NVIDIA B200 대비 80% 성능을 유지하면서도 2배 이상 저렴한 것으로 확인됐다.
3. 양자화 성능 변화
GLM5.2 모델의 MXFP4 양자화 적용 시 FP8 기준 대비 성능 변화:
- GSM8K: -0.010
- GPQA-Diamond: -0.019
- tau2: +0.015
4. 최적화 작업
- 추론 프레임워크로 sglang 선택 (vLLM, ATOM 중 비교).
- TP4×DP2 구성 전환 시 20k 입력 @ 60% 캐시 워크로드에서 1944 tok/s/node @ 2.0 RPS로 처리량 개선.
- fp4 MoE 커널 튜닝 (model_dim 6144, moe_inter 2048, E=256, topk=8).
- 사전 디코딩 최적화를 위해 sglang ROCm 이미지 및 MTP 헤드 레이어/커널 가드 수정.
결론
출처링크 | 카레채널
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
#AMD #GLM52 #AI추론 #GPU #양자화
Photo: Pexels / Brett Sayles
1. 처리량 및 워크로드 성능
Wafer는 AMD MI355X GPU에서 GLM5.2 모델을 구동해 20k 입력 / 1k 출력 토큰, 60% 캐시 히트율 워크로드에서 2626 tok/s/node @ 2.4 rps의 집계 처리량을 달성했다. 단일 스트림에서는 10k 입력 / 1.5k 출력 토큰 기준 213 tok/s를 기록했다.
2. 가격 대비 성능
AMD MI355X는 NVIDIA B300 GPU 대비 약 2.75배 저렴한 평균 가격으로, GLM5.2 모델 구동 시 NVIDIA B200 대비 80% 성능을 유지하면서도 2배 이상 저렴한 것으로 확인됐다.
3. 양자화 성능 변화
GLM5.2 모델의 MXFP4 양자화 적용 시 FP8 기준 대비 성능 변화:
- GSM8K: -0.010
- GPQA-Diamond: -0.019
- tau2: +0.015
4. 최적화 작업
- 추론 프레임워크로 sglang 선택 (vLLM, ATOM 중 비교).
- TP4×DP2 구성 전환 시 20k 입력 @ 60% 캐시 워크로드에서 1944 tok/s/node @ 2.0 RPS로 처리량 개선.
- fp4 MoE 커널 튜닝 (model_dim 6144, moe_inter 2048, E=256, topk=8).
- 사전 디코딩 최적화를 위해 sglang ROCm 이미지 및 MTP 헤드 레이어/커널 가드 수정.
결론
AMD MI355X는 GLM5.2 모델에서 NVIDIA 대비 저렴한 가격으로 80% 이상의 성능을 제공하며, MXFP4 양자화 적용 시 성능 변화가 제한적인 것으로 나타났다. 최적화를 위한 프레임워크 선택 및 커널 튜닝 작업이 수행됐다.
출처링크 | 카레채널
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
#AMD #GLM52 #AI추론 #GPU #양자화
Photo: Pexels / Brett Sayles
🚀 AI 서버용 GPU·ASIC, 5년간 1억 3천만 개 이상 고급 패키징 출하 전망
1. 출하량 전망 및 산업 동향
Counterpoint Research는 향후 5년간 고급 패키징을 적용한 메모리 통합 AI 서버용 GPU 및 ASIC 출하량이 1억 3천만 개 이상으로 전망된다고 발표했다. 산업 관측자들은 AI 반도체의 고성능화와 HBM 적층 고도화에 따라 패키징 기술의 중요성이 증가할 것으로 예상하고 있다.
2. 삼성전자의 턴키 전략 강화
삼성전자는 HBM, 파운드리 서비스, 고급 패키징을 동시 제공하는 턴키 전략을 강화하고 있다. 브로드컴과의 협력을 확대해 2.3D 및 2.5D 고급 패키징을 포함한 차세대 AI 인프라 구축에 나섰다.
3. SK하이닉스의 투자 및 기술 로드맵
SK하이닉스는 청주 P&T7에 약 19조 원을 투자해 고급 패키징 생산 시설을 건설 중이다. 또한 미국 인디애나주에 HBM 고급 패키징 생산 및 R&D 기지를 설립할 계획이다. 국제 학술지 Nature Electronics를 통해 글로벌 연구자들과 공동으로 CPO 기술 로드맵을 공개했다.
4. 인텔의 고급 패키징 기술 강화
인텔은 지난 6월 이석희 전 SK하이닉스 CEO를 영입해 고급 패키징 및 백엔드 공정 기술 개발을 총괄하고 있다.
결론
출처링크 | 카레채널
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
#AI반도체 #고급패키징 #GPU #ASIC #삼성전자 #SK하이닉스 #인텔
1. 출하량 전망 및 산업 동향
Counterpoint Research는 향후 5년간 고급 패키징을 적용한 메모리 통합 AI 서버용 GPU 및 ASIC 출하량이 1억 3천만 개 이상으로 전망된다고 발표했다. 산업 관측자들은 AI 반도체의 고성능화와 HBM 적층 고도화에 따라 패키징 기술의 중요성이 증가할 것으로 예상하고 있다.
2. 삼성전자의 턴키 전략 강화
삼성전자는 HBM, 파운드리 서비스, 고급 패키징을 동시 제공하는 턴키 전략을 강화하고 있다. 브로드컴과의 협력을 확대해 2.3D 및 2.5D 고급 패키징을 포함한 차세대 AI 인프라 구축에 나섰다.
3. SK하이닉스의 투자 및 기술 로드맵
SK하이닉스는 청주 P&T7에 약 19조 원을 투자해 고급 패키징 생산 시설을 건설 중이다. 또한 미국 인디애나주에 HBM 고급 패키징 생산 및 R&D 기지를 설립할 계획이다. 국제 학술지 Nature Electronics를 통해 글로벌 연구자들과 공동으로 CPO 기술 로드맵을 공개했다.
4. 인텔의 고급 패키징 기술 강화
인텔은 지난 6월 이석희 전 SK하이닉스 CEO를 영입해 고급 패키징 및 백엔드 공정 기술 개발을 총괄하고 있다.
결론
AI 서버용 GPU 및 ASIC의 고급 패키징 출하량이 5년간 1억 3천만 개 이상으로 예상되며, 삼성전자와 SK하이닉스는 턴키 전략과 대규모 투자를 통해 기술 경쟁력을 강화하고 있다. 패키징 기술은 AI 반도체 성능 고도화에 따라 중요성이 더욱 커질 전망이다.
출처링크 | 카레채널
이 포스팅은 AI의 도움을 받았습니다. 오역/오류가 있을 수 있으니 중요한 내용은 한 번 더 확인해 주세요.
#AI반도체 #고급패키징 #GPU #ASIC #삼성전자 #SK하이닉스 #인텔