DeepGEMM — DeepSeek이 만든 FP8 행렬 연산의 끝판왕

DEEPSEEK × CUDA

FP8 행렬 연산의
끝판왕

1,550 TFLOPS · H800 · MIT License

DeepSeek이 공개한 오픈소스 GEMM 커널 라이브러리. FP8, FP4, BF16을 모두 지원하며, 전문가 수동 튜닝 수준의 성능을 JIT 컴파일 한 줄로 달성합니다.

6.8K+

GitHub Stars

1,550

TFLOPS Peak

FP8

Precision

MIT

License

▼ SCROLL

DeepGEMM이 바꾸는 것 6가지

FP8

저정밀도 고성능

8비트로 충분한
AI 추론 시대

FP8 fine-grained scaling GEMM
메모리 대역폭 50% 절감
정확도 손실 거의 없음

PERF

H800에서 1,550 TFLOPS

수동 튜닝 없이
최고 성능 달성

전문가 튜닝 라이브러리 동등 이상
다양한 행렬 크기에서 안정적
PDL 최적화 옵션 내장

MOE

Mega MoE 지원

Mixture-of-Experts
통신 오버래핑

Fused MoE 커널 내장
통신과 연산 동시 실행
분산 학습 효율 극대화

JIT

런타임 JIT 컴파일

CUDA 빌드 없이
바로 실행

설치 시 CUDA 컴파일 불필요
CUTLASS 의존성 최소화
깔끔한 코드베이스 유지

FP4

FP4 + BF16 지원

다중 정밀도
완벽 대응

FP8 외 FP4, BF16 GEMM 지원
Dense + Grouped 연산 모두
MQA 스코어링 커널 포함

GPU

SM90 / SM100 아키텍처

최신 NVIDIA GPU
네이티브 최적화

H800, H100 등 Hopper 지원
Blackwell SM100도 대응
Symmetric memory 분산 할당

핵심 벤치마크

1,550

TFLOPS

H800 Peak

FP8

Primary

Fine-grained Scaling

6.8K

Stars

GitHub Trending

Build Time

JIT Compilation

Precisions

FP8 + FP4 + BF16

MIT

License

Fully Open

기술 사양

항목	사양	비고
GPU 아키텍처	SM90 / SM100	Hopper + Blackwell
CUDA 버전	12.3+ (12.9 권장)	최신 권장
정밀도	FP8, FP4, BF16	3종 지원
MoE 지원	Fused Mega MoE	통신 오버래핑
컴파일	런타임 JIT	빌드 불필요
라이선스	MIT	상업 이용 가능

행렬 연산의 미래를
DeepSeek이 열었다

FP8로 1,550 TFLOPS JIT 컴파일로 빌드 제로 MoE 통신까지 퓨전 LLM 추론의 새 기준

github / deepseek-ai/DeepGEMM

FP8 행렬 연산의끝판왕

DeepGEMM이 바꾸는 것 6가지

핵심 벤치마크

기술 사양

행렬 연산의 미래를DeepSeek이 열었다

FP8 행렬 연산의
끝판왕

행렬 연산의 미래를
DeepSeek이 열었다

DeepGEMM — DeepSeek이 만든 FP8 행렬 연산의 끝판왕

Reference Links

Comments (0)