AI & 기술
CUDA Graphs, 추론 모델 및 분리형 서빙

최신 AI 인프라는 CPU 오버헤드 제거, 추론 시점의 추론 루프, 단계별로 특화된 GPU 클러스터 라우팅을 통해 실리콘과 클러스터의 물리적 한계까지 성능을 끌어올립니다. 이 세 기법은 오늘날 가장 빠르고 지능적인 프로덕션 AI 시스템의 원동력입니다.
1. CUDA Graphs와 커널 융합: CPU & 메모리 오버헤드 제거
최신 GPU(H100, B200 등)가 기하급수적으로 빨라지면서, 가벼운 GPU 커널 하나를 실행하는 데 불과 2~5마이크로초만 걸릴 수 있습니다. 그러나 CPU는 PCIe 드라이버를 통해 해당 커널을 준비하고 검증하고 실행하는 데만 흔히 10~20마이크로초를 소비합니다. 그동안 수백만 달러짜리 GPU는 CPU 명령을 기다리며 완전히 유휴 상태로 남습니다.
- 커널 융합(연산을 결합해 메모리 사용 & 실행 호출 줄이기).
- 융합하지 않았을 때의 병목. 표준 Transformer 레이어는 수십 개의 작은 연산을 순차적으로 실행합니다(예: LayerNorm → Linear → Add Residual → GeLU). 융합하지 않으면 GPU는 단계마다 별도 커널을 실행하고, 중간 텐서를 느린 HBM(VRAM)에 썼다가 다음 단계에서 곧바로 다시 읽습니다.
- 융합 실행. torch.compile (TorchInductor)과 TensorRT-LLM 같은 컴파일러는 여러 원소별 연산과 리덕션 연산을 하나의 맞춤형 CUDA/Triton 커널로 융합합니다. 값은 HBM에서 한 번만 불러와 초고속 온칩 레지스터/SRAM 안에서 변환하고 맨 마지막에만 HBM에 다시 씁니다. 이를 통해 메모리 대역폭 트래픽과 커널 실행 호출 수를 모두 크게 줄입니다.
- CUDA Graphs (전체 실행 파이프라인을 한 번에 재생).
- 기록 및 재생. 커널 융합 후에도 LLM 순전파는 생성 토큰마다 수백 번의 커널 실행 호출을 필요로 합니다. CUDA Graphs는 워밍업 실행 중 GPU 연산 전체 시퀀스(커널, 메모리 복사, 의존 관계)를 캡처하고 GPU 메모리에 직접 저장하는 정적 실행 그래프로 컴파일해 이를 해결합니다.
- CPU 개입 없음. 실시간 추론 중 CPU가 300개 개별 커널을 하나씩 실행하는 대신, 단 한 번의 API 호출(cudaGraphLaunch)을 보내면 GPU가 전체 순전파를 자율적으로 실행합니다.
- 동적 형상 처리. CUDA Graphs는 정적 메모리 주소와 텐서 형상을 요구하므로, 추론 엔진은 입력 배치를 고정 버킷 크기(예: 배치 크기 1, 2, 4, 8, 16)로 패딩하고 미리 캡처된 그래프를 재생하기 전에 입력 포인터를 제자리에서 갱신합니다.
2. 테스트 시점 연산 & 추론 모델(o1/o3 & DeepSeek-R1)
과거 AI 연구소는 사전 학습에 더 많은 연산을 투입하는 방식(더 많은 인터넷 텍스트로 더 큰 모델을 학습)으로만 지능을 확장했습니다. OpenAI의 o1/o3와 DeepSeek-R1 같은 추론 모델은 두 번째 확장 축인 테스트 시점 연산(추론 시점 확장)을 열어, 모델이 답하기 전에 더 오래 "생각"하도록 했습니다.
- 사고 사슬(CoT)을 위한 강화 학습.
- 이 모델들은 사람이 작성한 단계별 추론 예시에만 의존하는 대신, 수학, 코딩, 형식 논리처럼 검증 가능한 분야에서 대규모 강화 학습(RL)(예: DeepSeek-R1의 GRPO - Group Relative Policy Optimization)을 통해 학습됩니다.
- 모델은 여러 후보 추론 경로를 생성하고, 최종 답이 단위 테스트나 수학적 검증을 통과할 때만 객관적인 보상을 받습니다. 또한 자기 검증, 막다른 길에서의 되짚기, 복잡한 문제를 하위 목표로 나누기 등 창발적인 인지 행동을 자율적으로 발견합니다.
- 추론 연산이 확장되는 방식.
- 어려운 프롬프트가 주어지면 모델은 최종 응답을 내놓기 전에 숨겨진 스크래치패드에서 수천 개의 내부 "생각 토큰"을 생성합니다. 가설 탐색에 더 많은 추론 토큰을 사용할수록 정확도는 로그 형태로 향상됩니다.
- 연산 절충 관계의 변화. 기존 LLM에서 추론은 저렴하고 빠릅니다(출력 토큰 약 50개 생성). 추론 모델에서는 단일 질의가 10,000~50,000개의 생각 토큰을 생성할 수 있어, 추론이 KV 캐시 증가와 긴 컨텍스트 어텐션 효율에 지배되는 거대하고 지속적인 배치 생성 작업으로 바뀝니다.
3. 분리된 Prefill과 Decode
LLM 서빙은 연산 특성이 근본적으로 반대인 두 단계로 이루어집니다. 두 단계를 완전히 동일한 GPU에서 실행하면 심각한 스케줄링 충돌과 하드웨어 활용도 저하가 발생합니다.
| 단계 | 워크로드 특성 | 하드웨어 병목 | 지연 시간 지표 |
|---|---|---|---|
| Prefill (프롬프트 처리) | 모든 프롬프트 토큰(예: 10,000 토큰)을 한 번의 순전파에서 병렬 처리합니다. | 연산 제한(거대한 행렬 곱으로 GPU Tensor Cores를 포화시킴). | TTFT (첫 토큰까지 걸리는 시간) |
| Decode (토큰 생성) | 매 단계마다 전체 KV 캐시를 읽으면서 출력 토큰을 하나씩 순차적으로 생성합니다. | 메모리 대역폭 제한(Tensor Cores가 VRAM 읽기를 기다리며 대부분 유휴 상태로 남음). | TPOT (출력 토큰당 시간) |
- 동일 위치 배치에 따른 간섭 문제.
- 기존 통합 서빙에서는 다른 사용자 50명이 Decode 토큰을 스트리밍하는 도중 한 사용자가 Prefill을 위해 거대한 32,000 토큰 문서를 제출하면, 대규모 Prefill 행렬 연산이 GPU의 Tensor Cores를 독점합니다. 그 결과 스트리밍 중인 사용자 50명 모두에게 눈에 띄는 멈춤과 지연 급증("끊김")이 발생합니다.
- 또한 Prefill에는 높은 연산 FLOPs가 필요한 반면, Decode에는 큰 배치 KV 캐시를 담을 방대한 HBM 메모리 대역폭과 용량이 필요합니다.
- 클러스터 분할(분리형 아키텍처).
- 최신 초대규모 추론 시스템(예: Mooncake, DistServe, NVIDIA Dynamo)은 GPU 클러스터를 두 개의 전용 풀로 나눕니다.
- 1. Prefill 풀: 긴 프롬프트를 빠르게 처리하고 엄격한 첫 토큰 도달 시간(TTFT) 목표를 달성하기 위해 원시 연산 처리량(높은 Tensor Core 활용도, 더 작은 텐서 병렬 처리)에 최적화됩니다.
- 2. Decode 풀: 초당 토큰 수를 최대화하면서 토큰을 매끄럽게 스트리밍하기 위해 높은 메모리 대역폭과 큰 KV 캐시 용량(더 넓은 텐서/전문가 병렬 처리, 큰 배치 크기)에 최적화됩니다.
- 고속 KV 캐시 전송. Prefill GPU가 프롬프트 처리를 마치고 초기 KV 캐시를 만들면, 초고속 NVLink 또는 InfiniBand RDMA 인터커넥트를 통해 해당 KV 캐시를 Decode GPU의 VRAM으로 직접 스트리밍합니다. Decode GPU는 간섭 없이 즉시 토큰 생성을 이어받습니다.