LLM Inference Engine Analysis

LLM 추론 엔진 심층 분석

vLLM · TensorRT-LLM · SGLang · TGI · llama.cpp — 아키텍처 비교와 선택 기준

LLM 추론 엔진은 학습된 모델을 실제 서비스로 연결하는 핵심 인프라입니다. 동일한 모델이라도 엔진에 따라 처리량, 지연시간, 메모리 효율이 크게 달라지며, 엔진 선택은 곧 서비스 품질과 운영 비용을 결정합니다. 본 문서는 주요 오픈소스 추론 엔진들의 아키텍처, 핵심 최적화 기법, 운영 관점의 트레이드오프를 분석합니다.

2026년 기준으로 vLLM과 SGLang이 가장 활발한 커뮤니티를 보유하고 있으며, TensorRT-LLM은 NVIDIA 생태계에서 최고 수준의 단일 GPU 성능을 제공합니다. TGI는 Hugging Face 생태계와의 긴밀한 통합으로 빠른 프로토타이핑에 강점이 있으나 현재 maintenance 모드로 전환되었습니다. llama.cpp는 CPU/엣지 추론에 특화되어 있어 리소스 제약 환경에서 독자적인 영역을 가지고 있습니다.

핵심 개념

• PagedAttention: KV 캐시를 고정 크기 블록으로 나눠 메모리 낭비를 줄이는 메모리 관리 기법으로, vLLM이 처음 도입하고 이후 대부분의 엔진이 채택했습니다.
• Continuous Batching: 토큰 스텝마다 완료된 요청을 제거하고 새 요청을 채워 넣는 동적 배치 기법으로, GPU utilization을 크게 향상시킵니다.
• Tensor Parallelism: 모델의 가중치를 여러 GPU에 분산하여 단일 요청의 지연시간을 줄이는 기법입니다.
• Speculative Decoding: 작은 모델(draft)이 미리 토큰을 예측하고 큰 모델(target)이 검증하여 throughput을 높이는 기법입니다.
• Prefix Caching: 공통 프롬프트의 KV 캐시를 재사용하여 반복적인 prefill 비용을 줄이는 기법입니다.
• Quantization: 가중치나 활성화를 저정밀 타입으로 변환하여 메모리와 연산량을 줄이는 기법으로, FP8/INT8/INT4/GPTQ/AWQ 등 다양한 방식이 있습니다.

1. 엔진 아키텍처 개요

각 추론 엔진은 Python 프론트엔드, C++/CUDA 런타임, 커널 레이어로 구성됩니다. 엔진에 따라 PyTorch 기반(vLLM, SGLang)인지 TensorRT 기반(TensorRT-LLM)인지에 따라 빌드 시간, 모델 호환성, 커스터마이징 용이성이 크게 달라집니다.

vLLM은 PyTorch 위에 구축되어 Hugging Face 모델과의 호환성이 뛰어나며, PagedAttention과 continuous batching으로 높은 throughput을 달성합니다. SGLang은 RadixAttention으로 prefix caching을 가속하고, zero-overhead CPU 스케줄러로 런타임 오버헤드를 최소화합니다. TensorRT-LLM은 TensorRT 엔진 빌드를 통해 NVIDIA GPU에서 최적화된 커널을 생성하므로 단일 노드 성능은 가장 뛰어납니다.

그림 1. 주요 LLM 추론 엔진의 전체 아키텍처 비교

2. 핵심 최적화 기법 비교

모든 추론 엔진이 공통적으로 추구하는 것은 다음 세 가지입니다: (1) GPU memory를 최대한 활용하여 더 많은 동시 요청을 처리하고, (2) 각 요청의 첫 토큰 지연시간(TTFT)과 토큰 간 지연시간(ITL)을 줄이고, (3) 다양한 양자화와 분산 전략을 지원하는 것입니다. 그러나 엔진마다 이 세 가지를 푸는 방식이 다릅니다.

vLLM은 PagedAttention으로 KV 캐시의 조각화를 해결하고, chunked prefill로 긴 프롬프트가 decode에 미치는 영향을 줄입니다. SGLang은 RadixAttention으로 프롬프트 간 공유 접두사를 자동으로 감지하여 KV 캐시를 재사용합니다. TensorRT-LLM은 모델을 TensorRT 엔진으로 빌드하여 커널 수준의 최적화를 수행하고, Inflight Batching으로 continuous batching을 구현합니다.

그림 2. PagedAttention, RadixAttention, TensorRT 최적화의 동작 원리

PagedAttention과 RadixAttention의 차이

PagedAttention은 KV 캐시를 고정 크기 블록(일반적으로 16개 토큰 단위)으로 관리하여 메모리 단편화를 줄입니다. 각 시퀀스는 여러 블록에 걸쳐 KV 캐시를 할당받으며, 토큰이 추가될 때마다 새 블록을 연결합니다. 이 방식은 일반적인 serving에서 뛰어난 효율을 보입니다.

RadixAttention은 프롬프트의 접두사 trie를 사용하여 여러 요청 간에 공통된 KV 캐시를 공유합니다. 동일하거나 유사한 시스템 프롬프트를 사용하는 여러 세션에서 prefill 비용을 크게 줄일 수 있습니다. SGLang은 이 기술을 통해 LLM serving에서 최대 5x까지 추론 속도를 향상시켰다고 보고합니다.

3. 분산 추론과 병렬화

대규모 모델(70B 이상)은 단일 GPU에 완전히 로드할 수 없으므로, 모델 병렬화가 필수입니다. 엔진에 따라 지원하는 병렬화 전략과 구현 방식이 다릅니다.

Tensor Parallelism(TP)은 모델의 가중치 행렬을 여러 GPU에 세로로 나눕니다. 각 GPU가 전체 레이어의 일부를 담당하되, forward pass마다 all-reduce 통신을 수행합니다. Pipeline Parallelism(PP)은 레이어를 여러 스테이지로 나누어 각 GPU에 할당합니다. TP는 통신 빈도가 높지만 지연시간이 낮고, PP는 통신이 적지만 파이프라인 버블이 발생할 수 있습니다.

Expert Parallelism(EP)은 MoE 모델에서 각 expert를 다른 GPU에 분산하는 전략입니다. DeepSeek-V3처럼 수백 개의 expert를 가진 모델에서는 EP가 필수적이며, vLLM과 SGLang 모두 이를 지원합니다.

그림 3. Tensor Parallelism, Pipeline Parallelism, Expert Parallelism 비교

4. 추론 엔진별 상세 분석

vLLM

vLLM은 UC Berkeley에서 개발된 오픈소스 LLM 추론 엔진으로, 85k 이상의 GitHub 스타를 보유하고 있습니다. PagedAttention을 처음 도입하여 LLM serving의 표준을 만들었으며, 현재 200개 이상의 모델 아키텍처를 지원합니다.

핵심 특징으로는 PagedAttention 기반 KV 관리, continuous batching, chunked prefill, prefix caching, 다양한 양자화(FP8/INT8/INT4/GPTQ/AWQ/GGUF) 지원이 있습니다. 또한 speculative decoding(n-gram, suffix, EAGLE, DFlash), disaggregated prefill/decode, 멀티 LoRA 지원 등 고급 기능도 갖추고 있습니다.

하드웨어 관점에서는 NVIDIA GPU를 기본으로 지원하며, AMD GPU, x86/ARM CPU, Google TPU, Intel Gaudi 등 다양한 플랫폼을 지원합니다. OpenAI 호환 API 서버를 제공하여 기존 애플리케이션에서의 마이그레이션이 용이합니다.

TensorRT-LLM

TensorRT-LLM은 NVIDIA가 개발한 LLM 추론 최적화 라이브러리로, TensorRT 엔진 빌드를 통해 NVIDIA GPU에서 최고 수준의 성능을 달성합니다. 14k 이상의 GitHub 스타를 보유하고 있으며, v1.x 버전부터는 완전한 오픈소스로 전환되었습니다.

핵심 특징은 Python API를 통한 모델 정의, TensorRT 엔진 빌드, 커스텀 CUDA 커널, PyTorch 기반 런타임입니다. DeepSeek-R1/V3, Llama 4 같은 최신 모델에 대한 Day-0 지원을 제공하며, Blackwell GPU에서 40,000+ tokens/s 이상의 성능을 달성합니다.

단점은 빌드 시간이 길고, 모델 변경 시 엔진을 다시 빌드해야 하며, NVIDIA GPU 외의 하드웨어를 지원하지 않는다는 것입니다. Triton Inference Server와의 통합이 잘 되어 있어 프로덕션 배포에 강점이 있습니다.

SGLang

SGLang은 LMSYS에서 개발한 고성능 LLM 서빙 프레임워크로, 29.9k 이상의 GitHub 스타를 보유하고 있습니다. RadixAttention과 zero-overhead CPU 스케줄러로 빠른 추론을 제공하며, 400,000개 이상의 GPU에서 프로덕션 사용이 보고되었습니다.

핵심 특징은 RadixAttention 기반 prefix caching, zero-overhead 배치 스케줄러, prefill-decode 분리(disaggregation), 다양한 양자화(FP4/FP8/INT4/AWQ/GPTQ) 지원입니다. 딥시크 최적화를 포함한 최신 모델에 대한 day-0 지원이 강점이며, RL/포스트트레이닝 백엔드로도 사용됩니다.

하드웨어 관점에서는 NVIDIA GPU(GB200/B300/H100/A100), AMD GPU(MI355/MI300), Intel CPU, Google TPU, Ascend NPU를 지원합니다. OpenAI API 호환성을 제공하며, 프론트엔드 프로그래밍 모델(SGLang DSL)로 복잡한 LLM 파이프라인을 표현할 수 있습니다.

TGI (Text Generation Inference)

TGI는 Hugging Face가 개발한 LLM 서빙 툴킷으로, Hugging Face 생태계와의 긴밀한 통합이 강점입니다. 그러나 2026년 기준으로 maintenance 모드에 진입하여, 버그 수정과 문서 개선에 국한되어 있습니다.

핵심 특징은 간단한 런처, Tensor Parallelism, continuous batching, Flash Attention/Paged Attention 통합, bitsandbytes/GPT-Q 양자화, Server-Sent Events 스트리밍입니다. Hugging Chat, OpenAssistant 등 여러 프로젝트에서 프로덕션 사용되었습니다.

maintenance 모드 전환의 주요 원인은 vLLM, SGLang 같은 엔진들이 transformers 모델 아키텍처 기반 최적화를 채택하면서, TGI의 독자적인 최적화 방식이 경쟁력을 잃었기 때문입니다. Hugging Face 자체에서도 vLLM과 SGLang을 추천하고 있습니다.

llama.cpp

llama.cpp는 CPU/엣지 디바이스에서의 LLM 추론에 특화된 엔진으로, GGUF 형식의 양자화된 모델을 지원합니다. GPU가 없는 환경이나 제한된 리소스에서도 LLM을 실행할 수 있게 하는 것이 목표입니다.

핵심 특징은 순수 C/C++ 구현, GGUF 모델 형식, 다양한 양자화(Q4_0, Q4_K_M, Q5_K_M, Q8_0 등), Metal/CUDA/Vulkan 백엔드 지원, extremely low memory footprint입니다. mlx 라이브러리를 통해 Apple Silicon에서도 사용할 수 있습니다.

단점은 대규모 모델의 serving throughput이 전문 엔진에 비해 낮고, distributed inference 지원이 제한적이며, 최신 모델 아키텍처 지원이 느리다는 것입니다. 그러나 프로토타이핑, 로컬 개발, 엣지 배포에서는 여전히 강력한 선택지입니다.

비교/분석

그림 4. 주요 추론 엔진의 특징별 비교 매트릭스

5. 엔진 선택 기준

엔진 선택은 다음과 같은 요소에 따라 달라집니다:

모델 규모와 하드웨어: 70B 이상의 대규모 모델은 TP/PP가 필수적이므로 vLLM, TensorRT-LLM, SGLang이 적합합니다. 7B-13B 중형 모델은 어떤 엔진이든 단일 GPU에서 동작합니다. CPU-only 환경에서는 llama.cpp가 유일한 실용적 선택입니다.

성능 우선순위: 최고의 단일 GPU 성능이 필요하면 TensorRT-LLM이 가장 유리합니다. 높은 throughput이 필요하면 vLLM이나 SGLang이 좋은 선택입니다. 낮은 latency가 중요하면 SGLang의 zero-overhead 스케줄러가 도움이 됩니다.

운영 편의성: 빠른 프로토타이핑과 쉬운 배포가 중요하면 vLLM이나 SGLang이 pip로 설치 가능하고 Hugging Face 모델과 즉시 호환됩니다. 반대로 모델 종류는 적더라도 빌드된 엔진 이미지로 예측 가능한 성능을 얻고 싶다면 TensorRT-LLM + Triton 조합이 프로덕션에 적합합니다.

커뮤니티와 생태계: vLLM과 SGLang이 가장 활발한 커뮤니티를 보유하고 있으며, 빠른 모델 지원과 버그 수정이 이루어집니다. TensorRT-LLM은 NVIDIA의 공식 지원을 받습니다.

6. 장단점

장점

현대 LLM 추론 엔진들은 모두 continuous batching, PagedAttention 계열의 KV 관리, 다양한 양자화를 지원하여, 몇 년 전에 비해 동일한 하드웨어에서 훨씬 더 높은 throughput과 낮은 latency를 달성할 수 있습니다. 오픈소스 생태계가 성숙하여 프로덕션 수준의 serving을 라이선스 비용 없이 구축할 수 있습니다.

분산 추론(TP/PP/EP)이 모든 주요 엔진에서 지원되므로, 수백 B 파라미터 이상의 모델도 여러 GPU에 걸쳐 효율적으로 배포할 수 있습니다. OpenAI 호환 API를 제공하는 엔진이 많아 기존 애플리케이션에서의 전환 비용이 낮습니다.

단점

엔진 간 선택이 점점 어려워지고 있습니다. vLLM과 SGLang의 기능 차이가 줄어들고 있으며, TensorRT-LLM은 성능은 뛰어나지만 빌드 시간과 유연성에서 trade-off가 있습니다. TGI는 maintenance 모드로 전환되어 새 프로젝트에서의 사용이 제한됩니다.

각 엔진의 최적화가 특정 하드웨어(NVIDIA)에 의존하는 경향이 있어, AMD나 다른 가속기를 사용하는 경우 지원 수준이 다를 수 있습니다. 또한 최신 모델에 대한 지원 속도가 엔진마다 다르므로, 특정 모델을 빠르게 배포해야 하는 경우 엔진 선택이 중요합니다.

관련 기술

7. 핵심 정리

LLM 추론 엔진은 continuous batching과 PagedAttention을 기반으로 하여, 동일한 하드웨어에서 이전 세대 대비 수배 높은 throughput을 달성하게 되었습니다. vLLM은 범용성과 커뮤니티 규모에서, TensorRT-LLM은 단일 GPU 성능에서, SGLang은 런타임 효율성에서 각각 강점을 가지고 있습니다.

엔진 선택은 모델 규모, 하드웨어 환경, 운영 편의성, 커뮤니티 지원을 종합적으로 고려해야 합니다. 모든 엔진이 OpenAI 호환 API를 제공하므로, 실제 서비스의 bottleneck과 SLA에 맞춰 엔진을 교체하는 것이 과거보다 훨씬 쉬워졌습니다.