AI PC용 CPU와 NPU
한눈에 보기
AI PC는 CPU, GPU와 NPU를 함께 사용해 로컬 AI 작업을 처리한다. NPU는 저전력 지속 추론에 유리하지만, 지원 정밀도·메모리·소프트웨어 런타임과 앱 최적화가 실제 활용성을 결정한다.
CPU·GPU·NPU 역할
| 장치 | 적합한 작업 | 특징 |
|---|---|---|
| CPU | 제어, 전처리, 작은 모델, 범용 코드 | 호환성이 높지만 대규모 병렬 연산 효율은 제한적 |
| GPU | 대규모 병렬 추론·생성 | 높은 성능, 메모리와 전력 요구가 큼 |
| NPU | 저전력 지속 추론, 카메라·음성·배경 효과 | 지원 연산과 런타임 범위가 제한될 수 있음 |
주요 플랫폼
- Intel Core Ultra
- AMD Ryzen AI
- Apple Silicon Neural Engine
- Qualcomm Snapdragon X·X2 Hexagon NPU
- 모바일 SoC의 NPU·APU
TOPS 해석
TOPS는 초당 조 단위 연산을 뜻하지만, 정밀도(INT8, INT4 등), 희소성, 제조사 산정 방식이 다르다. TOPS만으로 LLM 토큰 속도, 이미지 생성 시간 또는 앱 체감을 비교할 수 없다.
확인해야 할 소프트웨어
- Windows ML·DirectML·ONNX Runtime 지원
- 제조사 SDK와 드라이버
- 앱이 NPU 실행 공급자를 사용하는지 여부
- 모델의 연산자와 정밀도 지원
- 공유 메모리 또는 전용 메모리 용량
- 보안·개인정보 처리 방식
로컬 LLM 관점
NPU가 있다고 모든 LLM이 자동으로 빨라지지 않는다. 모델 크기, 양자화, 메모리 대역폭과 런타임 지원이 중요하다. 대형 모델은 GPU 또는 통합 메모리가 더 적합할 수 있으며, NPU는 작은 모델과 상시 기능에 유리하다.
2026년 플랫폼 예시
- Intel Core Ultra Series 3 제품군은 모바일·엣지 제품 목록을 제공한다.
- Apple M5 계열은 Neural Engine과 GPU 내부 AI 가속을 강조한다.
- Snapdragon X2 계열은 80 TOPS NPU 구성을 공식 제품 페이지에 제시한다.
주의
제조사 성능 배수는 특정 모델·소프트웨어·전력 조건의 결과다. 실제 구매 판단에는 독립 테스트와 사용 앱 지원 여부를 함께 확인한다.
구조와 특징
쉽게 이해하기
CPU는 프로그램의 명령을 읽고 계산·제어 작업을 하는 프로세서다. 흔히 “컴퓨터의 두뇌”라고 부르지만 실제 PC는 CPU·RAM·GPU·저장장치·각종 컨트롤러가 함께 동작한다.
도식: 자체 제작. 실제 구조는 제품과 세대에 따라 달라질 수 있다.
구조와 특징
쉽게 이해하기
CPU는 프로그램의 명령을 읽고 계산·제어 작업을 하는 프로세서다. 흔히 “컴퓨터의 두뇌”라고 부르지만 실제 PC는 CPU·RAM·GPU·저장장치·각종 컨트롤러가 함께 동작한다.
관련 문서
참고 자료
- Intel Core Ultra Processors — Intel, 확인일: 2026-08-07
- Apple M5 — Apple, 확인일: 2026-08-07
- Snapdragon X2 Plus Specifications — Qualcomm, 확인일: 2026-08-07
- Samsung Exynos Mobile Processors — Samsung Semiconductor, 확인일: 2026-08-07