로컬 LLM 셋업 가이드 (v21)

로컬 LLM 셋업 가이드 (v21) 1. 개요 및 사전 요구사항 로컬 LLM (대형 언어 모델)을 실행하려면 다음과 같은 최소 사양이 필요합니다: 하드웨어 요구사항: RAM: 최소 8GB, 권장 16GB 이상 GPU: NVIDIA RTX 3060 이상 (CUDA 지원), 또는 Apple Silicon M1/M2 이상 저장공간: 10GB 이상 여유 공간 운영체제: Ubuntu 20.04 이상, 또는 macOS 12 이상 Python 3.8 이상 필수 패키지 설치: sudo apt update sudo apt install git cmake build-essential python3-pip python3-venv 2. 프레임워크 비교 프레임워크 장점 단점 적합성 llama.cpp 최소 의존성, 직접 컴파일 가능, 높은 성능 설치 복잡함, GUI 없음 고급 사용자, 성능 중심 Ollama 간단한 C...