로컬 LLM 학습용 SFF 시스템 구성안

 

📊 옵션 A: 고사양 구성 (13B+ 모델 대응)

부품모델중고 예상가격비고
CPUAMD Ryzen 7 9800X3D650,000원대용량 캐시로 추론 성능 우수
GPURTX 4090 24GB2,800,000원13B 모델 QLoRA 파인튜닝 가능
메모리DDR5-5600 64GB (32GB×2)450,000원대용량 모델 로딩 여유분
메인보드B650I AORUS Ultra280,000원Mini-ITX, PCIe 5.0 지원
저장장치Samsung 980 PRO 2TB200,000원빠른 모델 로딩 속도
파워SF750 750W 80+ Platinum180,000원SFF 전용, 고효율
케이스Dan A4-H2O220,000원240mm AIO 지원 SFF
쿨러Arctic Liquid Freezer II 240120,000원고성능 AIO 쿨러

총 예산: 4,900,000원


💡 옵션 B: 최적화 구성 (7B-13B 모델 대응)

부품모델중고 예상가격비고
CPUAMD Ryzen 7 7800X3D380,000원9800X3D 대비 가성비 우수
GPURTX 3090 24GB1,400,000원24GB VRAM, 13B 파인튜닝 가능
메모리DDR5-5600 32GB (16GB×2)180,000원기본 구성으로 충분
메인보드B650M Pro B150,000원Micro-ATX, 기본 기능
저장장치WD SN770 1TB80,000원NVMe, 적당한 성능
파워SFX 650W 80+ Gold120,000원SFF 전용, 안정적
케이스Cooler Master NR200P120,000원가성비 SFF 케이스
쿨러Noctua NH-U9S80,000원공랭 쿨러, 조용함

총 예산: 2,510,000원


🔄 AMD R9700 32GB 출시 후 업그레이드 고려사항

옵션 A' (R9700 적용시)

  • RTX 4090 → AMD R9700 32GB 교체
  • 예상 가격: 1,800,000~2,200,000원 (워크스테이션용)
  • 장점: 32GB VRAM으로 20B+ 모델도 시도 가능
  • 단점: ROCm 호환성, 초기 드라이버 안정성 이슈 가능

성능 비교 예상

  • VRAM: R9700 (32GB) > RTX 4090 (24GB)
  • AI 추론 성능: RTX 4090 ≥ R9700 (CUDA vs ROCm)
  • 가격: R9700 ≈ RTX 4090 중고가 수준

📝 각 옵션별 활용 가능 모델

옵션 A (RTX 4090)

  • 7B 모델: Full Fine-tuning 가능
  • 13B 모델: QLoRA 파인튜닝 가능
  • 20B+ 모델: 양자화 추론만 가능

옵션 B (RTX 3090)

  • 7B 모델: Full Fine-tuning 가능
  • 13B 모델: QLoRA 파인튜닝 가능 (배치 크기 제한)
  • 20B+ 모델: 4-bit 양자화 추론만 가능

💰 비용 절약 팁

  1. CPU: 7800X3D 중고 구매로 27만원 절약
  2. GPU: 3090 vs 4090 선택으로 140만원 차이
  3. 메모리: 32GB로 시작 후 필요시 64GB 업그레이드
  4. 케이스: NR200P 등 가성비 SFF 케이스 활용

🎯 추천 결론

  • 예산 500만원 이상: 옵션 A (RTX 4090)
  • 예산 250만원 수준: 옵션 B (RTX 3090)
  • R9700 출시 대기: 2025년 하반기 검토 후 결정

댓글