로컬 AI 환경
구축 가이드
로컬 AI를 직접 실행하세요.
로컬 AI 환경이란?
ChatGPT, Gemini와 같은 AI 웹 서비스에 접속하지 않고
내 PC에 AI 모델을 설치해 직접 실행하는 환경입니다.
로컬 AI 환경 구축 실습 로드맵
※ 본 가이드는 Windows PC 환경을 기준으로 안내합니다.
※ 각 단계 클릭 시 해당하는 단계로 이동할 수 있습니다.
로컬 AI 구축 전 알아두면 좋아요
설치 가이드
ComfyUI 활용해보기
원하는 이미지 생성하기
템플릿 메뉴에서 원하는 콘셉트의 템플릿을 선택합니다.
Text to Image 입력창에 만들고 싶은 이미지를 문장으로 입력한 뒤, [실행] 버튼을 누르면 이미지를 생성할 수 있습니다.
로컬 AI 구축 전 알아두면 좋아요
팝업 닫기AI 모델이란?
AI 모델은 사람의 두뇌처럼 질문을 이해하고, 답변을 만들거나 글, 코드, 이미지를 생성하도록 학습된 핵심 기능입니다.
예를 들어 Gemma는 Google DeepMind가 공개한AI 언어모델로, 내 PC에 설치해 대화, 문서요약, 코딩 보조 등에 활용할 수 있습니다.

AI Agent란?
AI 모델은 질문을 이해하고 답변을 만드는 역할을 하고 AI Agent는 AI 모델에 파일 및 문서 확인, 웹 브라우저 실행 기능을 연결해 실제 작업까지 처리하도록 만든 환경입니다.
예를 들어 “회의록을 요약하고 브라우저를 열어줘” 라고 요청하면 AI 모델이 요청을 이해하고 AI Agent가 연결된 기능을 사용해 작업을 실행합니다.
이번 실습에서는 Gemma AI 모델과 Hermes Agent를 연결해 문서 요약과 웹 브라우저 실행을 직접 진행합니다.

7B · 12B · 27B는 무슨 뜻인가요?
| 7B | 약 70억 개의 파라미터를 가진 모델 |
|---|---|
| 12B | 약 120억 개의 파라미터를 가진 모델 |
| 27B | 약 270억 개의 파라미터를 가진 모델 |
B는 Billion의 약자로, 10억 단위를 뜻합니다.
7B·12B·27B는 AI 모델의 크기를 나타내는 숫자입니다.
예를 들어 7B는 비교적 가벼운 모델, 27B는 더 많은 PC 성능이 필요한 큰 모델이라고 이해하면 됩니다.
숫자가 클수록 더 복잡한 작업을 처리하기 좋지만,
그래픽카드와 메모리 같은 PC 성능도 더 많이 필요합니다.

VRAM이 중요한 이유
VRAM은 그래픽카드가 AI 모델과 이미지 데이터를
빠르게 처리하기 위해 사용하는 전용 메모리입니다.
VRAM 용량이 넉넉할수록 더 큰 AI 모델을 실행하거나
고해상도 이미지 생성 작업을 진행하기 좋습니다.
반대로 VRAM이 부족하면 실행 속도가 느려지거나
원하는 AI 모델을 실행하기 어려울 수 있습니다.

로컬 AI 모델별 권장 PC 사양
- 표의 사양은 로컬 AI를 시작하기 위한 권장 기준입니다. 더 큰 AI 모델을 사용하거나 긴 문서를 다룰수록 더 높은 사양이 필요할 수 있습니다.
입문형
| 추천 모델 | 4B급 경량 모델 예: Gemma 4B급 |
|---|---|
| 권장 사양 | CPU 6코어 이상 VRAM 8GB 이상 RAM 16~32GB SSD 1TB 이상 |
| 활용 범위 | 가벼운 로컬 챗봇 단일 PDF 요약 짧은 문서 작성 및 번역 |
업무 활용형
| 추천 모델 | 12B급 실용 모델 예: Gemma 12B급, Q4/Q5 또는 SFP8 |
|---|---|
| 권장 사양 | CPU8코어 이상 VRAM 16GB 이상 RAM 32GB 이상 SSD 1~2TB |
| 활용 범위 | 개인용 로컬 AI 비서 메신저 연동 파일 정리 문서 작성 코딩 보조 |
고성능형
| 추천 모델 | 26B~30B급 대형 모델 예: Gemma 26B급, Qwen 27B급 |
|---|---|
| 권장 사양 | CPU 12 ~ 16 코어 이상 VRAM 32GB 이상 RAM 64GB 이상 SSD 2TB 이상 |
| 활용 범위 | 긴 문서 및 코드 분석 사내 문서를 바탕으로 질문/답변 여러 단계의 업무 자동화 문서 작성 고급 코딩 보조 |














