Local LLM 구축하기 · 20/30 · 에이전트와 연결
에이전트는 모델의 답을 바탕으로 도구를 실행하고 그 결과를 다시 모델에 전달합니다. 반복 작업을 줄이는 데 쓸 수 있지만 접근할 자료와 도구를 먼저 정해야 해요. Hermes Agent를 로컬 모델에 연결하되 읽기와 실행 범위를 좁혀 시작합니다.
Ollama와 일반 사용자 계정의 실습 폴더를 준비합니다. 민감한 파일이 없는 위치에서 제공자와 모델을 연결합니다.
일반 사용자 환경에서 시작
별도의 일반 사용자 환경에서 실습 폴더를 만듭니다. 관리자 터미널을 기본으로 사용하지 않습니다. Ollama 실행을 확인한 뒤 현재 공식 통합 경로로 시작합니다. launch 기능이 없는 버전은 Ollama 업데이트 또는 Hermes 공식 설치 문서를 검토합니다.
New-Item -ItemType Directory -Force "$env:USERPROFILE\hermes-lab"
Set-Location "$env:USERPROFILE\hermes-lab"
ollama --version
ollama launch hermes설치·제공자 선택 화면에서 로컬에 내려받은 모델을 고릅니다. :cloud 모델과 메신저 연결은 이번 실습에서 제외합니다. Windows native와 WSL2 경로가 지원되지만 여기서는 Windows Ollama와 같은 환경에서 진행합니다.
제공자 주소 직접 확인
| 항목 | 로컬 Ollama에 연결할 값 |
|---|---|
| 제공자 | Custom endpoint 또는 Ollama 통합 안내 |
| API base URL | http://127.0.0.1:11434/v1 |
| API key | 로컬 기본 Ollama에는 실제 키 불필요 |
| 모델 | 내려받은 정확한 태그, cloud 접미사 제외 |
제공자와 모델은 hermes setup이나 hermes model로 다시 선택할 수 있습니다. 여기서 쓰는 /v1은 다음 OpenClaw의 네이티브 제공자 주소와 달라요. Ollama에 연결하는 설정이라도 프로그램마다 요구하는 API 경로를 확인합니다.
hermes model
hermes tools
hermes prompt-size첫 요청과 읽기 도구
먼저 가상의 점검 메모를 요약하게 해 봅니다. 응답을 확인한 다음 필요한 읽기 도구만 추가하세요. 사용하지 않는 브라우저·외부 검색·쓰기 도구는 tools 관리 화면에서 끕니다. 파일 접근 범위는 계정 권한과 제공되는 격리 설정으로 제한합니다.
“이 폴더만 읽어라”는 지시로 실제 파일 권한이 제한되지는 않습니다. 프로세스는 실행 계정이 허용한 범위에 접근할 수 있습니다. 실습용 계정이나 컨테이너를 사용하고, 명령 승인과 격리의 동작은 현재 Hermes 보안 문서에서 확인합니다.
기억·skill·외부 연결 관리
대화 사이의 기억과 재사용할 skill은 편리하지만 잘못된 절차나 민감한 값도 남을 수 있어요. 저장 위치와 삭제 방법을 확인합니다. 생성된 skill은 명령, 접속 주소, 필요한 권한을 읽은 뒤 다시 사용합니다.
추론 모델이 로컬이어도 검색 도구나 보조 모델, fallback 제공자는 외부에 연결할 수 있습니다. 여기서는 외부 제공자 키 없이 짧은 요청부터 확인합니다. 도구 호출 형식이 깨지면 모델 능력과 서버 호환성, 프롬프트 크기를 나눠 점검합니다.
참고 자료
문서·모델 태그 확인 기준: 2026년 10월 18일. 기본 실습 환경: Windows 11 x64.
.jpg){kind=link}
답글 남기기