한줄평
“로컬 LLM 을 웹 UI 로 편하게 관리하려는 분에게 적합합니다. llama.cpp 생태계에 익숙하지 않으면 초기 설정에 학습이 필요합니다.”
이런 분께 로컬 LLM 여러 개를 화면으로 운영하려는 분께
좋은 점
- 웹 UI 로 모델 실행·전환을 시각적으로 관리
- llama-swap 연동으로 다중 모델 운용
아쉬운 점
- llama.cpp 배경 지식이 있어야 수월하다
라마포지 매니저 소개
로컬에서 llama.cpp 기반 AI 모델을 내려받고 실행·전환하도록 관리해 주는 도구입니다. 웹 UI 를 제공해 브라우저에서 모델을 고르고 돌릴 수 있고, llama-swap 연동으로 여러 모델을 상황에 맞게 바꿔 씁니다. 내 PC 에서 로컬 LLM 을 여러 개 운영하려는 분이 명령줄 대신 화면으로 다루고 싶을 때 쓰기 좋습니다.