한줄평
“여러 로컬 LLM 엔진을 한 화면에서 관리하려는 사람에게 편의를 줍니다. 실행 대상 엔진들이 미리 설치돼 있어야 제구실을 합니다.”
이런 분께 이런 분께 — 로컬 LLM 엔진을 손쉽게 오가며 쓰려는 분
좋은 점
- 로컬 모델 탐색·실행을 한 화면에서
- 여러 추론 엔진을 함께 지원
아쉬운 점
- 대상 엔진이 별도로 설치돼 있어야 합니다
엘엘엠엘 소개
내 컴퓨터에 있는 로컬 언어 모델을 찾아보고, llama-server·vLLM·Ollama 같은 실행 엔진을 골라 띄워 주는 터미널 UI 도구입니다. 명령을 일일이 외우지 않아도 터미널 화면에서 모델과 실행 방식을 선택해 서버를 올릴 수 있습니다. 여러 추론 엔진을 오가며 로컬 모델을 다루는 사람에게 편리합니다. 터미널에서 동작하는 텍스트 기반 인터페이스입니다.