본문 바로가기

도커 모델 러너

Docker Model Runner

로컬에서 AI 모델 실행하는 CLI

한줄평

클라우드에 데이터를 보내지 않고 로컬에서 모델을 돌려보려는 개발자에게 맞습니다. 명령줄 기반이라 일반 사용자에게는 진입장벽이 있습니다.

이런 분께 로컬에서 AI 모델을 직접 돌려보려는 개발자께

좋은 점

  • Docker 설치 없이 단독 실행
  • 로컬에서 추론이 끝나 데이터가 외부로 안 나감

아쉬운 점

  • GUI 가 없어 터미널이 익숙해야 함

도커 모델 러너 소개

내 PC에서 로컬 AI 모델을 실행하는 명령줄 도구입니다. Docker Desktop 이나 Docker Engine 을 따로 설치하지 않아도 단독으로 동작하도록 만든 독립 실행판입니다. 모델을 내려받아 로컬에서 추론을 돌리고 싶을 때 터미널에서 씁니다. GUI 는 없고 개발자·실험용 CLI 입니다.

제작사

docker · 공식 홈페이지