스크린샷
한줄평
“데이터를 외부로 보내지 않고 AI를 써보고 싶은 사람에게 좋은 출발점입니다.”
이런 분께 개인정보 걱정 없이 로컬에서 AI를 돌려보려는 사람
좋은 점
- 대화 내용이 PC 밖으로 나가지 않습니다
- 오프라인에서도 동작합니다
- 내 문서를 근거로 답하게 할 수 있습니다
아쉬운 점
- 모델 파일 용량이 크고 사양을 많이 탑니다
- 상용 클라우드 AI보다 답변 품질이 떨어질 수 있습니다
GPT4All 소개
GPT4All은 대형 언어 모델(LLM)을 서버가 아니라 내 컴퓨터에서 직접 실행하는 오픈소스 데스크톱 프로그램입니다. 여러 종류의 오픈 모델을 프로그램 안에서 내려받아 채팅 형태로 대화할 수 있고, 대화 내용이 외부로 전송되지 않아 오프라인에서도 동작합니다.
내 문서 폴더를 연결해 그 내용을 근거로 답하게 하는 로컬 문서 기능도 제공합니다. 다만 모델 파일이 수 기가바이트에 달하고, 답변 속도와 품질은 PC의 사양(특히 메모리와 그래픽카드)에 크게 좌우됩니다. 공식 윈도우 설치본이 제공됩니다.
