기술노트 — AI·풀스택·인프라 실전 개발 지식 | 영삼넷

본문 바로가기

LLM API 비용 줄이기 — 캐싱·모델 라우팅·프롬프트 다이어트

LLM 비용은 토큰에 비례한다. 프롬프트 캐싱·작은 모델 라우팅·컨텍스트 압축·출력 제한으로 같은 품질에 비용을 크게 낮춘다.

#LLM#Cost#Optimization

Infra3분 읽기

Docker 이미지 용량 줄이기 — 멀티스테이지 빌드

1GB 넘는 Node 이미지를 100MB대로. 멀티스테이지·alpine·.dockerignore·레이어 순서로 빌드 도구를 최종 이미지에서 뺀다.

#Docker#Optimization#DevOps

Frontend3분 읽기

React.memo, useMemo, useCallback 언제 쓰고 언제 안 쓰나

세 가지 메모이제이션은 "비싼 계산"이나 "memo된 자식에 넘기는 참조"에만 의미가 있다. 무지성 남발은 오히려 느려진다. 판단 기준 정리.

#React#Performance#useMemo

DSPy 2.7 프로덕션 — 프롬프트 자동 최적화 실전 사례

DSPy 2.7로 분류 파이프라인 자동 최적화. 정확도 +9.2%p, 사람-튜닝 1주 vs MIPROv2 4시간, 비용 변화 솔직 공개.

#DSPy#Prompt#Optimization

LLM 추론 비용 최적화 — 캐싱·배치·라우팅으로 70% 절감하는 7가지 기법

LLM API 운영 비용 70% 절감하는 7가지 실전 기법. 프롬프트 캐싱·배치 API·모델 라우팅·프롬프트 압축 가이드.

#LLM#Cost#Optimization

Anthropic Prompt Caching 실전 — 비용 90% 절감 패턴

Claude API의 Prompt Caching으로 같은 컨텍스트 반복 사용 시 90% 비용 절감. 5분 vs 1시간 TTL 선택, cache hit율 모니터링까지.

#Anthropic#Cache#Cost

LLM 비용 최적화 종합 — 캐싱·라우팅·프롬프트 압축·로컬 폴백

LLM API 비용을 5~10배 줄이는 검증된 5가지 기법 — Prompt Caching, Model Routing, Prompt Compression, Local Fallback, Batch API. 실측 사례.

#LLM#Cost#Optimization

Infra1분 읽기

컨테이너 이미지 최적화 — 멀티스테이지 빌드 고급 패턴

Docker 멀티스테이지 빌드의 고급 패턴으로 이미지 크기를 90% 줄이는 방법.

#Docker#Optimization#Container

AI 프롬프트 캐싱 — 비용 절감과 성능 최적화

LLM API의 프롬프트 캐싱 기법으로 비용을 90%까지 절감하는 방법.

#LLM#Caching#Optimization

Database4분 읽기

SQL 쿼리 최적화 10가지 실전 팁

느린 SQL 쿼리를 빠르게 만드는 10가지 실전 최적화 기법.

#SQL#Optimization#Performance