기술노트 — AI·풀스택·인프라 실전 개발 지식 | 영삼넷

본문 바로가기

멀티모달 임베딩 — Voyage 3.5 vs Cohere Embed v5 실측 비교

이미지·텍스트 혼합 검색에서 Voyage 3.5와 Cohere Embed v5를 사내 카탈로그 30만 건으로 벤치마크.

#Embedding#Multimodal#Voyage

Perplexity 스타일 검색 파이프라인 — 0에서 만드는 RAG+웹검색 통합

질문 분류, 다중 소스 검색, 인용 추출, 스트리밍 답변까지. Perplexity 같은 답변형 검색을 직접 구축하는 7단계 가이드.

#RAG#Search#Citation

vLLM 1.1 LoRA 핫스왑 — 멀티 테넌트 LLM 서빙, 비용 50%↓

vLLM 1.1의 LoRA 핫스왑 기능으로 테넌트별 미세조정 모델을 한 GPU에 동거시켜 인프라 비용을 절반으로 줄인 운영기.

#vLLM#LoRA#MultiTenant

AI 평가 프레임워크 3종 — promptfoo · DeepEval · Inspect 실전 비교

LLM 평가 도구 promptfoo, DeepEval, Inspect의 실전 사용 비교. 어떤 워크로드에 어떤 도구를 선택해야 하는지 결정 가이드.

#LLMEval#promptfoo#DeepEval

llama.cpp 3.0 + Apple Silicon M4 Max — 로컬 LLM 서빙 처리량 한계

M4 Max 128GB에서 llama.cpp 3.0으로 70B/8B 모델 처리량 한계 측정. Metal 백엔드 최적화, KV 캐시 양자화, 동시 세션 운영기.

#llamacpp#AppleSilicon#LocalLLM

Llama 5 405B Multimodal — 자체 호스팅 비용·성능 벤치마크

Llama 5 405B 멀티모달의 자체 호스팅 인프라 비용과 처리량 측정. 8×H200 대비 4×B200 비교, API 대비 손익분기점.

#Llama#SelfHosting#Inference

Gemini 3 Code Assist vs Claude Code — 실제 코드베이스 100태스크 비교

Gemini 3 Code Assist GA와 Claude Code를 동일 모노레포 100 태스크로 비교. 성공률, 비용, 토큰 효율, 멀티파일 편집 정확도 실측.

#Gemini#ClaudeCode#Benchmark

Claude Sonnet 4.6 Bash Tool — 서버 운영 에이전트 프로덕션 패턴 7가지

Bash 도구를 안전하게 프로덕션 서버에 연결하는 7가지 패턴. 권한 격리, 출력 후처리, 위험 명령 가드, 실측 사례.

#Claude#Sonnet#BashTool

Anthropic Files API + Prompt Caching — 멀티문서 처리 비용 80%↓

Files API 업로드, 캐싱 TTL/granularity 설계, 문서 100개 검색 비용 변화 실측. RAG 결합 패턴.

#Anthropic#Files#PromptCaching

AI 코드 보안 스캔 — Snyk · Semgrep · GitHub Advanced Security 실측

SAST/SCA/Secret 탐지 거짓양성률, AI 룰 효과, CI 통합과 비용 비교. 5만 LOC 모노레포 실측.

#Security#Snyk#Semgrep

Backend6분 읽기

tonic 0.13 Rust gRPC — Axum 통합 프로덕션 패턴

tonic + axum 통합 라우터, tower 미들웨어, 스트리밍, 관측·재시도. Go gRPC 대비 4배 처리량 실측.

#Rust#gRPC#tonic

Frontend6분 읽기

Lightning CSS 2.0 — PostCSS 작별, 브라우저 호환 빌드 전략

Rust 기반 파서·트랜스포머로 PostCSS 대비 100배. browserslist 트랜스파일, CSS 모듈, 플러그인 마이그레이션 가이드.

#LightningCSS#PostCSS#CSS