기술노트 — AI·풀스택·인프라 실전 개발 지식 | 영삼넷

본문 바로가기

Database6분 읽기

pgvector — PostgreSQL로 벡터 검색·RAG 구현하기

PostgreSQL 안에서 임베딩 유사도 검색을 하는 pgvector. 거리 연산자 선택, HNSW 인덱스, 하이브리드·필터 검색까지 실전 관점으로 정리했습니다.

#pgvector#벡터검색#임베딩

GraphRAG — 지식 그래프로 다중 홉 질문 푸는 RAG

문서에서 엔티티와 관계를 뽑아 지식 그래프로 만드는 GraphRAG. 일반 RAG가 막히는 다중 홉·전역 질문을 로컬/글로벌 검색으로 푸는 원리와 비용 트레이드오프.

#GraphRAG#지식 그래프#RAG

컨텍스트 엔지니어링 — 프롬프트가 아니라 컨텍스트를 설계하는 법

프롬프트 문장이 아니라 컨텍스트 윈도우에 무엇을·얼마나·어떤 순서로 넣을지 설계하는 컨텍스트 엔지니어링. 토큰 예산 함수, 롤링 요약, 캐시 정렬까지 실전 정리.

#컨텍스트 엔지니어링#context engineering#LLM

긴 컨텍스트 관리 — lost in the middle과 압축 전략

긴 컨텍스트 관리 — lost in the middle 현상, 가지치기·요약 압축·외부 메모리, 중요한 문서의 배치 전략, 현재 시각 하나로 무너지는 프롬프트 캐시 함정까지. 창이 크다고 다 넣으면 왜 안 되는지 실전으로 정리했다.

#컨텍스트#long context#lost in the middle

임베딩 실전 — 정규화·차원 축소(Matryoshka)·유사도 함정

임베딩 실전 — L2 정규화와 코사인·내적을 헷갈리면 검색이 조용히 망가진다. Matryoshka 차원 축소, 질의·문서 비대칭 임베딩, 모델 교체 시 전체 재색인까지 벡터 검색 품질을 좌우하는 설정들을 실수 사례와 함께 정리했다.

#임베딩#embedding#벡터

Database6분 읽기

HNSW vs IVFFlat — 벡터 인덱스 두 종류, 언제 무엇을

pgvector의 두 벡터 인덱스 HNSW와 IVFFlat을 리콜·속도·메모리·증분 갱신 관점으로 비교. 파라미터 튜닝과 필터 조합 함정까지 RAG 실무 기준으로 정리했다.

#HNSW#IVFFlat#pgvector

RAG 검색 평가지표 — Recall@k·MRR·nDCG로 검색 품질 재기

Recall@k·MRR·nDCG로 검색 단계를, faithfulness로 생성 단계를 재는 RAG 평가지표를 정리했다. 소규모 평가셋 만들기부터 지표를 층으로 나눠 검색이 문제인지 프롬프트가 문제인지 원인을 갈라내는 실전 진단법까지 담았다.

#RAG#검색평가#Recall

하이브리드 검색 — BM25와 벡터를 RRF로 합치기

BM25 키워드 검색과 임베딩 벡터 검색을 RRF로 합치는 하이브리드 검색을 다룬다. 점수 스케일이 달라 그냥 더하면 안 되는 이유, 순위 융합으로 푸는 법, 한국어 형태소 토크나이징 주의점, 리랭커와의 조합 순서까지 실전으로 정리했다.

#하이브리드검색#BM25#RRF

리랭커(reranker) — RAG 검색 정확도를 끌어올리는 마지막 한 수

벡터 검색이 넉넉히 뽑은 후보를 크로스인코더로 다시 정렬하는 것이 리랭커다. 바이인코더와의 구조 차이, k_recall과 k_final 설정, 지연시간 트레이드오프, 모델마다 다른 점수 컷오프 함정까지 RAG 검색 정확도를 끌어올리는 실전을 정리했다.

#RAG#리랭커#reranker

LLM 컨텍스트 윈도우 — 길다고 다 좋은 게 아니다

컨텍스트 윈도우가 크면 다 넣으면 될까? "중간을 잊는" 현상과 비용·지연 때문에 무작정 채우면 오히려 답이 나빠진다. 제대로 쓰는 법.

#LLM#Context#Prompt

LLM 환각(hallucination) 줄이는 실전 방법

모델은 모르는 것도 자신 있게 지어낸다. 근거 제공(RAG)·"모르면 모른다"·출력 구조화·검증으로 환각을 억제한다.

#LLM#Hallucination#RAG

임베딩 모델과 벡터DB 선택 기준

차원·다국어·비용·도메인 적합도로 임베딩을 고르고, 규모·필터·운영 부담으로 벡터DB를 고른다. 과한 인프라를 피하는 법.

#Embedding#VectorDB#RAG