BPE란?
가장 빈번한 연속된 두 바이트/문자를 반복 병합해 어휘를 학습한다.
장점
- OOV(어휘 밖 단어) 없음 — 문자 단위로 쪼갤 수 있음
- 다국어·특수 기호 처리 유연
- 어휘 크기 조절 가능 (보통 32k~128k)
BPE란?Byte Pair Encoding
정의
자주 등장하는 문자 쌍을 병합해 서브워드 어휘를 구축하는 토큰화 기법. GPT·Llama가 사용.
🔗 함께 보면 좋은 용어
AI 전체 →멀티 에이전트 오케스트레이션
Supervisor·Hierarchy·Network 패턴으로 여러 에이전트 조율.
청킹 전략 상세
고정·문장·계층·의미론적·Agentic 청킹. RAG 품질의 결정.
추론 지연 최적화
TTFT·TPS·Batching·KV Cache·Speculative·Quantization 조합.
A2A
Agent-to-Agent Protocol
에이전트 간 통신 표준. Google이 제안. MCP와 상호 보완.
Accuracy
전체 예측 중 맞춘 비율. 클래스 불균형 시 오해를 유발할 수 있음.
Activation Function
신경망 뉴런의 비선형 변환. ReLU·GELU·Sigmoid·Tanh.