🤖
AI — 427개 용어
LLM·에이전트·RAG·임베딩·프롬프트 등 AI 시대 필수 용어
TGI👁 108
Text Generation Inference
Hugging Face의 프로덕션 LLM 서빙. Docker 이미지로 즉시.
Token Limit👁 108
LLM API 호출의 입력·출력 토큰 한계. 모델마다 다름. 비용·지연에 직결.
ZeRO👁 108
Zero Redundancy Optimizer
DeepSpeed의 메모리 최적화. 옵티마이저 상태·그래디언트·파라미터를 GPU에 분산.
Prompt Compression👁 107
긴 프롬프트를 압축해 토큰·비용 절감. LLMLingua·요약 사전처리.
Softmax👁 107
로짓을 확률 분포로 변환하는 함수. 분류·attention의 핵심.
Streamlit👁 107
Python 스크립트를 대시보드·웹 앱으로 변환. 데이터 사이언스 데모 표준.
XAI👁 107
Explainable AI
모델의 예측 근거를 설명 가능하게 만드는 접근. 의료·금융 등 규제 분야 필수.
Batch API (LLM)👁 106
OpenAI·Anthropic의 비동기 배치 처리. 50% 저렴, 24시간 내 완료.
Knowledge Graph👁 106
엔티티와 관계를 그래프로 표현한 지식 베이스. LLM과 결합해 정확도 향상.
LangChain👁 106
LLM 애플리케이션 프레임워크. 체인·에이전트·RAG 추상화를 빠르게 구현.
ReAct Pattern👁 106
Reason + Act 패턴. LLM이 "생각 → 행동 → 관찰"을 반복하며 도구 사용.
SSM👁 106
State Space Model
신호 처리의 연속 상태 공간 모델을 딥러닝에 적용. Mamba 기반.
Underfitting👁 106
모델이 데이터 패턴을 제대로 학습하지 못한 상태. 학습 정확도 자체가 낮음.
Vision Transformer👁 106
ViT
이미지를 패치로 쪼개 Transformer로 처리. CNN 대신 SOTA 달성.
Zed + AI👁 106
Rust 기반 고성능 에디터 Zed의 AI 통합. 공동 편집·AI 어시스턴트.
Managed Agents👁 105
Claude Managed Agents
Anthropic이 2026년 공개한 관리형 에이전트 런타임. 에이전트 루프·도구 실행·샌드박스·상태 지속성을 SaaS로 제공.
RAG Evaluation👁 105
RAG 파이프라인의 검색·생성 품질을 측정하는 방법. Ragas·TruLens.
Sora👁 105
OpenAI의 text-to-video 모델. 최대 분 단위 고품질 영상 생성.
Structured Output👁 105
LLM이 JSON 스키마에 100% 부합하는 응답을 생성하게 하는 기능.
Tokenizer👁 105
텍스트를 LLM이 이해하는 토큰 단위로 분할하는 컴포넌트. BPE·WordPiece·SentencePiece가 대표.
병렬 Tool Use👁 105
하나의 응답에서 여러 도구를 동시에 호출해 지연 단축.
VAE👁 105
Variational Autoencoder
잠재 공간에서 샘플링해 데이터를 생성하는 확률적 오토인코더. Diffusion의 예비 단계.
AI Watermarking👁 104
AI 생성 콘텐츠에 감지 가능한 표식. SynthID(Google)·C2PA.
lattice👁 104
OpenAI·Anthropic 출신이 만든 로컬 전용 오픈소스 코딩 에이전트. 외부 API 호출 없이 로컬 모델만 사용.
MCP Resources👁 104
MCP의 Resource 프리미티브. 파일·DB·API 컨텍스트를 LLM에 제공.
RAG 환각 방지👁 104
검색 실패·컨텍스트 무시로 인한 환각을 탐지·완화.
SGLang👁 104
vLLM 대안 고성능 LLM 서빙. 복잡 제어 플로우에 강점.
Streaming Response (LLM)👁 104
LLM 응답을 토큰별로 실시간 전송. SSE로 구현. ChatGPT의 그 효과.
Sub-agents👁 104
메인 에이전트가 작업을 위임하는 서브 에이전트. 컨텍스트 격리·전문화.
Vision OCR👁 104
GPT-4V·Claude Vision·Gemini로 이미지에서 텍스트 추출. 기존 OCR 대체.
HyDE👁 103
Hypothetical Document Embeddings
질문 임베딩 대신 LLM이 생성한 가상 답변을 임베딩해 검색. 품질 향상 기법.
LangGraph👁 103
상태 머신 기반 에이전트 프레임워크. LangChain 팀. 순환·조건 분기·휴먼인루프.
Learning Rate👁 103
가중치 업데이트 크기를 결정하는 하이퍼파라미터. 너무 크면 발산, 작으면 수렴 느림.
MoE👁 103
Mixture of Experts
여러 "전문가" 서브네트워크 중 일부만 활성화해 파라미터는 크지만 추론 비용은 낮춘 아키텍처. Mixtral·GPT-4·Llama 4에 적용.
Regularization👁 103
모델 복잡도를 제한해 과적합을 방지하는 기법 총칭. L1·L2·Dropout 등.
Text Classification👁 103
텍스트를 미리 정의된 범주로 분류하는 NLP의 기본 작업. 스팸 필터·토픽 분류 등.
TruLens👁 103
LLM·RAG 평가·관측. Feedback function으로 평가 자동화.
Vercel AI SDK👁 103
Vercel의 벤더 중립 LLM SDK. Next.js·React에 LLM 통합을 간편화.
Voice Cloning👁 103
수 초~수 분의 녹음 샘플로 특정인의 목소리를 합성하는 기술.
Anthropic Speculative Sampling👁 102
빠른 작은 모델이 예측·큰 모델이 검증. Anthropic 연구.
Data Augmentation👁 102
원본 데이터를 변형·합성해 학습 데이터를 늘리는 기법. 이미지·텍스트·오디오 전반.
Eval Harness👁 102
LLM을 표준 벤치마크로 자동 평가하는 프레임워크. lm-eval-harness가 대표.
Helicone👁 102
LLM API 프록시 기반 관측 플랫폼. 코드 변경 최소화로 로깅·비용 추적.
HellaSwag👁 102
일상 상황의 다음 문장을 고르는 상식 추론 벤치마크.
Machine Translation👁 102
한 언어를 다른 언어로 번역하는 NLP 작업. Transformer 등장 후 품질 급상승.
MCP Transport👁 102
MCP 통신 방식. stdio (로컬)와 SSE/WebSocket (원격).
MMLU👁 102
Massive Multitask Language Understanding
57개 분야 시험 문제로 LLM을 평가. AI의 학문적 지식 측정 표준.
Needle in a Haystack👁 102
Long Context LLM의 정보 검색 능력을 평가하는 테스트. 긴 문서 중간에 숨긴 문장을 찾게 함.
OpenRouter👁 102
여러 LLM 제공자를 통일된 API로 접근하는 라우팅 서비스. 비용·성능 비교 용이.
Prompt Injection👁 102
사용자 입력·외부 문서에 포함된 악성 지시가 LLM의 원래 지시를 가로채는 공격. AI 에이전트 시대의 가장 큰 보안 위협.