본문 바로가기
🤖

AI 427개 용어

LLM·에이전트·RAG·임베딩·프롬프트 등 AI 시대 필수 용어

Streamlit👁 53
Python 스크립트를 대시보드·웹 앱으로 변환. 데이터 사이언스 데모 표준.
Learning Rate👁 52
가중치 업데이트 크기를 결정하는 하이퍼파라미터. 너무 크면 발산, 작으면 수렴 느림.
LLM 비용 최적화👁 52
Prompt Caching·모델 선택·토큰 줄이기·배치 API 등 LLM 비용 절감 기법.
LLM Eval Framework👁 52
LLM 성능·품질 평가 프레임워크. LM Eval Harness·HELM·Promptfoo.
LLM Prompt Cache👁 52
동일·유사 프롬프트의 응답을 캐시해 비용·지연 절감.
MAE👁 52
Mean Absolute Error
예측과 실제 차이의 절댓값 평균. MSE보다 이상치에 견고.
Meta AI (FAIR)👁 52
Meta의 AI 연구·제품. Llama 오픈 모델로 업계 판도를 바꿈.
Mixed Precision👁 52
학습 중 FP32와 FP16·BF16을 혼용해 속도·메모리 절감. 거의 필수.
Mixtral 8x7B👁 52
Mistral AI의 MoE. 전문가 8개 × 7B, 활성 13B로 47B 성능.
Naive Bayes👁 52
피처 독립 가정하에 베이즈 정리로 분류하는 확률적 알고리즘. 스팸 필터의 고전.
Needle in a Haystack👁 52
Long Context LLM의 정보 검색 능력을 평가하는 테스트. 긴 문서 중간에 숨긴 문장을 찾게 함.
NVIDIA NIM👁 52
NVIDIA의 추론 마이크로서비스. 컨테이너로 즉시 배포.
Pooling (CNN)👁 52
특징 맵의 공간 크기를 줄이는 연산. Max·Average Pooling.
Promptfoo👁 52
프롬프트·모델 비교 CLI. YAML 정의, CI 통합. 실무 LLM 테스트 표준.
Question Answering👁 52
질문에 답변을 생성하는 NLP 작업. 추출형(문서에서 스팬)·생성형(LLM) 구분.
ResNet👁 52
Residual Network
Microsoft가 제안한 잔차 연결(skip connection) 기반 딥 CNN. 2015년 ImageNet 우승.
Softmax👁 52
로짓을 확률 분포로 변환하는 함수. 분류·attention의 핵심.
Speculative Decoding👁 52
작은 모델로 추측·큰 모델로 검증. 생성 속도 2~3배.
System Prompt👁 52
모델의 역할·톤·제약을 설정하는 최상위 지시. 대화 전체에 영향.
TGI👁 52
Text Generation Inference
Hugging Face의 프로덕션 LLM 서빙. Docker 이미지로 즉시.
Tokenizer👁 52
텍스트를 LLM이 이해하는 토큰 단위로 분할하는 컴포넌트. BPE·WordPiece·SentencePiece가 대표.
Token Limit👁 52
LLM API 호출의 입력·출력 토큰 한계. 모델마다 다름. 비용·지연에 직결.
Voice Cloning👁 52
수 초~수 분의 녹음 샘플로 특정인의 목소리를 합성하는 기술.
Whisper👁 52
OpenAI의 오픈소스 음성 인식 모델. 99개 언어 지원, 정확도 높음.
Windsurf👁 52
Codeium의 AI 에디터. Cursor 경쟁. Cascade 자율 에이전트.
Agent Benchmarks👁 51
SWE-bench·WebArena·GAIA·AgentBench 등 에이전트 평가 표준.
Aider Polyglot Benchmark👁 51
AI 코드 에이전트의 실제 편집 능력 평가.
Anthropic Speculative Sampling👁 51
빠른 작은 모델이 예측·큰 모델이 검증. Anthropic 연구.
AutoGPT👁 51
2023년 화제가 된 자율 에이전트. GPT-4에 목표만 주면 스스로 작업 분해·실행.
Azure OpenAI Service👁 51
Microsoft가 제공하는 OpenAI 모델. 엔터프라이즈 규정·네트워크 제어.
CLIP👁 51
Contrastive Language-Image Pre-training
OpenAI의 이미지-텍스트 공동 임베딩 모델. Stable Diffusion의 텍스트 이해 기반.
CoT vs ToT vs GoT👁 51
Chain·Tree·Graph of Thoughts. 추론 확장 기법.
Deep Research👁 51
OpenAI·Gemini·Claude의 심층 조사 에이전트 기능.
Devin👁 51
Cognition AI의 자율 SWE 에이전트. 2024년 화제.
ElevenLabs👁 51
Voice Cloning·TTS 선두. 초고품질 감정 표현 음성.
Fine-tuning 비용 모델👁 51
학습·추론·데이터 준비 비용. RAG vs FT 결정의 핵심.
FlashAttention👁 51
Attention 메모리·속도 최적화. IO-aware·tile 기반.
Function Calling👁 51
LLM이 JSON 스키마에 따라 함수 호출을 생성하는 기능. OpenAI가 2023년 공식화.
GAIA👁 51
Meta·Hugging Face의 범용 AI 어시스턴트 평가. 실생활 과제.
Guardrails👁 51
AI 가드레일
LLM 입출력에 추가하는 안전·품질 검증 레이어. 민감정보 마스킹·환각 감지·토픽 제한 등.
HumanEval👁 51
OpenAI의 코드 생성 벤치마크. 164개 Python 함수 완성.
Image Segmentation👁 51
이미지의 각 픽셀을 클래스로 분류하는 CV 작업. 의료·자율주행에 필수.
LangGraph👁 51
상태 머신 기반 에이전트 프레임워크. LangChain 팀. 순환·조건 분기·휴먼인루프.
LLM 출력 검증👁 51
환각·유해·JSON 스키마·금지어 체크.
LLM-as-Judge👁 51
강한 LLM이 다른 모델 응답을 평가하는 자동 평가 기법. 사람 평가의 대안.
LLM Observability👁 51
LLM 호출·비용·품질을 추적·분석. LangSmith·Langfuse·Helicone·Arize.
LLM Test Set👁 51
LLM 앱 테스트 데이터셋. 회귀 방지·Prompt 개선 기준.
Machine Translation👁 51
한 언어를 다른 언어로 번역하는 NLP 작업. Transformer 등장 후 품질 급상승.
MCP Auth (OAuth 2.1)👁 51
MCP 서버의 OAuth 2.1 기반 인증. 2025년 3월 스펙 추가.
Model Merging👁 51
여러 파인튜닝된 모델을 병합. Linear·SLERP·DARE·MergeKit.