본문 바로가기

NEWS

뉴스

AI, 개발, IT 업계의 최신 소식을 전합니다.

태그 필터:폴백
"폴백" 태그 뉴스
전체 1건
08.13
AI
AI 게이트웨이 — 여러 LLM을 한 곳에서 관리하는 이유
AI 게이트웨이란? 여러 LLM을 하나의 API 뒤에 두고 모델 라우팅·폴백·비용 한도·캐싱·관측을 중앙에서 관리하는 중간 계층 — 언제 필요하고 무엇을 주의해야 하나.