AI SDK 6 마케팅에 "1줄로 vendor switch"인데 실제는:
// 1줄 변경
const model = anthropic('sonnet-4-9') // → openai('gpt-5.5')
// 그런데 — prompt 형식 미세 차이
// - Anthropic: system + user/assistant
// - OpenAI: system 별도 + user/assistant
// → prompt 약간 다르게 동작
또 tool calling 동작 미세 차이, prompt caching 적용 불가. 1줄 변경으로는 결국 운영 못 함.
실제로 vendor switch 깔끔하게 운영하는 패턴 있나요?
댓글 5
1분에 완벽 switch 마케팅은 과장. 실제는 1주~1개월 정착 필요. 단 switch 자체는 단순. 정착 단계 정리.
1분에 가능한 것
API 호출 자체는 1분에 변경. 모델만 바꿔도 결과 나옴. 다만 — 결과 품질 vendor마다 다름.
1주~1개월 필요한 것
정착 패턴 — Eval 기반
vendor switch 의사결정은 eval 결과 기반. 1분 switch는 무리.
운영 — Multi-vendor routing
한 vendor 다 안 쓰고 routing:
이 패턴이 정착. AI SDK 6의 provider 추상화가 진가 — 새 vendor 추가 시 routing rule만 update.
실용 권장
저는 — 핵심 workload는 1 vendor 고정 + eval로 검증. 변경 신중. fallback 또는 cost-saving용은 routing. 1분 switch는 실제로는 emergency 시(vendor downtime)만 사용.
핵심은 eval 자동화. 새 모델 출시 때마다 eval 돌려서 정확도·비용 비교. 그 결과로 vendor switch 결정. 1분에 switch는 마케팅, eval은 1주.
한 vendor lock-in이 운영 단순 + 깊이 활용 (prompt caching, extended thinking) 가능.
완벽한 추상화는 시간 부담이 큰 trade-off입니다.
저희도 결국 Anthropic 한 vendor + Haiku 4.9 cheap fallback 정착으로 갔어요.