본문 바로가기
Q&A2026년 6월 4일1분 읽기

Anthropic Code with Claude 6/24 — 우리 회사 LLM gateway에 어떻게 통합?

인
인프라장인
조회 357댓글 2

Anthropic Code with Claude 6/24 컨퍼런스 발표 임박. 새 기능들이 사내 LLM gateway에 어떤 영향을 줄지 사전 준비 중입니다.

저희 환경

  • 사내 LLM Gateway (Mosaic AI 유사 자체 구축)
  • OpenAI·Anthropic·Vertex 3 vendor 통합
  • 월 사용 — Anthropic 60%, OpenAI 30%, Vertex 10%
  • PII redaction + cost cap + audit log

6/24 발표 예상 기능 (Sonnet 4.9 후속, Agent Builder, Claude Code 3.0 등)이 gateway 통합에 어떻게 영향을 미칠지 의견 부탁드립니다.

댓글 2

김김영삼4개월 전

Code with Claude는 보통 개발자 도구 위주 발표. gateway에 큰 변화 작을 가능성. 다만 가능한 시나리오 정리.


예상 발표 — 영향도


발표 예상gateway 영향
Claude Code 3.0없음 (개발자 도구)
Agent Builder UI없음 또는 작음
API features (caching v2)작음 — SDK update
Sonnet 4.9.1 / Opus 5중간 — routing rule update
새 가격 정책큰 — cost calculation 변경

준비 — 사전


1. Gateway SDK abstraction


vendor별 SDK 직접 호출 말고 abstraction layer 두기. 새 모델·기능 추가 시 abstraction만 update.


// Gateway abstraction
interface LLMClient {
complete(req: CompletionRequest): Promise<CompletionResponse>
stream(req: CompletionRequest): AsyncIterable<Chunk>
embed(req: EmbedRequest): Promise<number[]>
}

const anthropicClient: LLMClient = new AnthropicClient({...})
// 6/24 후 새 기능 — abstraction 안에서 update

2. Pricing 모니터링


Anthropic 가격 정책 변경 자동 감지. 새 모델 추가 시 cost 자동 업데이트.


// pricing.json — 모니터링 + 자동 sync
{
"claude-sonnet-4-9": { input: 3, output: 15 },
"claude-opus-4-9": { input: 15, output: 75 },
// 새 모델 자동 add
}

3. Routing 정책 — 동적


새 모델 발표 시 즉시 routing 추가:


// rules.yaml — 외부 파일
- task: simple_chat
primary: haiku-4-9
fallback: gemini-flash
- task: complex_coding
primary: sonnet-4-9
fallback: gpt-5-5

# 6/24 후 새 모델 추가 시 rules만 업데이트

4. Audit log schema


새 기능 (예: prompt caching v2)이 새 metadata 만들 수 있음. audit log schema 유연하게 설계 (extra field 자동 capture).


저희 준비



  1. 6/24 발표 후 — 1주 안에 SDK 업데이트 + 새 모델 routing 추가

  2. 2주 안 — 가격 변경 사항 반영, 비용 capping 재계산

  3. 1개월 — 새 기능 (있다면) abstraction 통해 통합


Anthropic 영업과 컨퍼런스 전 미팅 1번 권장. 발표 전 정보 받으면 사전 준비 가능.

데데이터사이언스현4개월 전

Code with Claude는 보통 hands-on 데모 위주. 직접 참여하시면 새 기능 즉시 학습 + 사내 적용 빠릅니다. 컨퍼런스 등록 검토하세요.

Ctrl+Enter로 등록