NU / PROMPT STUDIO

BLOG / 아키텍처

Registry 기반 모델 라우팅: 외부 모델을 하나의 계약 뒤로

이미지·영상·오디오 모델을 코드 수정 없이 붙였다 떼는 방법. Provider SDK 계약을 유일한 외부 모델 경계로 삼은 결정과 그 대가를 정리했습니다.

· 6분 읽기

하나의 경계, 여러 모델

멀티모델 생성 플랫폼은 외부 장애, 장시간 작업, 비용 트랜잭션, 대용량 자산을 동시에 다룹니다. 우리는 Provider SDK 계약을 구현하지 않은 외부 모델 호출을 금지하는 ADR을 승인했고, 그 뒤로 모든 모델은 동적 Registry에 등록된 어댑터를 통해서만 실행됩니다.

어댑터는 모델 목록, 입력 스키마, 비용 추정, 제출, 상태 조회, 결과 정규화를 하나의 인터페이스로 노출합니다. 덕분에 모델 교체와 오류 정규화, 비용·상태 통합이 서비스 코드 변경 없이 가능해졌습니다.

라우팅이 실제로 하는 일

생성 요청은 모델 ID가 아니라 기능과 미디어 타입을 기준으로 카탈로그에서 후보를 찾고, 운영자가 내린 모델·프로바이더 상태 오버라이드(ACTIVE/DEGRADED/DISABLED)를 겹친 뒤 실행 가능한 어댑터로 향합니다.

  • 입력 검증: 어댑터가 선언한 JSON 스키마로 요청을 사전 검증
  • 비용 추정: 제출 전에 어댑터의 estimate로 예상 비용을 확정
  • 오류 정규화: 프로바이더별 실패를 재시도 가능 여부가 붙은 공통 오류로 변환