단일 세션의 비용, 두 가지 방식으로 측정한 결과
세 가지 작업(비밀번호 시스템 재설정, 저작권 헤더 추가, 결제 서비스 리팩토링)이 포함된 Droid 단일 세션을 예로 들어 보겠습니다. 이 모든 작업을 Opus와 같은 최첨단 Claude 모델에서 실행하면 각각 $0.84, $0.62, $1.41, 총 $2.87의 비용이 발생합니다.
대신 복잡도에 따라 라우팅해 보겠습니다. 처음 두 작업은 일상적인 작업이므로 효율적인 모델에서 각각 $0.09와 $0.12로 비용이 낮아지고, 리팩토링 작업은 최첨단 모델에서 $1.41로 유지됩니다. 세션 총 비용은 $1.62로, 동일한 결과를 43% 더 저렴하게 얻을 수 있으며, 변경된 유일한 변수는 각 작업을 처리한 모델뿐입니다.
대부분의 엔지니어링 팀은 하나의 모델을 선택하고 그대로 사용합니다. 최적이기 때문이 아닙니다. 세션 중간에 모델을 전환하면 컨텍스트가 손실되고, 추가적인 마찰이 발생하며, 하루에 40번씩 누구도 내고 싶지 않은 결정을 내려야 하기 때문입니다. 그래서 모든 것을 감당할 수 있는 가장 뛰어난 모델에 모든 작업을 맡기고 비용 청구서는 더 이상 들여다보지 않습니다.
이런 기본값에는 비용이 따릅니다. 비싼 모델이 안전한 선택이 아닙니다. 그냥 비쌀 뿐입니다. 그리고 일상적인 작업에서의 품질 격차는 빠르게 좁혀져서 더 이상 수학이 성립하지 않습니다.
Factory Router는 Droids 플랫폼 내에 위치하여 각 작업을 자동으로 라우팅합니다. 일상적인 작업은 효율적인 모델로, 복잡한 작업은 최첨단 모델로, 모든 전환에 걸쳐 전체 컨텍스트를 유지합니다. 위의 세션 수치는 Factory의 출시 벤치마크에서 가져온 것입니다. Factory는 모델을 판매하지 않기 때문에, 사용자를 비싼 경로에 계속 머물게 할 구조적 유인이 없습니다. 이 점은 수치를 읽을 때 염두에 둘 가치가 있습니다.

아무도 측정하지 않는 문제
모든 Droid 세션은 모델에서 실행되며, 대부분의 팀은 Opus를 선택하고 다시는 그 선택을 재고하지 않습니다. 이러한 기본값의 비용은 실수로 드러나지 않기 때문에 눈에 보이지 않습니다. 작업은 완료되고, 결과는 훌륭하며, 비용 청구서는 필요했던 것보다 조용히 더 높을 뿐입니다.
위의 단일 세션은 약 $1.25를 낭비합니다. 이는 별것 아니게 느껴지지만, 이를 곱해보면 이야기가 달라집니다. 월 10,000 세션 기준, 동일한 기본값은 $16,400의 필수 지출을 $28,700의 실제 지출로 바꾸며, 이는 연간 $147,600이 일상적인 작업을 결코 필요하지 않았던 최첨단 모델로 라우팅하는 데 사용되는 것입니다.
대부분의 팀은 세션의 30~50%가 가장 비싼 모델에서 실행되는 일상적인 작업임을 발견합니다. 이 격차가 바로 전체 기회이며, 다음은 이를 해소하기 위한 세 섹션에 걸친 15가지 규칙입니다.

→ 규칙 1: 다른 모든 것보다 먼저 작업 유형을 분류하세요:
1지난 30개의 Droid 작업을 살펴보고 두 그룹으로 분류하세요:23최첨단 모델 필요: 시스템 아키텍처, 인증, 결제, 보안,4교차 서비스 의존성, 잘못될 경우 디버깅 또는 롤백에 시간이 소요되는 작업.5100줄 이상의 비즈니스 로직을 포함한 복잡한 리팩토링.67일상: 문서 업데이트, 설정 변경, 기존 함수에 테스트 추가,8명확한 스펙이 있는 작은 버그 수정, 저작권 헤더, README 수정,9보일러플레이트 생성, 간단한 마이그레이션.1011각 그룹의 개수를 세세요.1213Factory의 세션 수준 데이터 기준:14"비밀번호 재설정" 유형 작업: Opus $0.84 vs 라우팅 $0.09. 89% 저렴.15"저작권 헤더 추가" 유형 작업: Opus $0.62 vs 라우팅 $0.12. 81% 저렴.1617일상 작업 개수에 그 차이를 곱하세요.18그 차이가 현재의 모델 선택 세금입니다.
→ 규칙 2: 가정이 아닌 실제 지출을 측정하세요:
1지난 한 달간의 Droid 세션 로그를 가져오세요.23각 세션에 대해:4- 작업 유형 (규칙 1 분류 기준)5- 사용된 모델6- 비용78계산:9- 최첨단 모델을 사용한 일상 작업의 총 지출10- 해당 작업을 효율적인 모델에서 실행할 경우의 비용 (80-90% 절감 적용)11- 라우팅을 통해 확보 가능한 월간 절감액1213이것이 Factory Router를 활성화하기 전의 기준선입니다.14대부분의 팀은 세션의 30-50%가 최첨단 모델에서 실행되는 일상 작업임을 발견합니다.
→ 규칙 3: 복잡도를 알리는 작업 설명을 작성하세요:
1작업을 설명하는 방식은 모든 라우팅 시스템에 해당 작업의 복잡도를 알립니다.23낮은 복잡도 신호 (효율적인 모델로 라우팅):4- "비즈니스 로직 없음, 간단한 설정 업데이트: config.yaml에서 타임아웃을 30에서 60으로 변경"5- "/helpers 디렉토리의 유틸리티 함수에 누락된 JSDoc 주석 추가"6- "새로운 배포 단계를 반영하도록 README 업데이트"78높은 복잡도 신호 (최첨단 모델로 라우팅):9- "3개 서비스에 걸친 새로운 SSO 통합을 지원하도록 인증 미들웨어 리팩토링"10- "동시 부하 상황에서만 발생하는 결제 프로세서의 경합 조건 디버깅"11- "테넌트별 임계값을 처리하도록 속도 제한 시스템 재설계"1213구체적이고 컨텍스트가 풍부한 작업 설명은 라우팅 정확도를 향상시킵니다.14모호한 설명은 보수적으로 최첨단 모델로 라우팅됩니다.
→ 규칙 4: 연간 라우팅 ROI를 계산하세요:
1Factory Router 절감액 추정 공식:23월간 세션 수: [N]4라우팅 없는 세션당 평균 비용: [$ 기준 Opus 비용]5일상 작업 비율: [규칙 1 감사 결과 %]6일상 작업 비용 절감: 80-90%78월간 절감 추정치:9N × 기준선 × 일상 작업 비율 × 0.85 = 월간 회수 금액1011연간: 12를 곱하세요.1213월 5,000 세션, 평균 $2.87, 일상 작업 40%를 실행하는 팀:145,000 × $2.87 × 0.40 × 0.85 = 월 $4,879 = 연 $58,5481516이는 최소치입니다. Missions (장기 실행 자율 작업)은 절감액을 더욱 늘립니다.
→ 규칙 5: 코드베이스에서 최첨단 모델 전용이 무엇을 의미하는지 문서화하세요:
1라우팅을 활성화하기 전에, 코드베이스에서 반드시 최첨단 모델에 남아 있어야 할 항목을 정의하세요.23이것을 한 번 작성하고, 라우팅 가이드라인 기준선으로 붙여넣으세요:45"다음은 항상 최첨단 모델이 필요합니다:6- [인증/결제/보안 레이어]에 영향을 미치는 모든 변경 사항7- [N]개 이상의 파일을 포함하는 교차 서비스 리팩토링8- CI/CD 파이프라인 설정 변경9- 데이터베이스 스키마 마이그레이션10- 이슈 트래커에서 [P0/중대]로 플래그가 지정된 모든 항목1112그 외 모든 것은 효율적인 모델로의 라우팅 대상입니다."1314이것이 라우팅 정책 문서가 됩니다.15특정 코드베이스에서 최첨단 처리가 필요한 부분을 학습하면서 업데이트합니다.
개발자 10명 팀, 월 1,000 세션, 일상 작업 40%: 연 $13,776 절감 개발자 50명 팀, 월 5,000 세션, 일상 작업 40%: 연 $58,548 절감 엔터프라이즈 (Nvidia, Adobe 규모): 연 6자리 수 절감
피해야 할 실수: Router를 활성화하기 전에 모든 작업을 수동으로 분류하려고 하지 마세요. Router가 분류를 처리합니다. 여러분의 역할은 반드시 최첨단 모델에 남아 있어야 하는 작업에 대한 확실한 규칙을 정의하고, 나머지는 시스템에 맡기는 것입니다.
0:28
→ 규칙 6: Factory Router를 한 번에 활성화하세요:
1Factory CLI 또는 Desktop App에서:231. 모델 선택기를 엽니다.42. "Factory Router"를 선택합니다.53. 완료.67시작하기 위한 설정이 필요하지 않습니다. Router는 즉시 기본 라우팅 로직을 사용합니다.89활성화되었는지 확인하려면:10간단한 작업("이 파일의 주석 업데이트")을 실행하세요.11세션 로그에서 모델 할당을 확인하세요.12Opus가 아닌 효율적인 모델이 처리하는 것을 볼 수 있습니다.1314간단한 작업에 Opus가 표시되면, Router가 선택되었고 특정 모델 재정의가 없는지 확인하세요.
→ 규칙 7: 코드베이스에 대한 라우팅 가이드라인을 설정하세요:
1라우팅 가이드라인은 권고 사항입니다. Router가 특정 코드베이스에 대해 더 나은 결정을 내리도록 돕습니다.2모델을 강제하지는 않습니다.34이것을 라우팅 가이드라인 시작점으로 붙여넣고 스택에 맞게 편집하세요:56"인증, 결제 및 보안 변경 사항: 최첨단 모델.7데이터베이스 마이그레이션 및 스키마 변경 사항: 최첨단 모델.8외부 소비자에게 영향을 미치는 API 계약 변경 사항: 최첨단 모델.910문서 업데이트: 효율적인 모델.11기존 함수에 테스트 추가: 효율적인 모델.12설정 및 환경 변수 변경: 효율적인 모델.13보일러플레이트 생성 및 스캐폴딩: 효율적인 모델.14코드 주석 및 JSDoc: 효율적인 모델.15README 및 체인지로그 업데이트: 효율적인 모델.1617그 외 모든 것: Router가 작업 컨텍스트에 따라 결정합니다."
→ 규칙 8: 엔터프라이즈 거버넌스를 위한 라우팅 가이드라인을 구성하세요:
1에이전트를 대규모로 운영하는 팀의 경우, 라우팅 가이드라인은 거버넌스 문서가 됩니다.23규제 산업(은행, 의료, 엔터프라이즈 SaaS)을 위한 표준 템플릿:45"고민감도 라우팅 규칙:6- [PII / 금융 데이터 / 인증]에 관련된 모든 것 = 최첨단 전용7- 외부 API 변경 사항 = 최첨단 전용8- 프로덕션 배포 스크립트 = 최첨단 전용9- 인시던트 대응 작업 = 최첨단 전용1011표준 라우팅:12- 개발, 스테이징 및 테스트 환경 = Router가 결정13- 내부 도구 및 자동화 = 효율적인 모델 선호14- 문서, 보고 및 커뮤니케이션 = 효율적인 모델1516재정의 정책:17모든 개발자는 작업에 대해 최첨단 모델을 요청할 수 있습니다.18Router는 이를 권고 사항이 아닌 하드 재정의로 처리합니다.19모든 최첨단 재정의는 월간 검토를 위해 기록합니다."2021이것을 프로젝트 루트에 ROUTING_POLICY.md로 저장하세요.22CLAUDE.md 또는 이에 상응하는 컨텍스트 파일에서 참조하세요.
→ 규칙 9: 라우팅을 활성화한 상태로 Missions를 실행하세요:
1Missions는 Factory의 장기 실행 자율 작업입니다.2몇 시간 또는 며칠 동안 지속됩니다. 감독이 필요하지 않습니다.34Factory Router가 활성화되면, Missions도 동일한 라우팅 로직의 혜택을 받습니다.5Mission의 각 단계는 적절하게 라우팅됩니다.6복잡한 Mission의 간단한 단계는 효율적인 모델에서 실행됩니다.7Mission은 최첨단 추론이 실제로 필요할 때만 최첨단 요금을 지불합니다.89구성 방법:10Mission을 시작하기 전에 Factory Router를 활성화하세요.11Mission의 복잡도 프로필을 반영하는 라우팅 가이드라인을 추가하세요:1213"이 Mission은 [고복잡도 핵심 작업]과 [일상적인 지원 작업]을 포함합니다.14핵심 작업 (아키텍처 결정, 보안 분석): 최첨단 모델.15지원 작업 (문서, 설정, 보일러플레이트): 효율적인 모델.16위에 명시된 추론이 필요하지 않은 모든 단계에는17가장 효율적인 모델을 사용하세요."1819장기 Mission은 더 많은 일상적인 단계를 축적하기 때문에 비례적으로 더 큰 절감 효과를 봅니다.
→ 규칙 10: 제공자 장애 조치 정책을 설정하세요:
1Factory Router는 안정성을 위해 제공자를 교차하여 라우팅합니다.2하나의 제공자 경로가 성능 저하되면, 세션은 정상 제공자를 통해 계속됩니다.34가동 시간 요구 사항이 있는 엔터프라이즈 팀의 경우:56"안정성 라우팅 정책:7- 모델별 기본 제공자: [선호 제공자 목록]8- 장애 조치 트리거: [N]초 지연 초과 또는 실패하는 모든 요청9- 장애 조치 동작: 가능한 경우 동일 모델, 다른 제공자.10 동일 모델을 사용할 수 없는 경우, 다음 최첨단 모델로 에스컬레이션.11- 전용 TPM: 해당 티어에 대해 Factory 계정 팀에 확인.12- 목표: 99.9%+ 요청 안정성.1314모든 장애 조치 이벤트를 기록합니다. 주간 제공자 상태 패턴을 검토합니다."
Terminal-Bench 2: Opus 통과율 99%, 비용 20% 절감 Legacy-Bench: Opus 통과율 96%, 비용 25% 절감 제공자 라우팅을 통한 99.9%+ 요청 안정성
3 / 3 | 시스템: 절감 효과가 누적되는 규모에서 Factory 운영하기
비용 절감 이야기는 개별 개발자 수준에서 흥미롭습니다. 팀 수준에서는 중요해집니다. 엔터프라이즈 규모에서는 예산 항목이 됩니다.
Nvidia. Adobe. EY. Palo Alto Networks. Adyen. 이들은 Factory의 엔터프라이즈 고객입니다.
월 5,000 세션을 실행하는 팀은 일상 작업 비율 40%에서 라우팅만으로 연 $58,548를 절감합니다. 월 50,000 세션 팀은 $585,480를 절감합니다. 수학은 볼륨에 따라 선형적으로 확장됩니다. 엔터프라이즈 토큰 비용은 선형적이지 않습니다.
더 깊은 요점은 아키텍처에 관한 것입니다. 대부분의 AI 에이전트 플랫폼은 단일 모델 가정 위에 구축됩니다. 하나의 팀, 하나의 모델, 하나의 공급업체. Factory의 플랫폼은 설계상 모델에 구애받지 않습니다. 모든 LLM (Claude, GPT, Gemini, Llama, 오픈 소스), 모든 인터페이스 (CLI, Desktop, VS Code, Slack, GitHub, Linear, Jira, CI 파이프라인), 소프트웨어 수명 주기의 모든 단계를 지원합니다.
Router는 해당 아키텍처의 한 계층입니다. 비용 제어 계층입니다. 터미널에서 작동하는 동일한 Droid 컨텍스트가 Slack에서도 작동합니다. 개별 세션에 적용되는 동일한 라우팅 정책이 며칠 동안 실행되는 Missions에도 적용됩니다.
마지막 다섯 가지 규칙은 Router를 중심으로 전체 Factory 시스템을 구축합니다.

→ 규칙 11: 라우팅 절감액을 매주 측정하세요:
1Router 성능을 추적하기 위한 주간 루틴을 설정하세요.23Factory 세션 로그에서 확인:41. 이번 주 총 세션 수52. 모델 분포 (각 모델에 할당된 %)63. 라우팅 비용 vs 기준선 (모든 항목 Opus)74. Router가 최첨단 모델로 에스컬레이션한 세션 (품질 신호)89보고서 형식:10> 세션: [N]11> 효율적인 모델 사용률: [%]12> 최첨단 모델 사용률: [%]13> 실제 지출: $[금액]14> 기준선 (모든 항목 Opus)이었다면: $[계산된 금액]15> 주간 절감액: $[금액]16> 최첨단 모델로 에스컬레이션: [N] (라우팅 가이드라인 개선 검토)1718에스컬레이션 비율이 10%를 초과하면 라우팅 가이드라인을 검토하세요.19에스컬레이션이 너무 많다는 것은 일상적인 작업이 복잡하다고 설명되고 있음을 의미합니다.
→ 규칙 12: 전체 롤아웃 전에 에이전트 준비 상태 평가를 수행하세요:
1전체 팀에 Factory Router를 배포하기 전에, Factory의 에이전트 준비 상태 평가를 실행하세요.23다음에 걸쳐 100개 이상의 신호를 평가합니다:4- 코드베이스 상태 (테스트 커버리지, CI 안정성, 문서화)5- 워크플로우 성숙도 (PR 프로세스, 코드 리뷰 표준, 배포 파이프라인)6- 팀 준비 상태 (에이전트 도구 친숙도, 기존 자동화)78출력을 사용하여 우선적으로 라우팅할 워크플로우의 우선순위를 정하세요.910준비 상태가 높은 워크플로우: Router를 즉시 배포하고, 전체 라우팅을 활성화합니다.11준비 상태가 중간인 워크플로우: 보수적인 가이드라인으로 Router를 배포하고, 더 많은 최첨단 작업을 유지합니다.12준비 상태가 낮은 워크플로우: 라우팅 전에 준비 상태를 구축합니다.13준비되지 않은 코드베이스의 에이전트 도구는 오류를 수정하는 데 최첨단 모델에서 더 많은 시간을 소비합니다.1415Router 절감액은 준비 상태가 높은 환경에서 가장 큽니다.
→ 규칙 13: 의도적으로 모델 풀을 구축하세요:
1Factory Router는 최첨단 및 효율적인 모델 풀에서 가져옵니다.2구성하는 풀은 사용 가능한 라우팅 옵션에 영향을 미칩니다.34권장 시작 풀:56최첨단 계층 (복잡한 작업):7- Claude Opus (최신 버전)8- GPT-5.2 (승인된 공급업체 목록에 있는 경우)910효율적인 계층 (일상적인 작업):11- Kimi K2.6 (코드 작업을 위한 F1 포인트 대비 최상의 가치)12- MiniMax M2.7 (간단한 작업을 위한 최저 비용)1314코드베이스에서 성능을 검증하면서 모델을 추가하세요.152계층 구조로 시작하세요.16라우팅 데이터가 확보되면 3계층 (최첨단 / 중간 / 효율적)으로 확장하세요.1718어떤 모델이 어떤 규정 준수 요구 사항에 승인되었는지 문서화하세요.19엔터프라이즈에서 특정 모델 제공자를 제한하는 경우, 그에 따라 풀을 구성하세요.20데이터 상주가 필요한 환경을 위해 Factory를 통해 미국 호스팅 오픈 소스 모델을 사용할 수 있습니다.
→ 규칙 14: CI 파이프라인에 라우팅을 통합하세요:
1Factory는 CI 파이프라인에서 작동합니다. 라우팅도 거기에 적용됩니다.23GitHub Actions 워크플로우에 Factory Router를 추가하세요:45풀 리퀘스트 리뷰의 경우:6"파일 변경 범위별로 PR 리뷰 작업을 라우팅합니다.7- 보안 및 인증 파일 변경: 최첨단 모델8- 테스트 파일: 효율적인 모델9- 문서 변경: 효율적인 모델10- 혼합 PR: 가능하면 섹션별로 라우팅, 그렇지 않으면 전체 리뷰에 최첨단 모델"1112자동화된 QA의 경우:13"테스트 복잡도별로 QA 작업을 라우팅합니다.14- 중요 경로 종단 간 테스트: 최첨단 모델15- 단위 테스트 생성: 효율적인 모델16- 회귀 테스트 스위트: 효율적인 모델"1718CI 라우팅은 모든 커밋에서 실행되므로 절감 효과가 누적됩니다.19매일 100개의 커밋에서 테스트 생성 시 Opus와 Kimi K2.6의 비용 차이는 실질적입니다.
→ 규칙 15: 월간 라우팅 정책 검토를 설정하세요:
1라우팅 가이드라인은 코드베이스와 팀이 성장함에 따라 발전해야 합니다.23월간 검토 의제 (30분):451. 비용 보고서: 실제 vs 기준선, 절감 추세62. 에스컬레이션 분석: 어떤 작업이 에스컬레이션되었고 그 이유73. 라우팅 가이드라인 업데이트: 현재 가이드라인이 여전히 코드베이스 복잡도를 반영합니까?84. 새 모델 평가: 풀에 추가할 가치가 있는 새 모델이 있습니까?95. 팀 피드백: 개발자가 Router를 자주 재정의합니까? 그 이유는 무엇입니까?1011라우팅 가이드라인 업데이트가 필요함을 알리는 질문:12- 에스컬레이션 비율 15% 초과: 가이드라인이 효율적인 모델 쪽으로 너무 공격적입니다.13- 에스컬레이션 비율 2% 미만: 가이드라인이 너무 보수적일 수 있으며, 절감 기회를 놓치고 있습니다.14- 개발자 재정의 비율 20% 초과: Router가 개발자 기대치와 일치하지 않습니다.1516모든 검토 후 ROUTING_POLICY.md를 업데이트하세요.
Factory Router 없음: 모든 세션이 작업 유형에 관계없이 최첨단 모델에서 실행됨 Factory Router 있음: 일상적인 작업은 효율적인 모델, 복잡한 작업은 최첨단 모델에서 실행됨 결과: 비용 20-43% 절감, 최첨단 벤치마크 성능의 96-99% 유지
결론
수학이 도달하는 지점은 여기입니다.
대부분 팀에서 엔지니어링 Droid 세션의 40-60%는 일상적인 작업임 Opus에서 해당 세션: 세션당 평균 $2.87 라우팅 적용 시 해당 세션: 평균 $1.62 월 10,000 세션 기준: 연 $147,600 절감
벤치마크 수치는 유효합니다: Terminal-Bench 2에서 Opus 통과율의 99%를 20% 낮은 비용으로 달성. Legacy-Bench에서 96%를 25% 낮은 비용으로 달성. 모델 전환 간에 프롬프트 캐시가 그대로 유지되므로, 라우터가 세션 중간에 모델을 변경해도 품질이 떨어지지 않습니다. 제공자 장애 조치는 99.9%+ 안정성으로 세션을 계속 실행합니다.
Factory Router는 비공개 연구 프리뷰 상태입니다. 모델 선택기에서 한 번 선택하면 됩니다. 추가 설정이 필요 없습니다.
제가 아직 이해하려고 노력하는 부분: 권고적 라우팅 가이드라인이 다양한 코드베이스 유형에서 얼마나 잘 작동하는지입니다. "인증 변경 = 최첨단, 문서 수정 = 일상"과 같은 규칙을 설정하는 것은 이론적으로는 깔끔해 보입니다. 작업이 중간에 위치할 때는 어떤 일이 발생할까요? 더 많은 팀이 이것을 사용하기 시작함에 따라 지켜볼 가치가 있는 에지 케이스입니다.
위의 15가지 규칙은 설정 시스템입니다. 규칙 1과 6부터 시작하세요.
추신. 대부분의 사람들이 대충 읽고 지나칠 내용: Factory는 모델을 판매하지 않습니다. 그들은 여러분의 토큰 비용으로 이익을 얻지 않습니다. 이러한 구조적 차이가 바로 이러한 라우팅 시스템이 존재하는 이유입니다. 더 많은 모델이 풀에 추가됨에 따라 어떤 일이 일어날지 궁금합니다.
묻히기 전에 북마크하세요
유용했다면, 필요한 사람 한 명과 공유하세요






