이번 주, MDASH 하네스 내부의 MAI-Cyber-1-Flash가 CyberGym 벤치마크에서 1위를 차지했습니다. Mythos보다 12ppts 앞서면서도 비용은 50% 수준이었습니다.
이러한 성능 대비 비용 최적화는 새로운 모델 배포 패러다임의 핵심입니다. Tokenmaxxing은 지난 몇 달간의 주요 트렌드였습니다. 이제 토큰 효율성(Token efficiency)이 업계의 다음 큰 화두입니다.
프론티어 기업을 구축하려면 프론티어 성능과 비용의 균형을 최적화해야 합니다. 이 곡선에서 어느 지점에 위치할지 선택하는 것이 중요합니다. 모델, 하네스, RLE를 공동 최적화하면 기업에 맞는 곡선상의 지점을 선택할 수 있습니다.
프론티어 기업들이 항상 켜져 있고 실시간으로 백그라운드에서 지속적으로 작동하는 에이전트를 배포하는 세상을 향해 나아가면서, 추론 수요 비용은 급등할 것입니다.
대부분의 경우, 모든 작업에 프론티어 범용 모델이 필요하지는 않습니다. 특정 제품에 맞게 모델을 튜닝하면 프론티어 성능을 유지하거나 능가하면서도 토큰 비용을 극적으로 줄일 수 있습니다. 때로는 50% 이상, 혹은 그 이상까지 절감됩니다.
Satya가 4분기 실적 발표에서 언급했듯이, 지난 분기 이후 Microsoft 제품 전반에 걸쳐 12개 이상의 전문 MAI 모델을 출시했습니다. 이 모든 모델은 기존 배포 모델 대비 품질을 유지하거나 개선하면서도 훨씬 적은 토큰을 사용하며, 많은 경우 GPU 비용을 50-90%까지 절감합니다.
이것이 바로 hill-climbing 머신의 실제 작동 모습입니다. 자체 모델, 자체 하네스, 자체 데이터와 워크플로우, 그리고 자체 RLE에서 훈련된 모델을 공동 최적화하는 것입니다. 우리는 이것이 프론티어 기업의 새로운 리듬이라고 믿으며, 모든 기업이 이렇게 작업할 수 있도록 Frontier Tuning이라는 서비스를 구축하고 있습니다.
이 플라이휠이 바로 프론티어 생태계가 번성하고 더욱 탄력적으로 변화하여 모델을 교체하고, 자체 IP를 구축하며, 비용을 통제할 수 있게 해줄 것입니다.
다음은 이번 분기에 출시된 모델과 토큰 효율성 영향에 대한 목록입니다.
- MAI-Code-1-Flash는 VS Code에서 GPT-5.4 Mini 및 Claude Haiku 4.5보다 코드 수락률이 10% 높고, 중간 토큰 사용량이 10% 낮으며, 평균 리텐션을 9% 증가시킵니다.
- MAI-Code-1-Flash는 또한 Excel 모델의 기반으로, 유사한 모델과 비슷한 성능을 제공하면서 H100에서 서비스되고 GB 대비 비용이 절감됩니다.
- MAI-Image-2.5-Flash는 PowerPoint에서 GPT-Image-2 대비 GPU 비용을 최대 84%까지 절감합니다. OneDrive에서는 GPT-Image-1.5 대비 토큰 효율성을 최대 2.5배 향상시키고 P95 지연 시간을 25% 단축하며 사용자 저장률을 25% 증가시킵니다.
- MAI-Voice-2-Flash는 세계적 수준의 품질을 제공하면서 GPU 비용을 최대 89%까지 절감하고, 이전 모델보다 2배 빠르고 32% 저렴합니다.
- MAI-Transcribe-1.5 는 경쟁사 모델보다 최대 5배 빠르게 실행될 수 있으며, Dragon Copilot 제품 전반에 걸쳐 58개 언어로 제공됩니다. 이 제품은 170,000명의 의료 제공자가 사용하며, 거의 3,000만 건의 환자 진료에 활용됩니다.
업계 역사상 가장 흥미로운 시기에 열정적인 여름이었습니다. 팀의 멋진 작업에 찬사를 보냅니다! 더 많은 것이 곧 나올 예정이며, 우리는 이제 막 시작했습니다.
