다음은 주어진 영어 텍스트를 한국어로 번역한 결과입니다.
이는 AI 에이전트 스웜(Agent Swarm)의 개념부터 활용법까지 완벽하게 분석한 A-Z 가이드입니다.
왜 이것이 AI 활용 방식을 완전히 바꾸는지 알아보겠습니다.
잊어버리기 전에 북마크하세요.
2026년 4월 Moonshot AI가 오픈 웨이트로 공개한 플래그십 모델 Kimi K2.6은 이 아이디어를 구현한 가장 진지한 오픈소스 사례입니다.
실제 업무에는 폭(width)이 있습니다. 조사해야 할 회사 50곳.
분석해야 할 파일 200개. 서로 의존하지 않고, 줄을 서서 기다릴 필요가 없는 수십 개의 하위 작업. 에이전트 스웜은 바로 이러한 구조를 위한 아키텍처입니다.
이 가이드는 훈련 인프라부터 API까지 작동 방식을 상세히 설명한 후, 현재 가장 중요하다고 생각하는 패턴인 계획 및 검증에는 Claude Opus 4.8, 실행에는 Kimi를 사용하는 방법을 다룹니다.
최종 워크플로우는 다음과 같습니다.
섹션 1: 에이전트 스웜이란 무엇인가?
에이전트 스웜은 여러 에이전트가 분해된 하위 작업을 동시에 처리하고, 오케스트레이터(Orchestrator)가 결과를 집계하여 조정하는 구조입니다.
순차적 체인과의 차이점이 핵심입니다:
- 순차적 체인: 에이전트 A 실행 → B로 전달 → C로 전달. 총 시간 = A + B + C.
- 스웜: 오케스트레이터가 목표를 분할하고, 에이전트 A, B, C가 독립적인 하위 작업을 동시에 실행한 후 결과를 병합합니다. 총 시간 ≈ max(A, B, C).
작업에 진정한 병렬 구조가 있을 때, 이것은 분과 시간의 차이를 만듭니다.
스웜은 또한 컨텍스트 오버플로우(Context Overflow) 문제를 해결합니다. 하나의 에이전트가 긴 작업을 처리하면 토큰이 누적되어 컨텍스트 윈도우가 넘쳐납니다. 스웜은 각 하위 작업에 자체적인 제한된 컨텍스트를 부여하고, 구조화된 출력만 오케스트레이터로 다시 흘러가게 합니다.
6가지 구성 요소
모든 스웜은 동일한 핵심 구성 요소를 공유합니다:
구성 요소
역할
오케스트레이터
작업 분해, 하위 작업 할당, 실행 모니터링, 결과 집계
하위 에이전트
하나의 도메인(연구, 코드, 분석, 글쓰기)에 특화된 작업자
도구
에이전트가 호출할 수 있는 함수: 웹 검색, 코드 인터프리터, 파일 I/O, API
메모리
스웜이 읽고 쓸 수 있는 공유 상태
핸드오프 / 라우팅
에이전트 간 제어 또는 데이터 전달 메커니즘
가드레일
반복 횟수 제한, 시간 제한, 사람 개입 트리거, 오류 복구
이 6가지를 제대로 갖추면 스웜이 완성됩니다. 하나라도 잘못되면 값비싼 디버깅 세션이 될 뿐입니다.
섹션 2: Kimi K2.6의 실체
스웜 동작 방식을 살펴보기 전에, 그 기반이 무엇인지 이해하는 것이 중요합니다. K2.6은 Moonshot AI가 2026년 4월 20일에 수정된 MIT 라이선스(Modified MIT License) 하에 오픈 웨이트로 공개한 1조 매개변수 Mixture-of-Experts 모델입니다. 월 매출 2,000만 달러 미만 또는 월간 활성 사용자 1억 명 미만인 경우 상업적 사용이 무료이므로, 대부분의 개발자에게 실질적으로 무료나 다름없습니다.
0:29
아키텍처 사양
사양
값
총 매개변수
~1.04조
토큰당 활성화 매개변수
~320억 (선택된 8개 전문가 + 1개 공유)
전체 전문가
384개 (61개 트랜스포머 레이어에 분포)
컨텍스트 윈도우
262,144 토큰 (262K)
어텐션
MLA(Multi-Head Latent Attention) - 낮은 KV 캐시 사용량
활성화 함수
SwiGLU
비전 인코더
MoonViT-3D (4억 매개변수, 최대 2K 이미지 및 비디오 지원)
양자화
양자화 인식 훈련(QAT) 기반 INT4 (~594GB 디스크 점유)
FP16 전체 가중치 크기
~2TB
라이선스
수정된 MIT
INT4 QAT 변형은 4x H100 80GB에서 기본적으로 실행됩니다. FP16은 8x H100 80GB가 필요합니다. 지원되는 세 가지 추론 프레임워크(vLLM, SGLang, KTransformers) 모두 OpenAI 호환 API를 제공합니다.
섹션 3: MuonClip 최적화 도구, 또는 훈련이 안정적인 이유
1조 매개변수 규모의 희소 MoE를 폭발 없이 훈련하는 것은 어렵습니다. 특히 시퀀스 길이가 길어질수록 어텐션 레이어의 쿼리-키(QK) 내적이 무한정 커질 수 있는 고유한 실패 모드가 있습니다. 손실 스파이크가 발생하고, 이 규모에서는 손실 스파이크가 복구 불가능할 수 있습니다.
Kimi K2 기술 논문(arxiv: 2507.20534)에서는 이를 해결하기 위해 MuonClip을 소개합니다.
Muon은 AdamW보다 토큰 효율성이 뛰어난 그래디언트 최적화 도구입니다. 동일한 품질에 더 적은 훈련 단계가 필요합니다. 단점은 Muon 단독으로는 1조 매개변수 규모에서 어텐션 불안정성을 유발한다는 점입니다.
QK-Clip은 softmax 이전에 QK 행렬에 대해 토큰별, 헤드별 직접 클리핑을 추가합니다. 이를 통해 어텐션 점수의 크기를 제한하고 폭발 현상을 차단합니다. 수동 튜닝이나 학습률 해킹이 필요 없습니다.
논문 초록에서 인용:
"본 논문은 토큰 효율적인 Muon 알고리즘과 QK-Clip이라는 안정성 향상 메커니즘을 통합한 새로운 최적화 도구 MuonClip을 제시합니다... MuonClip을 사용하여 Kimi K2는 AdamW 기준선보다 훨씬 적은 훈련 토큰으로 경쟁력 있는 성능을 달성합니다."
개발자가 훈련 세부 사항에 왜 신경 써야 할까요? K2.6이 12시간 이상 4,000번의 도구 호출을 성능 저하 없이 유지할 수 있는 이유가 바로 여기에 있습니다. 어텐션 불안정성을 가지고 훈련된 모델은 긴 컨텍스트, 높은 단계 수 조건에서 환각(hallucination)을 일으키기 쉽습니다. 이는 바로 에이전트 스웜이 작동하는 환경입니다.
섹션 4: 스웜 뒤에 숨은 연구, PARL
에이전트 스웜은 K2.6 위에 얹힌 프레임워크가 아닙니다. 해당 동작은 Moonshot이 PARL: Parallel-Agent Reinforcement Learning(병렬 에이전트 강화 학습)이라고 부르는 패러다임을 통해 모델 자체에 훈련되었습니다. 이는 Kimi K2.5 기술 논문(arxiv: 2602.02276)에 설명되어 있습니다.
훈련 가능한 오케스트레이터, 고정된 하위 에이전트
일반적인 멀티 에이전트 시스템 구축 방식은 애플리케이션 계층에서 여러 활성 모델 인스턴스를 조정하는 것입니다. 그러면 크레딧 할당(Credit Assignment)이 문제가 됩니다: 최종 답변의 품질을 좋게 또는 나쁘게 만든 에이전트가 누구인지 알 수 없습니다. 해당 그래프를 통해 종단 간 훈련하는 것은 계산적으로 불가능에 가깝습니다.
PARL은 이를 우회합니다:
- 오케스트레이터는 훈련 가능하며, 결과 보상에 대한 RL을 통해 업데이트됩니다.
- 하위 에이전트는 고정된 중간 정책 체크포인트로, 훈련되지 않습니다.
하위 에이전트의 궤적(trajectory)은 미분 가능한 의사 결정 지점이 아닌 환경 관측값으로 처리됩니다. 이는 두 가지 어려운 문제를 동시에 분리합니다. 크레딧은 오직 오케스트레이터의 행동에만 돌아가며, 300개의 동시 하위 에이전트에는 돌아가지 않습니다. 그리고 하나의 모델만 업데이트되므로 훈련이 안정적으로 유지됩니다.
오케스트레이터는 언제 병렬화할지, 얼마나 많은 하위 에이전트를 생성할지, 작업을 어떻게 분할할지를 학습합니다. 이러한 행동은 누군가 수동으로 지정한 것이 아닙니다. 보상 최대화를 통해 자연스럽게 나타납니다(emerge).
세 부분으로 구성된 보상 함수
오케스트레이터는 세 가지 신호를 기반으로 훈련됩니다.
병렬화 보상(Parallelism Reward) 은 순차적으로 실행하지 않고 동시 하위 에이전트를 생성하도록 유도합니다. 이것이 없으면 모델은 안전하고 예측 가능하지만 느린, 한 번에 하나의 에이전트를 기본값으로 사용합니다.
완료 보상(Finish Reward) 은 하위 에이전트가 실제로 작업을 완료하도록 보장합니다. 이는 오케스트레이터가 병렬화 보상만 얻기 위해 아무 일도 하지 않는 에이전트를 대량 생성하는 "가짜 병렬화(spurious parallelism)"를 차단합니다.
성능 보상(Performance Reward) 은 작업 목표 대비 최종 출력 품질을 평가합니다. 이것이 다른 모든 것의 근간이 되는 진정한 기준입니다.
제가 가장 흥미롭게 생각하는 세부 사항은 최적화 지표가 총 단계가 아니라 임계 단계(Critical Steps, 중요 경로 길이) 라는 점입니다. 모델은 원시 동시성을 최대화하는 것이 아니라 가장 긴 의존성 체인을 단축하는 것에 대해 보상을 받습니다. 이것이 실제로 벽시계 시간(Wall-clock time)을 줄이는 요소입니다.
PARL 결과
- BrowseComp: 스웜 모드에서 K2.5는 78.4%를 기록하여 단일 에이전트 K2.5(60.6%) 대비 17.8포인트 절대 향상되었으며, 이는 당시 GPT-5.2 Pro(77.9%)를 능가하는 수치였습니다. K2.6은 이를 86.3%로 끌어올렸습니다.
- WideSearch: Item-F1에서 6.3포인트 절대 향상 (72.7% → 79.0%)
- 벽시계 시간: 단일 에이전트 기준선 대비 병렬화 가능한 작업에서 3-4.5배 단축
- 병렬 도구 호출: K2.6에서 최대 4,000개의 조정된 단계
섹션 5: Kimi背后的基础设施, Mooncake
Moonshot의 서빙 인프라는 K2.6이 300개의 병렬 에이전트를 문제없이 유지할 수 있는 이유를 설명합니다. 모델 가중치는 이야기의 절반에 불과하며, 이를 서빙하는 시스템이 나머지 절반입니다.
인프라 구조는 긴 컨텍스트 작업에 잘 최적화되어 있습니다.
KVCache 중심 분리형 아키텍처
Moonshot의 서빙 플랫폼은 Mooncake라고 불리며, 2024년 인프라 논문(arxiv: 2407.00079)에 설명되어 있습니다. 이는 Kimi를 대규모로 실행하는 엔진이며, 독특한 설계 선택을 했습니다.
기존 LLM 추론은 프리필(Prefill, 입력 프롬프트 처리)과 디코드(Decode, 토큰 생성)를 동일한 GPU 인스턴스에서 실행합니다. Mooncake는 이를 별도의 클러스터로 분리합니다:
- 프리필 클러스터: 초기 프롬프트 처리를 담당하며, 긴 컨텍스트 입력에 맞춰 독립적으로 확장됩니다.
- 디코드 클러스터: 토큰 생성을 담당하며, 처리량과 지연 시간에 최적화됩니다.
자기회귀 생성(autoregressive generation)을 효율적으로 만드는 중간 어텐션 상태인 KV 캐시는 일급 시스템 리소스로 관리됩니다. Mooncake는 GPU VRAM, CPU DRAM, SSD에 걸쳐 분산 KV 캐시를 구축하고, 노드 간 캐시를 이동시키는 사용자 정의 전송 엔진을 갖추고 있습니다.
이것이 에이전트 스웜에 중요한 이유
300개의 하위 에이전트가 동시에 실행될 때, 각각은 자체 KV 캐시를 생성합니다. 기존 아키텍처에서는 이는 막대한 GPU 메모리 압박과 스케줄링 충돌을 의미합니다. Mooncake의 분리형 캐시를 사용하면:
- 완료된 하위 에이전트의 KV 캐시는 DRAM 또는 SSD로 내보내졌다가 필요시 다시 불러올 수 있습니다.
- 프리필 클러스터는 각 하위 에이전트에 대한 (종종 큰) 시스템 프롬프트를 독립적으로 처리합니다.
- 스케줄러는 에이전트별 지연 시간 SLO를 유지하면서 전체 처리량을 최대화합니다.
Mooncake 논문에서 인용: "기존 방법과 비교하여 Mooncake는 SLO를 준수하면서 특정 시뮬레이션 시나리오에서 최대 525%의 처리량 증가를 달성할 수 있습니다. 실제 워크로드에서 Mooncake의 혁신적인 아키텍처는 Kimi가 75% 더 많은 요청을 처리할 수 있게 합니다."
업데이트된 논문에 따르면 Mooncake는 "수천 개의 노드에 걸쳐 운영되며, 매일 1,000억 개 이상의 토큰을 처리"하고 있으며, 이전 시스템과 비교하여 A800 클러스터에서 115%, H800 클러스터에서 107% 더 많은 요청을 처리합니다.
대규모 PD 분리: 128-GPU K2 배포
LMSYS는 SGLang Router를 통해 128개의 H200 GPU에서 프리필-디코드(PD) 분리를 사용하여 Kimi K2를 배포한 사례 연구를 발표했습니다. 아키텍처는 다음과 같습니다:
- SGLang Router: 레이블 선택기를 통해 프리필 및 디코드 노드의 동적 서비스 검색을 위한 경량 서비스
- 전문가 병렬화: K2의 384개 전문가가 노드 전체에 분산되며, 네트워크 수준에서 라우팅됩니다.
- OME(Open Model Engine): 서빙 레이어를 위한 Kubernetes 기반 오케스트레이션
이것이 프로덕션 규모에서 K2 제품군을 실행하는 스택입니다. K2.6을 자체 호스팅하는 경우, 이것이 템플릿입니다.
섹션 6: 에이전트 스웜의 단계별 작동 방식
K2.6이 스웜 모드에서 작업을 실행하는 기계적 순서는 다음과 같습니다.
1단계: 작업 분해
오케스트레이터가 작업을 분석하고 의존성 그래프를 구축합니다: 어떤 하위 작업이 독립적이고 병렬로 실행될 수 있는지, 어떤 작업이 이전 출력에 의존하는지를 파악합니다.
"YC 회사 100곳을 조사하여 섹터 분석 보고서를 작성"이라는 작업의 경우, 오케스트레이터는 100개의 독립적인 조사 작업, 그 다음 1개의 집계 작업, 마지막으로 1개의 종합 작업을 식별합니다. 첫 번째 계층은 완전히 병렬화 가능합니다.
2단계: 전문가 에이전트 생성
오케스트레이터는 하위 작업 유형에 따라 도메인별 전문화된 하위 에이전트를 생성합니다. K2.6은 역할별 지침과 대상 도구 접근 권한을 가지고 동적으로 에이전트를 인스턴스화합니다:
- 웹 리서치 에이전트: 검색 + 브라우저 도구
- 데이터 분석 에이전트: Python 실행 + 스프레드시트 도구
- 글쓰기 에이전트: 종합 및 문서 생성
- 팩트체커 에이전트: 교차 참조 및 검증
각 하위 에이전트는 자체적인 제한된 로컬 컨텍스트 내에서 작동합니다. 하나의 범위가 지정된 작업을 처리하고, 구조화된 출력을 생성한 후 종료됩니다. 로컬 컨텍스트는 오케스트레이터가 알고 있는 모든 것을 담지 않고, 해당 하위 에이전트가 필요한 정보만 담습니다. 이것이 K2.6이 단일 에이전트의 컨텍스트 윈도우를 몇 분 안에 채울 수 있는 작업에서도 오버플로우를 방지하는 방법입니다.
3단계: 웨이브(Wave) 기반 병렬 실행
에이전트는 웨이브 단위로 실행됩니다. 첫 번째 웨이는 완전히 독립적인 작업을 처리합니다.
- 결과가 도착하면 오케스트레이터는 첫 번째 웨이 출력에 의존하는 작업에 대한 두 번째 웨이를 시작하고, 의존성 그래프가 해결될 때까지 이 과정을 반복합니다.
- K2.6은 세션당 최대 300개의 하위 에이전트와 4,000개의 조정된 단계를 지원합니다. 오케스트레이터는 실행을 실시간으로 모니터링하고, 실패하거나 중단된 에이전트를 감지하여 해당 작업을 자동으로 재할당합니다.
- 이러한 내결함성(fault tolerance) 덕분에 사람이 지켜보지 않아도 12시간 이상의 자율 실행이 가능합니다.
4단계: 집계 및 출력
모든 하위 에이전트가 완료되면, 오케스트레이터는 결과를 집계하여 문서, 스프레드시트, 웹사이트, 슬라이드 데크 등 최종 결과물을 생성합니다.
- 에이전트 출력을 단순히 연결(concatenate)하는 것이 아니라 종합(synthesize)하므로 결과물이 구조적으로 일관성을 유지합니다.
- 주목할 만한 또 한 가지는, 스웜 구조가 Kimi의 컨텍스트 윈도우 문제에 대한 해결책이기도 하다는 점입니다.
- K2.6의 명시적 정책: "컨텍스트 윈도우가 임계값을 초과하면, 가장 최근 라운드의 도구 관련 메시지만 유지합니다." 스웜은 매우 긴 작업 지평에서도 이 정책을 지속 가능하게 만듭니다.
섹션 7: Kimi x Claude Opus 4.8 아키텍처
스웜의 모든 계층에 완벽한 단일 모델은 없습니다. Kimi K2.6은 수평적 확장(수백 개의 에이전트에 걸친 병렬 실행, 긴 자율 실행, 비용 효율적인 대량 처리)을 위해 설계되었습니다.
Claude Opus 4.8은 판단(계획, 미묘한 추론, 자체 오류 포착)을 위해 설계되었습니다. 두 모델은 구조적으로 서로를 보완하며, 각자의 약점이 상대방의 강점과 거의 일치합니다.
패턴은 다음과 같습니다:
1[사용자 목표]2 |3[Claude Opus 4.8 - 계획자]4 목표를 구조화된 작업 사양으로 분해5 병렬 및 순차 하위 작업 식별6 각 하위 작업의 성공 기준 정의7 |8[Kimi K2.6 에이전트 스웜 - 실행자]9 구조화된 작업 사양 수신10 최대 300개의 전문화된 하위 에이전트 생성11 도구 호출 전체에 걸쳐 병렬 실행12 구조화된 결과 반환13 |14[Claude Opus 4.8 - 검증자]15 성공 기준에 따라 Kimi의 출력 검토16 실패, 누락, 불일치 표시17 최종 결과물 종합
계획 및 검증에 Claude를 사용하는 이유?
Opus 4.8에서 가장 과소평가된 변화는 정직성 개선입니다: "Opus 4.8은 전작에 비해 자신이 작성한 코드의 결함을 지적하지 않고 넘어갈 가능성이 약 4배 낮습니다." 에이전트 시스템에서 잘못된 자신감(false confidence)은 치명적인 실패 모드입니다.
- 완료되지 않았는데 "완료"했다고 말하는 오케스트레이터는 300개의 하위 에이전트에 걸쳐 오류를 연쇄적으로 확산시킵니다. Claude가 작업 중에 불확실성을 표시하고 자체 실수를 포착하는 경향은 오류 비용이 큰 계층에 적합한 앵커 역할을 합니다.
- Opus 4.8은 또한 100만 토큰 컨텍스트 윈도우를 지원하며, 이는 50개 이상의 병렬 리서치 에이전트의 출력을 단일 검토 컨텍스트로 가져올 때 중요합니다.
Kimi를 실행에 사용하는 이유?
K2.6의 에이전트 스웜은 세션당 최대 300개의 병렬 하위 에이전트와 4,000개의 조정된 도구 단계를 지원합니다. 이는 애플리케이션 계층 래퍼가 아닌 훈련된 동작입니다.
- Claude도 Claude Code의 Dynamic Workflows 기능을 보유하고 있지만, 현재 연구 프리뷰 단계이며 Enterprise/Max 플랜으로 제한됩니다.
- Kimi의 스웜 기능은 지금 당장 API를 통해 모든 사람이 사용할 수 있습니다. 토큰 경제성도 규모가 커질수록 중요해집니다: K2.6은 입력/출력 토큰 100만 개당 각각 $0.95/$4.00에 실행됩니다. 대량 병렬 실행의 경우 무시할 수 없는 비용입니다.
섹션 8: 스웜이 필요한 경우 (그리고 필요하지 않은 경우)
멀티 에이전트 설계에서 가장 흔한 실수는 단일 에이전트의 한계에 도달하기 전에 스웜 복잡성을 추가하는 것입니다.
다음과 같은 경우 단일 에이전트를 고수하세요:
- 작업이 단일 컨텍스트 윈도우(실제 작업량 약 50K 토큰 미만)에 들어맞는 경우
- 작업이 본질적으로 순차적이며 각 단계가 이전 단계에 의존하는 경우
- 여전히 프로토타이핑 중인 경우 - 단일 에이전트 실패 모드는 디버깅하기 훨씬 쉽습니다.
- 작업이 어차피 10분 이내에 완료될 경우
다음과 같은 경우 에이전트 스웜을 사용하세요:
- 작업에 n > 5인 병렬적이고 독립적인 하위 작업이 있는 경우
- 컨텍스트 오버플로우가 실제 문제인 경우(심층 연구, 대규모 코드베이스, 일괄 작업)
- 동시에 작업해야 하는 도메인별 전문화된 에이전트가 필요한 경우
- 작업이 너무 길어 하나의 순차적 세션에서 품질을 유지하기 어려운 경우
- 다른 에이전트의 작업을 확인하는 비평가 또는 검증자 에이전트를 원하는 경우
다음과 같은 경우 Kimi + Claude Opus 4.8 하이브리드를 사용하세요:
- 계획 품질이 중요하고 계획이 잘못된 경우 반대 의견을 제시할 모델이 필요한 경우
- 출력물이 추가 인간 검토 없이 바로 사용되는 경우 - 따라서 검증이 내장되어야 함
- 토큰 비용이 빠르게 누적되는 대량 실행을 수행하는 경우
- 의사 결정 계층에는 Claude의 판단력을, 작업 계층에는 Kimi의 확장성을 원하는 경우
섹션 10: 네 가지 스웜 아키텍처 패턴
패턴 1: 오케스트레이터-워커 (가장 일반적)
중앙 오케스트레이터가 워커에게 하위 작업을 할당하고, 워커는 병렬로 실행하며, 결과가 집계됩니다.
1[사용자 목표]2 |3[오케스트레이터 - Claude Opus 4.8]4 +-- [워커: Kimi 리서치 에이전트 x N]5 +-- [워커: Kimi 데이터 에이전트 x N]6 +-- [워커: Kimi 코드 에이전트 x N]7 |8[종합기 - Claude Opus 4.8]9 |10[최종 출력]
최적: 명확하게 분리 가능한 하위 작업과 가변적인 워커 수를 가진 작업에 적합합니다.
패턴 2: 비평가-개선 루프
하나의 에이전트가 생성하고, 다른 에이전트가 비평하며, 품질 임계값이 충족될 때까지 반복합니다.
1[Kimi K2.6 생성자] -> 초안 -> [Claude Opus 4.8 비평가] -> 피드백 -> [Kimi K2.6 생성자]2 |3 (승인됨)4 [최종 출력]
최적: 코드 생성, 기술 문서 작성, 규정 준수 민감 출력물에 적합합니다. 항상 최대 반복 횟수 제한을 설정하세요.
패턴 3: 계층형
전략적 오케스트레이터가 도메인 오케스트레이터를 관리하고, 도메인 오케스트레이터가 워커를 관리합니다.
1[Claude Opus 4.8 - 전략적 오케스트레이터]2 +-- [Kimi K2.6 스웜 - 리서치 팀 (50 에이전트)]3 +-- [Kimi K2.6 스웜 - 빌드 팀 (50 에이전트)]
최적: 별개의 도메인을 가진 대규모 엔터프라이즈 워크플로우에 적합합니다.
패턴 4: Claw 그룹 (Kimi 네이티브 이기종 스웜)
K2.6은 로컬 모델, Claude, GPT를 포함한 모든 모델을 실행하는 에이전트와 인간 작업자가 공유 운영 공간에서 함께 작업하도록 조정합니다. 현재 연구 프리뷰 단계입니다.
1[Kimi K2.6 코디네이터]2 +-- [Claude Opus 4.8 - 추론 전문가]3 +-- [Llama 3.3 로컬 - 비용 민감 대량 작업]4 +-- [Kimi K2.6 에이전트 x N - 실행 계층]5 +-- [인간 검토자 - 승인 체크포인트]
최적: 모델 다양성, 로컬 + 클라우드 하이브리드, 또는 사람 개입 요구 사항이 있는 워크플로우에 적합합니다.
섹션 12: 스웜 작업을 위한 프롬프트 설계
분해 프롬프트 (오케스트레이터용)
1당신은 작업 설계자입니다. 다음 목표를 독립적이고 병렬화 가능한 하위 작업으로 분해하세요.23규칙:4- 각 하위 작업은 단일 전문화된 에이전트가 독립적으로 완료할 수 있어야 함5- 의존성이 있는 하위 작업은 의존성 체인을 표시해야 함6- JSON 형식으로 출력: {task_id, description, agent_type, depends_on, success_criteria}78목표: {user_goal}9사용 가능한 에이전트 유형: researcher, analyst, coder, writer, verifier
전문가 시스템 프롬프트 (하위 에이전트용)
1당신은 {DOMAIN} 분야를 전문으로 하는 {ROLE} 에이전트입니다.23작업: {subtask_description}45제약 사항:6- {output_schema}와 일치하는 유효한 JSON만 반환7- 작업 범위를 벗어나지 마십시오.8- 작업을 완료할 수 없는 경우: {"error": "reason", "partial_results": [...]}9- 최대 도구 호출 횟수: {max_tool_calls}1011컨텍스트: {context_from_orchestrator}
집계 프롬프트 (종합기용)
1{n}명의 전문화된 에이전트의 연구 결과를 하나의 일관된 출력물로 종합하세요.231. 제공된 모든 에이전트 출력을 읽으십시오.42. 일치하는 부분, 불일치하는 부분, 누락된 부분을 식별하십시오.53. 모든 결과를 통합한 {output_type}을 생성하십시오.64. 불일치 사항을 명시적으로 지적하십시오 - 모순을 조용히 해결하지 마십시오.78에이전트 출력: {agent_outputs_as_json}9출력 형식: {final_output_spec}
섹션 13: 7가지 필수 가드레일
1. 에이전트당 최대 반복 횟수. 오케스트레이터에 알리기 전까지 반복할 수 있는 최대 횟수에 대한 하드 제한입니다.
2. 세션 시간 제한. 스웜이 N분 내에 완료되지 않으면 종료하고 부분 결과를 반환합니다.
3. 구조화된 출력 강제. 에이전트가 JSON을 반환하도록 강제합니다. 중간 에이전트의 일반 텍스트는 다운스트림에서 파싱 오류를 발생시킵니다.
4. 실패 격리. 실패하는 하위 에이전트가 오케스트레이터를 중단시켜서는 안 됩니다.
1async def run_subagent_safely(kimi_client, task, agent_id):2 try:3 result = kimi_client.chat.completions.create(4 model="kimi-k2.6",5 messages=[{"role": "user", "content": task}],6 max_tokens=40967 )8 return {"agent_id": agent_id, "status": "success",9 "output": result.choices[0].message.content}10 except Exception as e:11 return {"agent_id": agent_id, "status": "failed", "error": str(e)}
5. 지수 백오프(Exponential Backoff)를 사용한 재시도. 429 오류 및 일시적 오류를 영구적인 실패로 표시하지 않고 처리합니다.
6. 사람 개입 체크포인트. 쓰기 권한(코드 배포, 이메일 전송, API 변형 생성)이 있는 스웜의 경우, 필수 승인 일시 중지를 삽입합니다.
7. 비용 모니터링. 실행당 토큰 예산을 설정합니다. 실행 루프는 품질 실패로 나타나기 전에 항상 비용 이상 징후로 먼저 나타납니다.
가장 먼저 구축할 것
섹션 9의 3-에이전트 파이프라인부터 시작하세요. 오후 내에 디버깅할 수 있을 정도로 작고, 계획, 병렬 실행, 검증을 모두 연습할 수 있으며, 한 시간 미만의 설정으로 실제 작업에 대해 실행할 수 있습니다.
문제가 발생하면 - 그리고 분명히 발생할 것입니다 - 그 실패 모드는 더 많은 시간을 읽는 것보다 스웜 설계에 대해 더 많이 가르쳐줄 것입니다.
직접 구축해보세요. 의도적으로 문제를 발생시켜 보세요. 그런 다음 구체적인 참조점을 가지고 섹션 11의 패턴으로 돌아오세요.
아키텍처가 어려운 부분이 아닙니다. 어려운 부분은 "테스트에서는 작동함"과 "아무도 지켜보지 않는 새벽 3시에도 작동함" 사이의 격차이며, 그 격차는 전적으로 가드레일, 관찰 가능성(observability), 메모리 설계에 있습니다.
결론
Kimi 2.6은 강화 학습이 어떻게 에이전트 스웜을 확립할 수 있는지 보여주는 에이전트 혁명입니다.
또한 긴 컨텍스트 지평이 이러한 오케스트레이터 기반 인프라를 어떻게 활용할 수 있는지 보여줍니다. 이는 단일 시스템을 사용하여 여러 하위 에이전트를 생성하고 복잡한 시스템을 구축할 수 있게 해줍니다.
면책 조항
본 기사는 저자의 노트에 있는 Kimi 2.6 기술 문서 및 연구 논문을 활용하여 작성되었으며, AI(Opus 4.7)에 의해 편집되었습니다.
