A practical guide to the three architecture layers people keep mixing together
Sự nhầm lẫn là dễ hiểu. Cả ba ý tưởng đều xoay quanh cùng một mô hình, cả ba đều ảnh hưởng đến độ tin cậy, và cả ba đều có thể chứa "vòng lặp". Nhưng chúng không phải là từ đồng nghĩa. Chúng mô tả các quyết định kỹ thuật khác nhau, và sự khác biệt trở nên quan trọng ngay khi một agent rời khỏi notebook demo và bắt đầu chạm vào file, API, khách hàng hoặc code sản xuất
CÂU TRẢ LỜI TRONG 30 GIÂY
- Kỹ thuật Harness xây dựng bộ máy xung quanh mô hình
- Kỹ thuật Loop thiết kế chu trình làm việc và phản hồi lặp đi lặp lại
- Kỹ thuật Graph làm cho cấu trúc luồng công việc trở nên rõ ràng: các nút, nhánh, điểm kết nối, chuyển đổi trạng thái và các vòng lặp được kiểm soát
Mô hình tinh thần rõ ràng là môi trường → phản hồi → luồng
Tại sao những thuật ngữ này lại đột nhiên quan trọng
Một mô hình ngôn ngữ thô không thể tạo văn bản, duy trì trạng thái cho một dự án, chạy bộ kiểm thử, nhìn vào trình duyệt, thực thi quy tắc phê duyệt hoặc khởi động lại một công việc bị lỗi. Những khả năng đó đến từ môi trường mà nó đang hoạt động. Khi phần mềm agent trưởng thành, một ngăn xếp kỹ thuật tiêu chuẩn cuối cùng cũng đang hình thành. Nền tảng là harness agent, code thực sự chạy các mô hình. Tiếp theo là các loop, xử lý việc thực thi lặp lại và kiểm tra chất lượng. Cuối cùng, graph vạch ra các đường dẫn có cấu trúc hướng dẫn toàn bộ quy trình
Các nhãn vẫn chưa được chuẩn hóa một cách nhất quán. Trong khuôn khổ hiện tại, thuật ngữ "agent harness" đang bắt đầu mang một định nghĩa khá cụ thể. Thuật ngữ "loop engineering" nổi lên như một thuật ngữ mới hơn trong giới thực hành vào năm 2026. Kỹ thuật graph nên được hiểu một cách thực tế hơn là một lĩnh vực hàn lâm; nó chỉ đơn giản là quá trình tạo luồng công việc agent dưới dạng đồ thị có hướng rõ ràng hoặc máy trạng thái. Sự phân biệt thực tế này rất hữu ích vì nó ngăn một từ khóa thông dụng che giấu câu hỏi thiết kế thực sự
Kỹ thuật Agent Harness
- Theo Langchain, agent là mô hình cộng với harness, và harness là code, cấu hình và logic thực thi bên ngoài mô hình. Trong thực tế, điều này bao gồm prompt hệ thống, định nghĩa công cụ, bộ nhớ, hệ thống file, sandbox, định tuyến mô hình, bàn giao, hook middleware, nén, quyền, ghi log và giao diện xác minh
- OpenAI's Agents SDK mô tả cùng một lõi hoạt động từ góc độ runtime: runner gọi mô hình, thực thi lệnh gọi công cụ, xử lý bàn giao, mang trạng thái và chỉ dừng khi quá trình chạy đạt đến điều kiện kết thúc thực sự
Từ harness rất hữu ích vì nó chuyển sự chú ý khỏi việc tôn thờ mô hình. Hai đội có thể sử dụng cùng một mô hình nền tảng và nhận được kết quả rất khác nhau vì một đội cung cấp cho mô hình các công cụ sạch sẽ, không gian làm việc ổn định, quyền hạn bị ràng buộc và trạng thái có thể quan sát, trong khi đội kia chỉ đưa cho nó một prompt mơ hồ và một wrapper API không đáng tin cậy. Trí thông minh có thể tương tự; điều kiện làm việc thì không. Một harness nghiêm túc thường chứa:
- Tiêm ngữ cảnh: hướng dẫn, dữ liệu đã truy xuất, trạng thái hội thoại, kỹ năng và chính sách cụ thể cho tác vụ
- Bề mặt hành động: API, trình duyệt, shell, trình thông dịch code, cơ sở dữ liệu và các công cụ tương thích MCP
- Tính bền vững: file, điểm kiểm tra, phiên, nhật ký tiến trình, lịch sử git và bộ nhớ dài hạn
- Kiểm soát thực thi: thời gian chờ, thử lại, ngân sách, định tuyến mô hình, tạo sub-agent và cổng phê duyệt
- An toàn và quản trị: quyền, cách ly, danh sách cho phép, xử lý bí mật và ủy quyền của con người
- Khả năng quan sát: dấu vết, đầu vào và đầu ra công cụ, chuyển đổi trạng thái, chi phí, độ trễ và kết quả đánh giá
Mô hình nằm bên trong một harness rộng hơn bao gồm ngữ cảnh, kiểm soát, hành động, tính bền vững và xác minh. Loại bỏ mô hình khỏi sơ đồ kiến trúc của bạn. Mọi thứ còn lại có lẽ là một phần của harness: các công cụ, truy cập dữ liệu, kho lưu trữ trạng thái, sandbox, middleware, trình đánh giá, chính sách thử lại và giao diện người dùng
Kỹ thuật Harness mang lại giá trị ở đâu
Công việc Harness rất quan trọng đối với các tác vụ chạy dài. Trong lập trình đa phiên, Anthropic phát hiện ra rằng chỉ đơn giản sử dụng nén ngữ cảnh là không đủ. Đây không phải là một prompt tốt hơn tự nó, nhưng họ đã tạo ra một thiết lập tốt bao gồm một bộ khởi tạo, một file tiến trình, lịch sử git và một kỷ luật làm việc gia tăng để mỗi ngữ cảnh mới có thể hiểu chuyện gì đã xảy ra và những gì còn phải làm. Đó là một hệ thống làm việc được cải thiện đối với agent. Áp dụng kỹ thuật harness khi agent không có khả năng, không thể quay lại sạch sẽ, mất trạng thái, truy cập quá nhiều, không thể kiểm toán, hoặc hành động khác nhau trên các môi trường
Kỹ thuật Loop
Mỗi agent sử dụng một công cụ đều có một vòng lặp nhỏ được nhúng:
- gọi mô hình
- xem xét kết quả
- chạy các công cụ
- nhập các quan sát vào mô hình
- lặp lại cho đến khi trả về câu trả lời cuối cùng
Khi các nhà xây dựng cố ý xây dựng hoặc xếp chồng các chu trình mới xung quanh hành vi đó, đó là sự khởi đầu của kỹ thuật loop, như OpenAI gọi. Một vòng lặp xác minh, chẳng hạn, cho phép agent tạo một tạo phẩm, thực hiện kiểm tra xác định hoặc một grader, nhận phản hồi rõ ràng và chỉ lặp lại nếu có lỗi bằng chứng. Một vòng lặp hướng sự kiện đánh thức agent khi có lịch trình, webhook hoặc tài liệu mới được nhận. Một vòng lặp cải tiến phân tích dấu vết và lỗi, sửa đổi hướng dẫn/công cụ và kiểm tra xem phiên bản mới có hoạt động tốt hơn không. Khung khái niệm năm 2026 của LangChain gọi đây là một ngăn xếp các vòng lặp chứ không phải một câu lệnh while thần kỳ
Giải phẫu của một vòng lặp được thiết kế tốt:
- Kích hoạt: điều gì bắt đầu một chu trình khác; yêu cầu người dùng, lịch trình, bài kiểm tra thất bại, dữ liệu mới hoặc phản hồi của người đánh giá
- Mục tiêu: một trạng thái cụ thể cần đạt được, không phải một hướng dẫn mơ hồ kiểu "tiếp tục cải thiện"
- Trạng thái và bộ nhớ: những gì chu trình tiếp theo cần biết mà không cần phát lại mọi thứ
- Chính sách hành động: agent có thể thay đổi, gọi, ủy quyền hoặc chi tiêu những gì
- Bằng chứng: bài kiểm tra, xác thực lược đồ, trích dẫn, diff, số liệu hoặc đánh giá của con người
- Phản hồi: một mô tả ngắn gọn, có thể hành động về lý do bằng chứng thất bại
- Quy tắc dừng: thành công, giới hạn ngân sách, hết thời gian, lỗi không thể khắc phục hoặc leo thang lên con người
Một vòng lặp xác minh bao bọc vòng lặp agent với một grader bên ngoài và một điều kiện vượt qua rõ ràng. Đừng lặp dựa trên sự tự tin. Hãy lặp dựa trên bằng chứng. "Agent nói rằng nó đã xong" không phải là điều kiện dừng; "các bài kiểm tra đạt, các liên kết giải quyết, lược đồ xác thực và người đánh giá phê duyệt" mới là.
Tại sao kỹ thuật loop không chỉ là kỹ thuật prompt
Một prompt bảo mô hình phải làm gì trong một lần gọi. Một vòng lặp chỉ định những gì hệ thống làm sau lần gọi:
cách nó quan sát kết quả, chọn phản hồi, quyết định có tiếp tục hay không, duy trì tiến trình và kết thúc
Chất lượng prompt vẫn quan trọng, nhưng vòng lặp biến một hướng dẫn một lần thành một quy trình được quản lý. Sự đánh đổi chính là chi phí và độ trễ. Mỗi grader, người đánh giá hoặc lần thử lại thêm một lần gọi mô hình hoặc chạy công cụ khác. Hướng dẫn rộng hơn của Anthropic là ưu tiên kiến trúc đơn giản nhất có thể hoạt động và chỉ thêm độ phức tạp agent khi lợi ích về hiệu suất biện minh cho nó. Lời khuyên tương tự áp dụng cho các vòng lặp: chỉ thêm chúng khi chi phí thất bại cao hơn chi phí xác minh
Kỹ thuật Graph
Tuy nhiên, kỹ thuật graph đặt ra một câu hỏi khác: Không chỉ là agent làm gì, mà là thành phần nào được phép chạy tiếp theo. Các bước được biểu diễn bằng các nút và các bước được phép được biểu diễn bằng các cạnh. Các cạnh này có thể được sử dụng để chỉ trình tự, rẽ nhánh có điều kiện, mở rộng song song, kết nối, vòng lặp và ngắt quãng của con người. Trạng thái di chuyển qua đồ thị, và cấu trúc liên kết cho phép kiểm tra luồng điều khiển mong muốn. LangGraph là cơ sở hạ tầng điều phối cấp thấp cho các agent có trạng thái, chạy dài, với thực thi bền vững, trạng thái và kiểm soát có sự tham gia của con người, và tập trung rõ ràng vào việc kiểm soát agent hơn là trừu tượng hóa luồng công việc. Tài liệu của Microsoft AutoGen cực kỳ đơn giản: sử dụng graph khi bạn cần kiểm soát chính xác thứ tự agent, các bước tiếp theo khác nhau cho các kết quả khác nhau, rẽ nhánh xác định hoặc các quy trình nhiều bước phức tạp với vòng lặp. Những gì các kỹ sư graph thực sự quyết định:
- Ranhs giới nút: công việc nào thuộc về một hàm xác định, một lời gọi LLM, một agent chuyên gia hoặc một bước đánh giá của con người
- Lược đồ trạng thái: mỗi nút có thể đọc hoặc cập nhật những gì, và các cập nhật song song được hợp nhất như thế nào
- Điều kiện định tuyến: bằng chứng nào gửi công việc về phía trước, phía sau, sang ngang hoặc leo thang
- Tính đồng thời: những gì có thể chạy song song, những gì phải kết nối, và những tài nguyên dùng chung nào cần phối hợp
- Vòng lặp và lối thoát: nơi nào được phép thử lại, bao nhiêu lần được phép, và điều gì làm cho vòng lặp an toàn
- Độ bền: điểm kiểm tra xảy ra ở đâu và quá trình thực thi tiếp tục như thế nào sau khi bị gián đoạn
Bức tranh trên làm cho các agent, kỹ năng và mối quan hệ có thể kiểm tra được như một hệ thống tổng hợp. Kỹ thuật graph ở đây có nghĩa là kỹ thuật thực thi dựa trên đồ thị. Nó không giống với kỹ thuật đồ thị tri thức, nơi đồ thị biểu diễn các thực thể và mối quan hệ trong dữ liệu. Một đồ thị luồng công việc biểu diễn sự chuyển đổi điều khiển và trạng thái
Khi nào một graph đáng để đầu tư công sức
Graph có giá trị khi quy trình có các nhánh có ý nghĩa, công việc song song, phê duyệt, đường dẫn khôi phục hoặc nhiều agent chuyên gia. Chúng ít hữu ích hơn khi công việc chỉ đơn giản là "đưa cho một agent ba công cụ và để nó làm việc." Một graph có thể cải thiện việc gỡ lỗi, nhưng nó cũng có thể đóng băng các giả định quá sớm. Nếu mô hình phải tự động phát minh ra kế hoạch, việc ép mọi đường dẫn có thể vào một sơ đồ có thể làm cho hệ thống trở nên mong manh hơn, chứ không phải ít hơn
Ba lớp hoạt động cùng nhau như thế nào trong một hệ thống thực tế
Hãy xem xét một agent nghiên cứu và xuất bản chịu trách nhiệm sản xuất một bản tóm tắt ngành thực tế
Chú ý sự lồng ghép: graph chạy bên trong harness; một hoặc nhiều vòng lặp nằm bên trong graph; và harness cung cấp trạng thái, công cụ và trình đánh giá mà các vòng lặp đó cần. Các danh mục chồng lấn vì các lớp phần mềm chồng lấn, nhưng mỗi lớp vẫn cung cấp cho nhóm một đòn bẩy khác nhau để kéo khi hệ thống thất bại
Chọn lớp kỹ thuật bằng cách chẩn đoán lỗi
Triệu chứng
Bắt đầu với
Cách khắc phục có thể
Agent không thể truy cập đúng dữ liệu hoặc công cụ một cách an toàn.
Harness
Hợp đồng công cụ, quyền, sandbox, tiêm ngữ cảnh.
Agent quên tiến trình qua các phiên.
Harness
Trạng thái bền vững, điểm kiểm tra, tạo phẩm tiến trình, nén.
Lần thử đầu tiên thường gần đúng nhưng không đáng tin cậy.
Loop
Grader bên ngoài, bài kiểm tra xác định, phản hồi và thử lại có giới hạn.
Agent tiếp tục làm việc sau khi thành công hoặc dừng trước khi có bằng chứng.
Loop
Trạng thái kết thúc dựa trên bằng chứng và quy tắc dừng có nhận biết ngân sách.
Một số chuyên gia phải chạy theo một thứ tự được kiểm soát.
Graph
Các nút, cạnh, điều kiện định tuyến và kết nối rõ ràng.
Lỗi khó xác định vị trí trong quy trình nhiều bước.
Graph + harness
Dấu vết có trạng thái phù hợp với các nút và chuyển đổi graph.
Luồng công việc thay đổi quá thường xuyên cho một sơ đồ cố định.
Harness đơn giản hơn
Giữ mô hình điều khiển; trì hoãn việc chính thức hóa graph.
Những Sai Lầm Đắt Giá Đằng Sau Các Kiến Trúc Agent Yếu Kém
Xây dựng graph trước khi hiểu công việc
Các nhóm đôi khi dịch một quy trình kinh doanh thành hàng chục nút trước khi họ quan sát cách một agent có năng lực thực sự giải quyết nó. Bắt đầu với dấu vết từ một harness đơn giản hơn, sau đó chính thức hóa các đường dẫn ổn định.
Để cùng một mô hình viết và chấm điểm mà không có biện pháp bảo vệ
Tự đánh giá có thể hữu ích, nhưng nó dễ bị tổn thương trước các điểm mù chung. Ưu tiên các kiểm tra xác định nếu có thể, ngữ cảnh đánh giá riêng biệt và yêu cầu phê duyệt của con người cho các hành động có tác động cao.
Sử dụng "cứ thử tiếp" như một đặc tả vòng lặp
Một vòng lặp thử lại không giới hạn là một rò rỉ chi phí. Mọi vòng lặp cần một mục tiêu có thể đo lường, bằng chứng mới, số lần thử tối đa và một đường dẫn leo thang được đặt tên.
Coi harness như một bãi chứa đồ
Nhiều công cụ và bộ nhớ hơn không tự động tốt hơn. Một bộ công cụ quá tải làm tăng lỗi lựa chọn, ngữ cảnh nhiễu làm tăng sự nhầm lẫn, và quyền rộng làm tăng rủi ro.
Đổ lỗi cho mô hình về các lỗi điều phối
Một mô hình không thể bù đắp một cách đáng tin cậy cho trạng thái cũ, lược đồ công cụ mơ hồ, API hỏng hoặc thiếu các điều kiện thoát. Hãy cải thiện lớp sở hữu lỗi.
Danh sách kiểm tra thiết kế sẵn sàng cho sản xuất
- Harness: Các công cụ có hẹp, được ghi chép và có thể quan sát không? Trạng thái có bền vững không? Quyền có ít đặc quyền nhất không? Người vận hành có thể tạm dừng, kiểm tra và tiếp tục một lần chạy không?
- Loop: Bằng chứng nào chứng minh sự thành công? Phản hồi nào được trả về khi thất bại? Bao nhiêu lần thử lại được phép? Điều gì xảy ra khi ngân sách cạn kiệt?
- Graph: Những đường dẫn nào phải là xác định? Nơi nào công việc có thể chạy song song? Trạng thái nào được chia sẻ? Các cổng con người và đường dẫn khôi phục ở đâu?
- Đánh giá: Nhóm có thể phát lại các dấu vết thực tế, so sánh các phiên bản và quy sự cải tiến cho một thay đổi cụ thể thay vì trực giác không?
- Vận hành: Chi phí, độ trễ, tỷ lệ thất bại, tỷ lệ can thiệp và thành công cấp độ tác vụ có được giám sát trong sản xuất không?
Cách Đơn Giản Nhất Để Ghi Nhớ Sự Khác Biệt
Kỹ thuật một cái gì đó thành một mô hình để làm cho nó hoạt động. Phương pháp kỹ thuật vòng lặp là lặp đi lặp lại, có thể xác minh và có thể tiếp tục. Một đường dẫn thực thi phức tạp được làm cho rõ ràng và có thể kiểm soát thông qua việc sử dụng kỹ thuật graph. Không có cái nào trong ba cái có thể thay thế cho cái khác. Ngay cả khi harness đã mất trạng thái, một graph được vẽ đẹp đẽ cũng không đủ. Tuy nhiên, ngay cả với harness tốt nhất, nếu không có bằng chứng hoặc quy tắc dừng, đó là sự lãng phí tiền bạc! Các vòng lặp được chế tạo cẩn thận vẫn khó vận hành khi các nhánh, tính song song và phê duyệt được nhúng trong code ad-hoc. Nếu ba lớp này được thiết kế cùng nhau, các hệ thống agent đáng tin cậy sẽ xuất hiện, với điều kiện nhóm hiểu được mỗi lớp được cho là giải quyết vấn đề gì
CÁC TỪ KHÓA TÌM KIẾM NGƯỜI ĐỌC SỬ DỤNG
- agent harness vs loop engineering
- graph engineering cho AI agents
- điều phối AI agent
- kiến trúc LLM agent
- agent AI sản xuất
- Luồng công việc LangGraph
- AutoGen GraphFlow
- vòng lặp xác minh agent
Nguồn và Đọc Thêm
Giải Phẫu Của Một Agent Harness - Tìm hiểu cách agent harness biến các mô hình AI thành các công cụ làm việc tự động. Khám phá các thành phần cốt lõi: hệ thống file, sandbox và bộ nhớ
Các Khung Khung LangChain và LangGraph Đạt Mốc v1.0 - LangChain 1.0 và LangGraph 1.0 đã ra mắt. Xây dựng agent AI sẵn sàng cho sản xuất nhanh hơn với các công cụ tiêu chuẩn hóa, tùy chỉnh middleware và trạng thái bền vững
GraphFlow (Luồng Công Việc) - AutoGen - Trong phần này, bạn sẽ học cách tạo một luồng công việc đa agent bằng cách sử dụng, hay gọi tắt là "flow". Nó sử dụng thực thi có cấu trúc và kiểm soát chính xác cách các agent tương tác để hoàn thành một tác vụ. Trước tiên, chúng tôi sẽ chỉ cho bạn cách tạo và chạy một flow
Nghệ Thuật Của Kỹ Thuật Vòng Lặp - Agent tự động hóa công việc thực tế, nhưng hiệu suất đáng tin cậy đòi hỏi nhiều hơn một mô hình tốt, nó đòi hỏi một harness được thiết kế cẩn thận cho các tác vụ cụ thể. Bài viết này khám phá vòng lặp agent cốt lõi, cách xếp chồng và mở rộng các vòng lặp xây dựng các agent hiệu quả hơn, và cách đo lường từng cấp độ với các nguyên hàm LangChain
Giới Thiệu AutoGen Studio từ Microsoft Research - AutoGen Studio, được xây dựng trên khung khung mã nguồn mở linh hoạt AutoGen của Microsoft để điều phối các agent AI, cung cấp một giao diện thân thiện cho phép các nhà phát triển nhanh chóng xây dựng, kiểm tra, tùy chỉnh và chia sẻ các giải pháp AI đa agent, với ít hoặc không cần mã
Cách Xây Dựng Một Agent Harness Tùy Chỉnh - Các agent hiệu quả được xây dựng với các harness được kết hợp chặt chẽ với tác vụ. Cách dễ nhất để xây dựng một harness tùy chỉnh là sử dụng create_agent của LangChain cộng với middleware. Hướng dẫn này bao gồm vòng lặp agent cốt lõi và cách bạn có thể tùy chỉnh nó cho trường hợp sử dụng agent của mình
Hướng dẫn thực tế để xây dựng agent - Một hướng dẫn toàn diện về thiết kế, điều phối và triển khai các agent AI - bao gồm các trường hợp sử dụng, lựa chọn mô hình, thiết kế công cụ, lan can và các mẫu đa agent
Xây Dựng Agent AI Hiệu Quả - Lời khuyên và hướng dẫn thực tế để xây dựng các hệ thống đơn agent và đa agent sẵn sàng cho sản xuất từ Anthropic và khách hàng của chúng tôi
Lưu lại để không bị mất
Theo dõi @beamnxw để biết thêm các bài viết kỹ thuật :)
