Làm thế nào để trở thành Kỹ sư AI trong 6 tháng (TÀI NGUYÊN)

Kỹ thuật AI nhanh chóng trở thành một trong những bộ kỹ năng giá trị nhất trong lĩnh vực công nghệ

Vấn đề là hầu hết người mới bắt đầu không có ý tưởng rõ ràng về những gì họ thực sự nên học

Một số bắt đầu với lý thuyết học máy

Một số bị mắc kẹt trong việc xem các hướng dẫn một cách bất tận

Những người khác lao thẳng vào prompts và agents mà không hiểu về APIs, kiến thức cơ bản về backend, hoặc cách các sản phẩm thực tế thực sự được xây dựng

Kết quả thường giống nhau: rất nhiều sự nhầm lẫn và rất ít kỹ năng thực tế

Nếu mục tiêu của bạn là trở thành một kỹ sư AI, bạn không cần phải thành thạo mọi lĩnh vực của trí tuệ nhân tạo

Bạn cần học cách xây dựng các hệ thống AI hữu ích trong thế giới thực

Điều đó có nghĩa là học cách:

• Xây dựng các ứng dụng đầu cuối với LLMs
• Làm việc với các model API như OpenAI và Anthropic
• Thiết kế prompt và ngữ cảnh một cách phù hợp
• Sử dụng đầu ra có cấu trúc và tool calling
• Thêm truy xuất thông tin khi cần
• Triển khai các dự án để mọi người thực sự có thể sử dụng chúng

Hướng dẫn này được tạo ra để cung cấp cho bạn một lộ trình 6 tháng thực tế

Bài viết dài hơn 10.000 TỪ, vì vậy đọc nó có thể mất vài giờ hoặc thậm chí lâu hơn

Nhưng giá trị thực sự của nó là đối với mọi kỹ năng bạn cần học, đều có tài nguyên và giải thích rõ ràng về những việc cần làm

Bằng cách đó, trong vòng sáu tháng, bạn có thể đạt đến trình độ kỹ thuật AI và bắt đầu sử dụng nó cho bản thân ngay trong 1-2 tháng đầu tiên

Viết bài viết này mất hơn 40 GIỜ, và tôi đã làm việc cùng với bạn của tôi @andy_ai0

Anh ấy vừa mới bắt đầu xây dựng thương hiệu cá nhân trên X, nhưng anh ấy hiểu AI rất rõ và đã giúp đỡ rất nhiều cho bài viết này

Tôi thực sự nghĩ rằng anh ấy xứng đáng nhận được sự theo dõi và ủng hộ của bạn khi anh ấy phát triển

Bây giờ hãy bắt đầu đọc bài viết ⬇️

Kỹ sư AI thực sự làm gì

Nhiều người nghe cụm từ "kỹ sư AI" và tưởng tượng ra một người đang huấn luyện các mô hình khổng lồ từ đầu

Trong thực tế, hầu hết các kỹ sư AI hiện đại làm những việc thiết thực hơn nhiều

Họ xây dựng các sản phẩm và hệ thống dựa trên các mô hình hiện có

Điều đó thường bao gồm:

• Kết nối với LLM APIs
• Thiết kế prompt và luồng ngữ cảnh
• Xây dựng hệ thống chat, tìm kiếm hoặc tự động hóa
• Tích hợp các công cụ, cơ sở dữ liệu và API bên ngoài
• Xử lý đầu ra có cấu trúc
• Cải thiện độ tin cậy, chi phí và độ trễ
• Triển khai các tính năng AI vào các ứng dụng thực tế

Vì vậy, trong thực tế, một kỹ sư AI thường nằm ở đâu đó giữa:

• Kỹ thuật phần mềm
• Kỹ thuật sản phẩm
• Tự động hóa
• AI ứng dụng

Đây là lý do tại sao vai trò này đang phát triển nhanh chóng

Các công ty không chỉ cần các nhà nghiên cứu

Họ cần những người có thể tiếp nhận các mô hình và biến chúng thành các sản phẩm hữu ích

Đó cũng là lý do tại sao lộ trình này tập trung ít hơn vào lý thuyết nặng và nhiều hơn vào thực thi thực tế

Nếu bạn có thể xây dựng các ứng dụng LLM thực tế, hệ thống truy xuất thông tin, tự động hóa và quy trình làm việc sẵn sàng cho sản xuất, bạn đã gần hơn nhiều so với hầu hết những người mới bắt đầu trong việc có thể được tuyển dụng

⏩------------------------------------------------------------------------⏪

Tháng 1: Nắm vững kiến thức cơ bản về coding và nền tảng

Mục tiêu của bạn trong tháng này: Trở thành một lập trình viên Python có chức năng

Bạn không cần phải là chuyên gia, bạn chỉ cần ngừng tra Google các cú pháp cơ bản và có thể tự tin xây dựng các chương trình đơn giản

Kỹ thuật AI trước hết và trên hết là kỹ thuật phần mềm

Mọi thứ trong những tháng sau đều giả định rằng bạn có thể viết Python sạch sẽ, sử dụng terminal, gọi API và quản lý một codebase. Tháng này là nền tảng của bạn

Những gì cần học

1. Python

Python là ngôn ngữ của kỹ thuật AI. Chấm hết. Hầu như mọi thư viện, API và hướng dẫn bạn sẽ gặp trong sáu tháng tới đều bằng Python

Cách học:

Bắt đầu với một khóa học có cấu trúc buộc bạn phải viết code, không chỉ xem video

Sai lầm phổ biến nhất mà người mới bắt đầu mắc phải là tiêu thụ nội dung một cách thụ động, đọc theo, gật đầu và không bao giờ mở trình soạn thảo code

Chống lại điều này bằng cách viết code cho mọi ví dụ khi bạn học

Tài nguyên:

1. Python for Everybody (Coursera, miễn phí để kiểm tra)

Liên kết: https://www.coursera.org/specializations/python

Điểm khởi đầu tốt nhất cho người mới bắt đầu tuyệt đối. Tiến sĩ Chuck là một trong những giáo viên Python thân thiện với người mới bắt đầu nhất trên internet

2. freeCodeCamp Python Course (YouTube, miễn phí)

Liên kết: https://www.youtube.com/watch?v=rfscVS0vtbw

Một video toàn diện dài 4 giờ bao gồm tất cả các kiến thức cơ bản

3. CS50P: Giới thiệu về Lập trình với Python (Harvard, miễn phí)

Liên kết: https://cs50.harvard.edu/python/

Nghiêm ngặt hơn. Bao gồm các bài tập và một dự án cuối khóa. Tuyệt vời nếu bạn muốn có cấu trúc

4. Tài liệu chính thức của Python (hướng dẫn)

Liên kết: https://docs.python.org/3/tutorial/

Khô khan nhưng có thẩm quyền, hãy sử dụng như một tài liệu tham khảo

Những gì cần tập trung:

• Biến, kiểu dữ liệu, vòng lặp, điều kiện, hàm
• Danh sách, từ điển, tập hợp, tuple
• I/O tệp và làm việc với JSON
• Lớp và OOP cơ bản (chỉ đủ để hiểu những gì bạn đang đọc)
• Xử lý lỗi với try/except
• Môi trường ảo (venv) và pip
• Quản lý gói – hiểu requirements.txt

Dự án thực hành: Xây dựng một công cụ CLI đơn giản bằng Python. Một thứ gì đó như trình theo dõi chi tiêu cá nhân đọc/ghi vào tệp JSON hoặc một script gọi một API công cộng (như API thời tiết) và in kết quả đã được định dạng

2. Git và GitHub

Git là cách các nhà phát triển chuyên nghiệp lưu và chia sẻ code. Bạn sẽ cần nó liên tục, để quản lý phiên bản dự án, cộng tác và trưng bày công việc portfolio của bạn trên GitHub

Cách học:

Git lúc đầu khó hiểu vì mô hình tinh thần không rõ ràng

Đừng cố gắng ghi nhớ các lệnh, thay vào đó hãy hiểu vấn đề mà Git giải quyết

(theo dõi các thay đổi, cho phép cộng tác, cho phép bạn hoàn tác lỗi) và các lệnh sẽ trở nên có ý nghĩa

Tài nguyên:

1. GitHub Skills (miễn phí, tương tác)

Liên kết: https://skills.github.com/

Các khóa học tương tác chính thức được xây dựng bên trong chính GitHub. Bắt đầu ở đây

2. Learn Git Branching (miễn phí, tương tác)

Liên kết: https://learngitbranching.js.org/

Công cụ trực quan tốt nhất để hiểu về các nhánh và hợp nhất

3. Sách Pro Git (sách trực tuyến miễn phí)

Liên kết: https://git-scm.com/book/en/v2

Tài liệu tham khảo toàn diện. Chuyển đến các chương bạn cần

Những gì cần tập trung:

• git init, add, commit, push, pull
• Phân nhánh và hợp nhất
• Hiểu về .gitignore
• Tạo kho lưu trữ trên GitHub và đẩy các dự án cục bộ
• Đọc và viết các tệp README cơ bản

Thực hành: Từ bây giờ, mọi dự án bạn xây dựng, ngay cả các script nhỏ, nên nằm trong một kho lưu trữ GitHub. Điều này xây dựng thói quen và cung cấp cho bạn một portfolio

3. CLI / Kiến thức cơ bản về Terminal

Là một kỹ sư AI, bạn sẽ chạy các script, cài đặt gói, quản lý máy chủ và điều hướng các tệp hoàn toàn từ dòng lệnh

Chậm chạp hoặc sợ hãi trong terminal là một nút thắt cổ chai thực sự

Tài nguyên:

1. 50 lệnh Linux & Terminal phổ biến nhất (khóa học đầy đủ cho người mới bắt đầu)

Liên kết: https://www.youtube.com/watch?v=ZtqBQ68cfJc

Tốt cho người mới bắt đầu tuyệt đối trên Linux/Mac

2. Học kỳ còn thiếu của Giáo dục CS của bạn (MIT, miễn phí)

Liên kết: https://missing.csail.mit.edu/

Bao gồm viết script shell, công cụ terminal và sự lưu loát dòng lệnh mà hầu hết các khóa học CS bỏ qua

Những gì cần tập trung:

• Điều hướng: cd, ls, pwd, mkdir, rm
• Đọc tệp: cat, less, grep
• Chạy script Python từ terminal
• Biến môi trường
• Hiểu cơ bản về PATH

4. Kiến thức cơ bản về JSON, API, HTTP và Async

Bạn sẽ gọi LLM API từ ngày đầu tiên của Tháng 2

Điều đó có nghĩa là bạn cần hiểu cách các web API hoạt động trước khi bạn chạm vào SDK của OpenAI hoặc Anthropic

Tài nguyên:

1. Kiến thức cơ bản về HTTP – MDN Web Docs (miễn phí)

Liên kết: https://developer.mozilla.org/en-US/docs/Web/HTTP/Overview

Giải thích rõ ràng nhất về cách hoạt động của các yêu cầu và phản hồi HTTP

2. Hướng dẫn REST API

Liên kết: https://restfulapi.net/

Ngắn gọn và thực tế

3. Tài liệu thư viện requests Python

Liên kết: https://requests.readthedocs.io/en/latest/

Học cách gọi bất kỳ web API nào trong Python

4. Python async/await (miễn phí)

Liên kết: https://realpython.com/async-io-python/

Hiểu async là cần thiết để làm việc với các phản hồi LLM streaming sau này

Những gì cần tập trung:

• Yêu cầu GET, POST – chúng là gì và cách thực hiện chúng trong Python
• Đọc và viết JSON
• Mã trạng thái HTTP (200, 400, 401, 404, 500 – mỗi mã có nghĩa là gì)
• API key là gì và các mẫu xác thực cơ bản
• async def và await làm gì và tại sao chúng tồn tại

Dự án thực hành: Viết một script Python gọi một API công cộng miễn phí (thử Open-Meteo để lấy dữ liệu thời tiết – không cần API key) và định dạng kết quả dưới dạng đầu ra JSON sạch sẽ

5. SQL và Pandas cơ bản

Bạn sẽ không cần phải là một nhà khoa học dữ liệu, nhưng bạn sẽ thường xuyên cần kiểm tra, truy vấn và thao tác dữ liệu

Kiến thức cơ bản về SQL và sự lưu loát với pandas sẽ cứu bạn liên tục

Tài nguyên:

1. SQLBolt (miễn phí, tương tác)

Liên kết: https://sqlbolt.com/

Cách nhanh nhất để học SQL từ đầu. 20 bài học ngắn với các bài tập trong trình duyệt

2. Hướng dẫn bắt đầu chính thức của Pandas

Liên kết: https://pandas.pydata.org/docs/getting_started/index.html

Làm việc qua hướng dẫn 10 Phút đến Pandas

3. Khóa học Pandas của Kaggle (miễn phí)

Liên kết: https://www.kaggle.com/learn/pandas

Thực hành, thực tế, ngắn gọn

Những gì cần tập trung:

• SQL: SELECT, WHERE, GROUP BY, JOIN, ORDER BY
• Pandas: tải CSV, lọc hàng, chọn cột, tổng hợp cơ bản

6. FastAPI

Tài nguyên:

1. Hướng dẫn chính thức về FastAPI (miễn phí)

Liên kết: https://fastapi.tiangolo.com/tutorial/

Thực sự là một trong những tài liệu framework tốt nhất từng được viết

Làm việc qua nó từ đầu đến cuối. Bao gồm tham số đường dẫn, thân yêu cầu, xác thực Pydantic và chạy máy chủ dev

2. Phát triển API Python (Khóa học dài 19 giờ, freeCodeCamp, YouTube, miễn phí)

Liên kết: https://www.youtube.com/watch?v=ZtqBQ68cfJc

Bao gồm các nguyên tắc cơ bản về thiết kế API bao gồm routes, serialization, schema validation và tích hợp cơ sở dữ liệu SQL. Xây dựng một API kiểu mạng xã hội hoàn chỉnh từ đầu

Những gì cần tập trung: Tạo các endpoint GET và POST, tham số đường dẫn và truy vấn, thân yêu cầu với Pydantic, chạy uvicorn và sử dụng giao diện /docs tích hợp sẵn của FastAPI để kiểm tra API của bạn mà không cần viết một client

Cột mốc Tháng 1

Đến cuối tháng này, bạn sẽ có thể:

• Viết các chương trình Python đọc/ghi tệp, gọi API và xử lý lỗi
• Quản lý phiên bản code của bạn bằng Git và đẩy các dự án lên GitHub
• Điều hướng terminal mà không do dự
• Hiểu yêu cầu HTTP là gì và thực hiện một yêu cầu trong Python
• Truy vấn cơ sở dữ liệu SQLite bằng SQL cơ bản
• Xây dựng và chạy một ứng dụng FastAPI đơn giản cục bộ

⏩------------------------------------------------------------------------⏪

Tháng 2: Làm chủ phát triển ứng dụng LLM

Mục tiêu của bạn trong tháng này: Xây dựng các ứng dụng hỗ trợ AI thực tế bằng cách sử dụng API của OpenAI và Anthropic

Đến cuối tháng, bạn nên thoải mái viết các prompt hoạt động đáng tin cậy, lấy dữ liệu có cấu trúc từ các mô hình, khiến chúng gọi các hàm của bạn và xử lý mọi thứ có thể sai

Đây là cốt lõi của kỹ thuật AI. Mọi thứ khác trong lộ trình đều xây dựng dựa trên những gì bạn học ở đây

Những gì cần học

1. Nguyên tắc cơ bản về Prompting

Prompting không chỉ là đặt câu hỏi một cách tử tế. Đó là nghệ thuật viết các hướng dẫn tạo ra đầu ra nhất quán, đáng tin cậy từ các mô hình về cơ bản là xác suất

Là một kỹ sư AI, bạn sẽ dành một lượng thời gian đáng ngạc nhiên ở đây

Cách học:

Bắt đầu với hướng dẫn tương tác của Anthropic vì nó thực hành nhất

Sau đó đọc hướng dẫn chính thức của OpenAI. Sau đó, Hướng dẫn Kỹ thuật Prompt tổng hợp mọi thứ

Làm việc qua cả ba theo thứ tự – mỗi cái củng cố cái kia

Tài nguyên:

1. Hướng dẫn Tương tác về Prompt Engineering của Anthropic (miễn phí, GitHub)

Liên kết: https://github.com/anthropics/prompt-eng-interactive-tutorial

Một khóa học từng bước được chia thành 9 chương với các bài tập, được thiết kế để cung cấp cho bạn nhiều cơ hội thực hành viết và khắc phục sự cố prompt

Chạy nó dưới dạng sổ ghi chép Jupyter với Claude API

2. Tài liệu Prompt Engineering của Anthropic (miễn phí)

Liên kết: https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview

Tài liệu tham khảo chính thức. Bao gồm mọi thứ từ sự rõ ràng cơ bản đến cấu trúc XML và hệ thống agent

3. Hướng dẫn Prompt Engineering của OpenAI (miễn phí)

Liên kết: https://platform.openai.com/docs/guides/prompt-engineering

Hướng dẫn chính thức từ OpenAI, bao gồm các định dạng prompt hoạt động tốt với các mô hình của họ và dẫn đến đầu ra hữu ích hơn

4. [PromptingGuide.ai](//PromptingGuide.ai) (miễn phí)

Liên kết: https://www.promptingguide.ai/

Bao gồm các kỹ thuật cần thiết từ prompt cơ bản đến các chiến lược nâng cao, cộng với function calling, tích hợp công cụ và hệ thống agent

Những gì cần tập trung: Sự khác biệt giữa tin nhắn hệ thống và người dùng, tại sao tính cụ thể lại quan trọng, prompt chuỗi suy nghĩ (think step by step), sử dụng các ví dụ trong prompt (few-shot) và cách các thay đổi nhỏ về từ ngữ có thể thay đổi đáng kể chất lượng đầu ra

Thực hành: Thực hiện một tác vụ thực tế – tóm tắt một tài liệu, trích xuất thông tin chính từ văn bản, phân loại một phản hồi – và viết 5 prompt khác nhau cho nó. So sánh đầu ra. Bạn sẽ ngay lập tức thấy thiết kế prompt ảnh hưởng đến độ tin cậy như thế nào

3. Đầu ra có cấu trúc / JSON Schemas

Trong các ứng dụng thực tế, bạn hầu như không bao giờ muốn văn bản thô từ LLM, bạn muốn dữ liệu có cấu trúc mà bạn có thể phân tích cú pháp, lưu trữ và sử dụng trong code của mình

Đầu ra có cấu trúc giải quyết điều này bằng cách buộc mô hình khớp với một schema bạn xác định

Tài nguyên:

1. Hướng dẫn Đầu ra có cấu trúc của OpenAI (tài liệu chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/guides/structured-outputs

Bao gồm tính năng đảm bảo các mô hình luôn tạo ra phản hồi tuân thủ JSON Schema của bạn, vì vậy bạn không cần lo lắng về các key bị thiếu hoặc các giá trị bị ảo giác

2. Thư viện Instructor (miễn phí, mã nguồn mở)

Liên kết: https://python.useinstructor.com/

Cách sạch sẽ nhất để có được đầu ra có cấu trúc từ bất kỳ nhà cung cấp LLM nào bằng cách sử dụng các mô hình Pydantic

Hoạt động với OpenAI, Anthropic, Google và hơn 15 nhà cung cấp khác bằng cùng một giao diện code, với tính năng tự động thử lại khi xác thực thất bại

Đây là những gì hầu hết các kỹ sư AI sản xuất thực sự sử dụng

3. Sách dạy nấu ăn OpenAI: Giới thiệu về Đầu ra có cấu trúc (miễn phí)

Liên kết: https://developers.openai.com/cookbook/examples/structured_outputs_intro/

Các ví dụ thực tế bao gồm đầu ra chuỗi suy nghĩ, trích xuất dữ liệu có cấu trúc và tạo UI, tốt để hiểu các trường hợp sử dụng trong thế giới thực

Những gì cần tập trung: Xác định các mô hình Pydantic cho dữ liệu của bạn, chuyển schema tới API, hiểu sự khác biệt giữa đầu ra có cấu trúc và chế độ JSON, và xử lý các từ chối một cách khéo léo

Dự án thực hành: Xây dựng một trình phân tích hóa đơn hoặc biên nhận. Cung cấp cho nó văn bản thô (ví dụ: "Hóa đơn số 123, $45.99 cho 3 widget, đến hạn ngày 30 tháng 3") và yêu cầu nó trả về một đối tượng Python có cấu trúc với các trường như invoice_number, amount, items, due_date

4. Gọi Hàm / Công cụ

Tool calling là thứ biến LLM từ một trình tạo văn bản thành một thứ có thể thực hiện các hành động – tìm kiếm web, truy vấn cơ sở dữ liệu, gọi API của bạn, chạy code. Đây là một trong những kỹ năng quan trọng nhất trong toàn bộ hướng dẫn này

Cách hiểu nó: Mô hình không thực sự thực thi các hàm của bạn

Nó kiểm tra prompt và trả về một lệnh gọi có cấu trúc với tên hàm và đối số khi nó quyết định một công cụ nên được sử dụng

Code của bạn sau đó thực thi lệnh gọi và gửi kết quả trở lại

Tài nguyên:

1. Hướng dẫn Gọi Hàm của OpenAI (tài liệu chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/guides/function-calling

Tài liệu tham khảo xác định. Bao gồm việc xác định công cụ, luồng gọi 5 bước, lệnh gọi song song và các phương pháp hay nhất

2. Tài liệu Sử dụng Công cụ của Anthropic (miễn phí)

Liên kết: https://docs.anthropic.com/en/docs/build-with-claude/tool-use

Hướng dẫn tương đương của Anthropic cho Claude. Các khái niệm giống nhau, cú pháp hơi khác một chút

3. Sách dạy nấu ăn OpenAI: Cách Gọi Hàm với các Mô hình Chat (miễn phí, GitHub)

Liên kết: https://github.com/openai/openai-cookbook/blob/main/examples/How_to_call_functions_with_chat_models.ipynb

Một sổ ghi chép hoàn chỉnh có thể chạy được hướng dẫn qua vòng lặp gọi công cụ đầy đủ với các ví dụ thực tế

Những gì cần tập trung: Mô tả các hàm rõ ràng trong JSON Schema, phân tích cú pháp phản hồi gọi công cụ, thực thi hàm và đưa kết quả trở lại, xử lý các trường hợp không cần gọi công cụ và khái niệm tool_choice: "auto"

Dự án thực hành: Xây dựng một trợ lý đơn giản có ba công cụ: get_weather(city), calculate(expression) và search_notes(query) (chỉ tìm kiếm một dict được mã hóa cứng). Kết nối tất cả chúng và xem mô hình quyết định gọi cái nào dựa trên những gì bạn yêu cầu

5. Phản hồi Streaming

Streaming có nghĩa là hiển thị đầu ra của mô hình khi nó đang được tạo ra – từng từ một – thay vì chờ đợi phản hồi đầy đủ. Nó làm cho các ứng dụng của bạn cảm thấy nhanh hơn đáng kể và sống động hơn

Tài nguyên:

1. Tài liệu Streaming của OpenAI (chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/api-reference/streaming

Tài liệu tham khảo để thêm stream=True vào các yêu cầu và lặp qua các đoạn

2. Tài liệu Streaming của Anthropic (chính thức, miễn phí)

Liên kết: https://docs.anthropic.com/en/api/messages-streaming

Tài liệu tham khảo API streaming của Anthropic với các ví dụ Python

3. Cách hoạt động của API LLM Streaming – Simon Willison (miễn phí)

Liên kết: https://til.simonwillison.net/llms/streaming-llm-apis

Một phân tích kỹ thuật rõ ràng về cách Server-Sent Events hoạt động bên dưới cho OpenAI, Anthropic và Google, hữu ích để hiểu những gì thực sự đang xảy ra ở cấp độ HTTP

Những gì cần tập trung: Đặt stream=True, lặp qua các đoạn delta, lắp ráp phản hồi đầy đủ từ các phần và kết nối streaming vào một endpoint FastAPI bằng StreamingResponse

Mẹo: Streaming hầu như luôn là lựa chọn đúng đắn cho các ứng dụng hướng đến người dùng. Không ai muốn nhìn chằm chằm vào một vòng tròn tải trong 10 giây chờ đợi một phản hồi đầy đủ xuất hiện cùng một lúc

5. Trạng thái Hội thoại

LLMs không có trạng thái – chúng không có bộ nhớ giữa các cuộc gọi. Lịch sử hội thoại là thứ bạn quản lý bằng cách gửi danh sách tin nhắn đầy đủ với mọi yêu cầu. Hiểu điều này là nền tảng

Tài nguyên:

1. Hướng dẫn về Chat Completions của OpenAI, Quản lý Hội thoại (chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/guides/conversation-state

Giải thích chính tắc về cách mảng messages hoạt động và cách quản lý các cuộc hội thoại nhiều lượt

2. Tài liệu Messages API của Anthropic (chính thức, miễn phí)

Liên kết: https://docs.anthropic.com/en/api/messages

Tương đương của Anthropic. Cùng một khái niệm, đáng để đọc cả hai để xem chúng khác nhau như thế nào

Những gì cần tập trung: Cấu trúc mảng messages, tại sao bạn thêm cả tin nhắn người dùng và trợ lý, giới hạn cửa sổ ngữ cảnh và điều gì xảy ra khi bạn vượt quá chúng, và các chiến lược cắt bớt cơ bản (bỏ tin nhắn cũ nhất, tóm tắt lịch sử)

Dự án thực hành: Xây dựng một chatbot nhiều lượt đơn giản trong terminal. Mỗi lượt thêm vào danh sách messages. Thêm lệnh /reset để xóa lịch sử và in số lượng token hiện tại sau mỗi lần trao đổi

6. Kiến thức cơ bản về Chi phí, Độ trễ và Token

Triển khai các ứng dụng AI mà không hiểu về chi phí và token là cách bạn kết thúc với các hóa đơn bất ngờ và các ứng dụng chậm. Điều này nhàm chán nhưng rất quan trọng

Tài nguyên:

1. Trang Giá của OpenAI (chính thức)

Liên kết: https://openai.com/api/pricing

Biết chi phí token đầu vào và đầu ra cho mỗi mô hình. Đánh dấu trang này và kiểm tra nó bất cứ khi nào bạn chọn một mô hình

2. Trang Giá của Anthropic (chính thức)

Liên kết: https://www.anthropic.com/pricing

Tương tự cho các mô hình Claude

3. Công cụ Tokenizer của OpenAI (miễn phí, tương tác)

Liên kết: https://platform.openai.com/tokenizer

Dán bất kỳ văn bản nào và xem chính xác nó có bao nhiêu token. Sử dụng cái này liên tục trong khi bạn đang học

4. Tiktoken (thư viện Python, miễn phí)

Liên kết: https://github.com/openai/tiktoken

Thư viện tokenizer của OpenAI để đếm token trong code trước khi gửi yêu cầu

Những gì cần tập trung: Token là gì (khoảng 4 ký tự / 3/4 từ), cách định giá token đầu vào và đầu ra khác nhau, kích thước cửa sổ ngữ cảnh ảnh hưởng đến những gì bạn có thể làm như thế nào và sự đánh đổi độ trễ giữa các mô hình nhỏ hơn nhanh hơn và các mô hình lớn hơn thông minh hơn

Ngoài ra: đừng sử dụng GPT-4/Opus cho mọi thứ – các mô hình rẻ hơn thường đủ tốt cho các tác vụ đơn giản

7. Xử lý Lỗi

LLM APIs bị lỗi. Giới hạn tốc độ bị va phải, phản hồi hết thời gian, mô hình trả về JSON bị định dạng sai. Xử lý lỗi một cách khéo léo là điều phân biệt một bản demo với một ứng dụng sản xuất

Tài nguyên:

1. Tài liệu tham khảo về Mã Lỗi của OpenAI (chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/guides/error-codes

Mọi loại lỗi bạn sẽ gặp phải và những gì cần làm về nó

2. Tài liệu Xử lý Lỗi của Anthropic (chính thức, miễn phí)

Liên kết: https://docs.anthropic.com/en/api/errors

Tương tự cho Claude

3. Tenacity (thư viện Python, miễn phí)

Liên kết: https://tenacity.readthedocs.io/

Một thư viện sạch sẽ để thêm logic thử lại với exponential backoff vào bất kỳ hàm Python nào. Một decorator và việc thử lại của bạn được xử lý

Những gì cần tập trung: Lỗi giới hạn tốc độ (429) và exponential backoff, xử lý thời gian chờ với httpx/requests, xác thực đầu ra của mô hình trước khi sử dụng nó, các chiến lược dự phòng (thử lại với một mô hình khác, trả về một phản hồi đã lưu trong bộ nhớ đệm) và không bao giờ làm sập ứng dụng của bạn vì LLM trả về đầu ra không mong muốn

8. Nhận thức về Prompt Injection

Prompt injection là rủi ro bảo mật số 1 trong các ứng dụng LLM

Nó xảy ra khi đầu vào của người dùng không đáng tin cậy được kết hợp với các hướng dẫn hệ thống, cho phép người dùng thay đổi, ghi đè hoặc đưa hành vi mới vào prompt – khiến hệ thống thực hiện các hành động không mong muốn hoặc tạo ra đầu ra bị thao túng

Bạn không cần phải là chuyên gia bảo mật, nhưng bạn cần biết điều này tồn tại trước khi bạn triển khai bất cứ thứ gì

Tài nguyên:

1. OWASP Top 10 cho Ứng dụng LLM – LLM01: Prompt Injection (miễn phí)

Liên kết: https://genai.owasp.org/llmrisk/llm01-prompt-injection/

Phân loại có thẩm quyền bao gồm các cuộc tấn công trực tiếp (jailbreaking), tấn công gián tiếp qua nội dung bên ngoài như tài liệu hoặc trang web, và các kịch bản tấn công trong thế giới thực

2. OWASP Prompt Injection Prevention Cheat Sheet (miễn phí)

Liên kết: https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html

Các mẫu phòng thủ thực tế: xác thực đầu vào, kiểm soát đặc quyền và xác thực đầu ra

3. Evidently AI: Prompt Injection là gì (miễn phí)

Liên kết: https://www.evidentlyai.com/llm-guide/prompt-injection-llm

Một bài giải thích rõ ràng dành cho nhà phát triển về các loại tấn công, rủi ro và các mẫu thiết kế để giảm thiểu chúng

Điều cần tập trung: Sự khác biệt giữa tấn công trực tiếp và gián tiếp, tại sao các system prompt không thực sự "an toàn", nguyên tắc đặc quyền tối thiểu cho quyền truy cập công cụ, và không bao giờ tin tưởng đầu ra LLM chưa được xác thực để đưa ra các quyết định hệ quả một cách tự động

Cột mốc Tháng 2

Vào cuối tháng này, bạn sẽ có thể:

• Viết các prompt tạo ra đầu ra nhất quán, đáng tin cậy cho một tác vụ nhất định
• Lấy dữ liệu JSON có cấu trúc từ bất kỳ mô hình nào bằng Pydantic + Instructor
• Kết nối tool calling để mô hình có thể gọi các hàm Python của bạn
• Stream phản hồi theo thời gian thực qua một endpoint FastAPI
• Quản lý lịch sử hội thoại nhiều lượt một cách chính xác
• Ước tính chi phí token của một yêu cầu trước khi gửi
• Xử lý lỗi API, timeout và đầu ra xấu mà không bị crash
• Giải thích prompt injection là gì và áp dụng các biện pháp phòng thủ cơ bản

⏩------------------------------------------------------------------------⏪

Tháng 3: Học RAG đúng cách

Mục tiêu của bạn trong tháng này: Xây dựng các hệ thống cho phép LLM trả lời câu hỏi từ tài liệu của bạn, không chỉ từ dữ liệu huấn luyện

Vào cuối tháng, bạn sẽ có thể nạp tài liệu, nhúng và lưu trữ chúng, truy xuất các đoạn phù hợp tại thời điểm truy vấn, và tạo ra các câu trả lời có căn cứ, chính xác và có thể trích dẫn

RAG là kỹ năng thực tế được săn đón nhiều nhất trong lĩnh vực kỹ thuật AI hiện nay. Hầu như mọi trường hợp sử dụng AI doanh nghiệp thực tế – chatbot hỗ trợ khách hàng, cơ sở tri thức nội bộ, Q&A tài liệu – đều được xây dựng trên nó

Hiểu sâu về nó, không chỉ sao chép một hướng dẫn, là điều phân biệt các kỹ sư giỏi với các kỹ sư xuất sắc

1. Embeddings

Trước khi bạn có thể xây dựng một hệ thống RAG, bạn cần hiểu embeddings thực sự là gì – bởi vì chúng là nền tảng mà mọi thứ khác được xây dựng trên đó

Một text embedding là một đoạn văn bản được chiếu vào một không gian vector nhiều chiều

Vị trí của văn bản đó trong không gian này được biểu diễn dưới dạng một chuỗi dài các số

Quan trọng là, văn bản tương đồng về mặt ngữ nghĩa sẽ ở gần nhau trong không gian đó – điều này làm cho việc tìm kiếm tương tự trở nên khả thi

Tài nguyên:

1. Stack Overflow Blog: Giới thiệu trực quan về Text Embeddings (miễn phí)

Liên kết: https://stackoverflow.blog/2023/11/09/an-intuitive-introduction-to-text-embeddings/

Lời giải thích hay nhất cho người mới bắt đầu. Được viết bởi một nhà phát triển đã dành nhiều năm xây dựng các sản phẩm NLP, tập trung vào xây dựng trực giác đúng đắn thay vì toán học

2. Google ML Crash Course: Embeddings (miễn phí)

Liên kết: https://developers.google.com/machine-learning/crash-course/embeddings

Bao gồm lý do tại sao các biểu diễn vector dày đặc giải quyết các vấn đề mà one-hot encoding không thể – cụ thể là, nắm bắt các mối quan hệ ngữ nghĩa giữa các mục

3. HuggingFace: Bắt đầu với Embeddings (miễn phí)

Liên kết: https://huggingface.co/blog/getting-started-with-embeddings

Hướng dẫn thực hành. Cho thấy cách tạo embeddings bằng thư viện sentence-transformers, lưu trữ chúng và sử dụng chúng cho tìm kiếm ngữ nghĩa trên một bộ dữ liệu FAQ thực tế

4. Hướng dẫn Embeddings của OpenAI (tài liệu chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/guides/embeddings

Tài liệu tham khảo để sử dụng các mô hình text-embedding-3-small và text-embedding-3-large của OpenAI trong mã

Điều cần tập trung: Vector là gì về mặt khái niệm, tại sao văn bản tương tự tạo ra các vector tương tự, cosine similarity hoạt động như thế nào, sự khác biệt giữa các mô hình embedding (OpenAI, HuggingFace sentence-transformers), và kích thước embedding có ý nghĩa gì trong thực tế

Thực hành: Lấy 20 câu về các chủ đề liên quan, nhúng chúng bằng OpenAI hoặc sentence-transformers, và viết một chương trình tìm kiếm hàng xóm gần nhất đơn giản trả về 3 câu tương tự nhất với một truy vấn. Đây thực chất là trái tim của RAG ở dạng thu nhỏ

2. Chunking

Các tài liệu của bạn quá lớn để nhúng toàn bộ. Chunking là quá trình chia chúng thành các phần nhỏ hơn trước khi nhúng

Cách bạn chunk tài liệu ảnh hưởng trực tiếp đến khả năng tìm kiếm thông tin liên quan và đưa ra câu trả lời chính xác của hệ thống. Ngay cả một hệ thống truy xuất hoàn hảo cũng thất bại nếu nó tìm kiếm trên dữ liệu được chuẩn bị kém

Tài nguyên:

1. Weaviate: Chiến lược Chunking cho RAG (miễn phí)

Liên kết: https://weaviate.io/blog/chunking-strategies-for-rag

Hướng dẫn thực tế nhất. Bao gồm chunking kích thước cố định, đệ quy và ngữ nghĩa, với hướng dẫn rõ ràng về thời điểm sử dụng từng loại

2. Unstructured: Chunking cho RAG – Các phương pháp hay nhất (miễn phí)

Liên kết: https://unstructured.io/blog/chunking-for-rag-best-practices

Một bài phân tích kỹ thuật chuyên sâu về kích thước chunk, độ chồng lấp và cách cửa sổ ngữ cảnh của mô hình embedding áp đặt các giới hạn cứng

Điểm khởi đầu tốt cho thử nghiệm là kích thước chunk khoảng 250 token (xấp xỉ 1.000 ký tự), kết hợp với độ chồng lấp 10-20% giữa các chunk liên tiếp để tránh mất ngữ cảnh ở ranh giới

3. Tài liệu về Text Splitters của LangChain (chính thức, miễn phí)

Liên kết: https://python.langchain.com/docs/concepts/text_splitters/

Tài liệu tham khảo thực tế để sử dụng RecursiveCharacterTextSplitter, MarkdownTextSplitter và các semantic splitter trong mã

Điều cần tập trung: Chunking kích thước cố định với độ chồng lấp làm đường cơ sở, chunking đệ quy cho tài liệu có cấu trúc, chunking ngữ nghĩa để phát hiện ranh giới tốt hơn và sự đánh đổi cốt lõi: chunk quá lớn sẽ mất độ chính xác truy xuất; chunk quá nhỏ sẽ mất ngữ cảnh

Mẹo cho người mới bắt đầu: Bắt đầu với RecursiveCharacterTextSplitter từ LangChain với chunk_size=500 và chunk_overlap=50. Đây là giá trị mặc định hợp lý nhất cho hầu hết các tài liệu và cung cấp cho bạn một đường cơ sở hoạt động để cải thiện

3. Cơ sở dữ liệu Vector

Khi bạn đã có embeddings, bạn cần một nơi để lưu trữ và tìm kiếm chúng một cách hiệu quả. Đây là mục đích của cơ sở dữ liệu vector

Sự lựa chọn đúng đắn phụ thuộc vào tình huống của bạn: sử dụng Chroma để tạo mẫu nhanh cục bộ, Pinecone cho khả năng mở rộng được quản lý sẵn sàng, Weaviate cho sự linh hoạt mã nguồn mở với tìm kiếm kết hợp mạnh mẽ, Qdrant cho các bộ lọc phức tạp và tự lưu trữ hiệu quả về chi phí, và pgvector nếu bạn đã sử dụng PostgreSQL và muốn tránh thêm một hệ thống khác

Tài nguyên:

1. Tài liệu chính thức của Chroma (miễn phí)

Liên kết: https://docs.trychroma.com/

Chroma hoàn hảo cho các nhà phát triển cá nhân và nhóm nhỏ ưu tiên tốc độ và sự đơn giản trong phát triển, nó chạy trong bộ nhớ hoặc cục bộ mà không cần quản lý cơ sở hạ tầng

2. Trung tâm Học tập Pinecone (miễn phí)

Liên kết: https://www.pinecone.io/learn/

Các hướng dẫn miễn phí xuất sắc bao gồm các khái niệm tìm kiếm vector, tìm kiếm kết hợp và pipeline RAG. Tài liệu tốt, không phụ thuộc vào nhà cung cấp ngay cả khi bạn không sử dụng Pinecone

3. Tài liệu Qdrant (miễn phí)

Liên kết: https://qdrant.tech/documentation/

Tùy chọn mã nguồn mở tốt nhất cho sản xuất với tính năng lọc nâng cao. Rất nhanh, linh hoạt và miễn phí để tự lưu trữ

4. pgvector (mã nguồn mở, miễn phí)

Liên kết: https://github.com/pgvector/pgvector

Nếu bạn đang xây dựng một thứ gì đó đã sử dụng PostgreSQL, pgvector thêm tìm kiếm vector trực tiếp vào cơ sở dữ liệu hiện có của bạn mà không cần cơ sở hạ tầng mới

Điều cần tập trung: Tạo một collection, chèn embeddings với metadata, truy vấn theo độ tương tự với top_k và lọc theo metadata tại thời điểm truy vấn

Bạn không cần hiểu các thuật toán lập chỉ mục (HNSW, IVF) – chỉ cần hiểu cách sử dụng chúng

Dự án thực hành: Lập chỉ mục 50-100 trang từ bất kỳ tài liệu công khai nào (ví dụ: tài liệu Python hoặc tập hợp bài viết Wikipedia) vào Chroma với metadata (URL nguồn, tiêu đề phần). Viết một hàm truy vấn truy xuất 5 đoạn phù hợp nhất cho bất kỳ câu hỏi nào

4. Lọc Metadata

Chỉ tìm kiếm tương tự thô là không đủ cho các ứng dụng thực tế. Lọc metadata cho phép bạn giới hạn truy xuất vào một tập con có liên quan – theo ngày tháng, nguồn, loại tài liệu, người dùng, danh mục hoặc bất kỳ thuộc tính nào khác mà bạn lưu trữ cùng với mỗi chunk

Tài nguyên:

1. Pinecone: Hướng dẫn Lọc Metadata (miễn phí)

Liên kết: https://docs.pinecone.io/guides/data/filter-with-metadata

Giải thích rõ ràng với các ví dụ mã về việc lọc vector theo trường metadata trước hoặc trong quá trình tìm kiếm tương tự

2. LlamaIndex: Hướng dẫn Bộ lọc Metadata (tài liệu chính thức, miễn phí)

Liên kết: https://docs.llamaindex.ai/en/stable/module_guides/querying/node_postprocessors/node_postprocessors/

Giải thích cách áp dụng các bộ lọc tại thời điểm truy vấn trong các pipeline LlamaIndex

Điều cần tập trung: Gắn thẻ mọi chunk với metadata có liên quan tại thời điểm nạp (tên tệp nguồn, số trang, phần, ngày tháng, danh mục) và sử dụng các trường đó để lọc kết quả tại thời điểm truy vấn. Đây là điều tạo nên sự khác biệt giữa một bản demo đồ chơi và một hệ thống sản xuất nơi người dùng có thể hỏi "chỉ cho tôi kết quả từ các báo cáo Q4 2025-Q1 2026"

5. Reranking

Reranking là một kỹ thuật giúp tăng cường chất lượng tìm kiếm ngữ nghĩa cho bất kỳ hệ thống tìm kiếm từ khóa hoặc vector nào

Sau khi truy xuất giai đoạn đầu trả về một tập ứng viên, một bộ xếp hạng lại sẽ chấm điểm lại các kết quả đó dựa trên mức độ liên quan theo ngữ cảnh thực sự với truy vấn – không chỉ là khoảng cách vector

Mô hình hai giai đoạn là: nhúng và tìm kiếm (nhanh, xấp xỉ) → xếp hạng lại top-k (chậm hơn, chính xác hơn). Kết quả là chất lượng truy xuất được cải thiện đáng kể chỉ với chi phí độ trễ khiêm tốn

Tài nguyên:

1. Tài liệu Reranking của Cohere (chính thức, miễn phí)

Liên kết: https://docs.cohere.com/docs/reranking-with-cohere

Nơi tốt nhất để bắt đầu. Bao gồm toàn bộ quy trình làm việc reranking, bao gồm dữ liệu bán cấu trúc như email và tài liệu JSON. Chỉ cần một dòng mã để thêm vào một pipeline truy xuất hiện có

2. LangChain: Tích hợp Cohere Reranker (tài liệu chính thức, miễn phí)

Liên kết: https://python.langchain.com/docs/integrations/retrievers/cohere-reranker/

Giải thích cách kết nối tính năng reranking của Cohere vào một retriever LangChain bằng ContextualCompressionRetriever

Điều cần tập trung: Mô hình hai giai đoạn truy xuất-rồi-xếp hạng lại, sự khác biệt giữa bi-encoder (được sử dụng cho tìm kiếm nhúng giai đoạn đầu) và cross-encoder (được sử dụng cho reranking), và sự đánh đổi độ trễ/chất lượng thực tế của việc xếp hạng lại top-20 so với top-5

6. Các vấn đề về chất lượng truy xuất

Hầu hết các thất bại của RAG không phải là thất bại của mô hình, mà là thất bại của truy xuất. Hiểu được các cách truy xuất có thể sai là điều cần thiết để gỡ lỗi các hệ thống thực tế

Các vấn đề phổ biến cần học:

• Semantic drift: Vector truy vấn không khớp với vector chunk có liên quan mặc dù thông tin vẫn ở đó. Cách khắc phục: thử viết lại truy vấn hoặc HyDE (Hypothetical Document Embeddings)
• Vấn đề ranh giới chunk: Thông tin có liên quan bị chia cắt giữa hai chunk. Cách khắc phục: tăng độ chồng lấp hoặc sử dụng chunking ngữ nghĩa
• Thiếu ngữ cảnh metadata: Các chunk tương tự về mặt ngữ nghĩa với truy vấn nhưng thuộc về tài liệu, ngày tháng hoặc người dùng sai. Cách khắc phục: sử dụng lọc metadata
• Top-k quá nhỏ: Chunk đúng tồn tại nhưng không nằm trong top 5 kết quả được truy xuất. Cách khắc phục: tăng top_k khi truy xuất và giảm sau khi xếp hạng lại

Tài nguyên:

1. LangChain: Biến đổi Truy vấn (miễn phí)

Liên kết: https://python.langchain.com/docs/how_to/#query-analysis

Bao gồm viết lại truy vấn, step-back prompting và HyDE

2. Pinecone: Cải thiện Chất lượng Truy xuất (miễn phí)

Liên kết: https://www.pinecone.io/learn/retrieval-augmented-generation/#retrieval-quality

Hướng dẫn thực tế về các chế độ thất bại phổ biến kèm cách khắc phục

7. Giảm ảo giác

RAG làm giảm đáng kể ảo giác so với LLM thông thường, nhưng nó không loại bỏ hoàn toàn

Bằng cách cung cấp cho mô hình các dữ kiện đã truy xuất trong thời gian chạy, RAG neo các phản hồi của nó vào các nguồn thực tế thay vì chỉ dựa vào dữ liệu huấn luyện và đầu ra của mô hình thậm chí có thể trích dẫn các nguồn đó, tăng tính minh bạch và độ tin cậy

Nhưng lỗi truy xuất, chunk xấu và thông tin xung đột vẫn có thể khiến mô hình bịa đặt

Tài nguyên:

1. Zep: Giảm Ảo giác LLM – Hướng dẫn cho Nhà phát triển (miễn phí)

Liên kết: https://www.getzep.com/ai-agents/reducing-llm-hallucinations/

Hướng dẫn thực tế tập trung vào nhà phát triển bao gồm các chiến lược neo prompt, chain-of-thought cho các tác vụ thực tế và các mẫu xác minh đầu ra

2. Voiceflow: 5 Cách Giảm Ảo giác LLM (miễn phí)

Liên kết: https://www.voiceflow.com/blog/prevent-llm-hallucinations

Tổng quan tốt về chiến lược kết hợp: RAG + chain-of-thought + guardrails cùng nhau vượt trội hơn bất kỳ cách tiếp cận đơn lẻ nào

Điều cần tập trung: Nhắc mô hình chỉ trả lời từ ngữ cảnh được cung cấp (và nói "Tôi không biết" khi câu trả lời không có ở đó), thêm ngưỡng tin cậy trước khi hiển thị phản hồi và luôn xác thực chất lượng truy xuất trước khi đổ lỗi cho LLM

8. Trích dẫn và Neo nguồn

Một hệ thống RAG được neo nguồn không chỉ trả lời – nó cho bạn biết câu trả lời đến từ đâu. Điều này rất quan trọng cho sự tin tưởng của người dùng và để gỡ lỗi

Tài nguyên:

1. Anthropic: Cung cấp Nguồn cho Claude (tài liệu, miễn phí)

Liên kết: https://docs.anthropic.com/en/docs/build-with-claude/citations

Giải thích cách nhắc Claude tạo ra các phản hồi có trích dẫn với tham chiếu nguồn

2. LangChain: RAG với Nguồn (miễn phí)

Liên kết: https://python.langchain.com/docs/how_to/qa_sources/

Giải thích cách trả về các tài liệu nguồn cùng với câu trả lời trong một pipeline RAG LangChain

Điều cần tập trung: Truyền metadata chunk (tên tệp nguồn, số trang, URL) vào ngữ cảnh prompt của bạn, hướng dẫn mô hình tham chiếu nguồn trong câu trả lời và hiển thị các nguồn đó trong giao diện người dùng hoặc phản hồi API của bạn

9. Framework RAG của Bạn: LangChain hay LlamaIndex

Bạn không cần phải xây dựng một pipeline RAG từ đầu. Hai framework thống trị không gian này và đáng để biết:

LlamaIndex được tối ưu hóa để đặt tìm kiếm và lập chỉ mục lên hàng đầu – nó trừu tượng hóa việc nạp, chunking, nhúng và truy vấn vào một vài dòng mã, cho phép bạn xây dựng một nguyên mẫu hoạt động trong một buổi chiều

LangChain tỏa sáng khi ứng dụng của bạn trông giống một công cụ điều phối hơn – nó vượt trội với các quy trình làm việc đa tác nhân, tool calling và các chuỗi có điều kiện truy vấn nhiều LLM hoặc API bên ngoài trước khi tạo câu trả lời

Trong Tháng 3, hãy bắt đầu với LlamaIndex cho RAG. Chuyển sang LangChain khi bạn đến phần tác nhân của Tháng 4

Tài nguyên:

1. LlamaIndex: Giới thiệu về RAG (tài liệu chính thức, miễn phí)

Liên kết: https://developers.llamaindex.ai/python/framework/understanding/rag/

Bao gồm năm giai đoạn chính của RAG: tải, lập chỉ mục, lưu trữ, truy vấn và đánh giá – và cách LlamaIndex xử lý từng giai đoạn

2. Hướng dẫn Khởi đầu LlamaIndex (tài liệu chính thức, miễn phí)

Liên kết: https://developers.llamaindex.ai/python/framework/getting_started/starter_example/

Hướng dẫn nhanh chính thức. Xây dựng một hệ thống RAG hoạt động trong vòng chưa đầy 30 dòng

3. LangChain: Xây dựng một Tác nhân RAG (tài liệu chính thức, miễn phí)

Liên kết: https://docs.langchain.com/oss/python/langchain/rag

Cho thấy cách xây dựng một ứng dụng Q&A trên văn bản phi cấu trúc bằng tác nhân RAG, từ phiên bản tối thiểu 40 dòng đến một pipeline truy xuất hoàn chỉnh với reranking

Dự án thực hành: Xây dựng một ứng dụng "trò chuyện với tài liệu của bạn". Nạp 10-20 tệp PDF hoặc văn bản (ghi chú của riêng bạn, một chương sách giáo khoa, tài liệu sản phẩm – bất cứ thứ gì). Xây dựng một endpoint FastAPI nhận một câu hỏi, truy xuất top 5 chunk phù hợp nhất với reranking và trả về câu trả lời có trích dẫn từ Claude hoặc OpenAI. Đây là một tác phẩm portfolio thực sự

Cột mốc Tháng 3

Vào cuối tháng này, bạn sẽ có thể:

• Giải thích embedding là gì và tại sao văn bản tương tự tạo ra các vector tương tự
• Chunk bất kỳ tài liệu nào một cách thông minh bằng các chiến lược phù hợp
• Lưu trữ và truy vấn embeddings trong cơ sở dữ liệu vector với lọc metadata
• Thêm bước reranking để cải thiện chất lượng truy xuất
• Gỡ lỗi các lỗi truy xuất phổ biến một cách có hệ thống
• Xây dựng một pipeline RAG hoàn chỉnh từ đầu đến cuối bằng LlamaIndex hoặc LangChain để nạp tài liệu, truy xuất các chunk có liên quan và trả về các câu trả lời có căn cứ, có trích dẫn

⏩------------------------------------------------------------------------⏪

Tháng 4: Tác nhân, Công cụ, Quy trình làm việc và Đánh giá

Mục tiêu của bạn trong tháng này: Xây dựng các hệ thống AI có thể thực hiện các chuỗi hành động một cách tự động, kết nối các quy trình làm việc nhiều bước và đánh giá một cách phản biện xem chúng có hoạt động hay không

Vào cuối tháng, bạn sẽ có thể xây dựng một tác nhân thực sự từ đầu, hiểu khi nào tác nhân là lựa chọn sai và đo lường hiệu suất của bất cứ thứ gì bạn xây dựng

Đây là lúc kỹ thuật AI thực sự trở nên phức tạp. Các kỹ năng từ Tháng 4 là những gì phân biệt các kỹ sư AI cấp thấp với những người có thể sở hữu toàn bộ một tính năng AI từ đầu đến cuối

1. Vòng lặp Tác nhân

Một tác nhân không phải là phép thuật, nó là một mẫu đơn giản đáng ngạc nhiên

Hãy nghĩ về các tác nhân như các hệ thống hướng đến mục tiêu liên tục luân chuyển qua việc quan sát, suy luận và hành động

Vòng lặp này cho phép chúng giải quyết các nhiệm vụ vượt ra ngoài các câu hỏi và câu trả lời đơn giản, tiến tới tự động hóa thực sự, sử dụng công cụ và thích ứng nhanh

"Việc suy nghĩ" diễn ra trong prompt, "việc rẽ nhánh" là khi tác nhân chọn giữa các công cụ có sẵn và "việc thực hiện" diễn ra khi chúng ta gọi các hàm bên ngoài. Mọi thứ khác chỉ là phần dây nối

Một khi bạn nội tâm hóa điều này, ngay cả các framework tác nhân phức tạp nhất cũng trở nên dễ đọc

Tài nguyên:

1. Anthropic: Xây dựng Các tác nhân Hiệu quả (chính thức, miễn phí)

Liên kết: https://www.anthropic.com/research/building-effective-agents

Bài viết hay nhất về các tác nhân trong sản xuất. Đọc bài này trước khi viết một dòng mã tác nhân nào

2. OpenAI: Hướng dẫn Thực tế để Xây dựng Tác nhân (PDF chính thức, miễn phí)

Liên kết: https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf

Hướng dẫn bổ sung của OpenAI bao gồm các mẫu tác nhân, guardrails và các mẫu an toàn trong sản xuất

3. freeCodeCamp: Sổ tay Tác nhân LLM Mã nguồn Mở (miễn phí)

Liên kết: https://www.freecodecamp.org/news/the-open-source-llm-agent-handbook/

Một hướng dẫn thực tế toàn diện bao gồm vòng lặp tác nhân, LangGraph, CrewAI, lập kế hoạch, bộ nhớ và sử dụng công cụ. Tốt để bắt tay vào thực hành nhanh chóng

4. LangChain Academy: Giới thiệu về LangGraph (khóa học miễn phí)

Liên kết: https://academy.langchain.com/courses/intro-to-langgraph

Khóa học miễn phí chính thức cho LangGraph, framework điều phối tác nhân được sử dụng rộng rãi nhất. Bao gồm trạng thái, bộ nhớ, human-in-the-loop và hơn thế nữa

Điều cần tập trung: Chu kỳ perceive → plan → act → observe, cách vòng lặp tác nhân kết thúc, điều gì xảy ra khi một lệnh gọi công cụ thất bại bên trong một vòng lặp và tại sao các tác nhân chỉ là các vòng lặp while với một LLM đưa ra các quyết định rẽ nhánh

Thực hành: Xây dựng một tác nhân từ đầu mà không cần bất kỳ framework nào – chỉ sử dụng trực tiếp API OpenAI hoặc Anthropic. Cung cấp cho nó 3 công cụ, một mục tiêu và một vòng lặp. Đây là điều có giá trị nhất bạn có thể làm để thực sự hiểu những gì các framework đang trừu tượng hóa

2. Lựa chọn Công cụ

Viết các công cụ tốt là một nửa công việc. Các mô tả cho công cụ và tham số của chúng là sổ tay hướng dẫn sử dụng cho LLM. Nếu sổ tay mơ hồ, LLM sẽ sử dụng sai công cụ. Hãy rõ ràng một cách đau đớn, không ngừng

Một công cụ được mô tả kém sẽ được gọi sai, được gọi sai thời điểm hoặc bị bỏ qua hoàn toàn. Một công cụ được mô tả tốt hoạt động có thể dự đoán và được chọn chính xác trên nhiều đầu vào

Tài nguyên:

1. OpenAI: Các phương pháp hay nhất về Function Calling (tài liệu chính thức, miễn phí)

Liên kết: https://platform.openai.com/docs/guides/function-calling/best-practices

Hướng dẫn chuẩn về cách viết mô tả công cụ hoạt động đáng tin cậy, với các quy ước đặt tên và mẫu tài liệu tham số

2. Anthropic: Các phương pháp hay nhất về Sử dụng Công cụ (tài liệu chính thức, miễn phí)

Liên kết: https://docs.anthropic.com/en/docs/build-with-claude/tool-use/implement-tool-use#best-practices-for-tool-definitions

Tài liệu tương đương của Anthropic. Đặc biệt chú ý đến hướng dẫn về thời điểm để mô hình chọn so với việc buộc một công cụ cụ thể

Điều cần tập trung: Viết tên công cụ là các động từ tự giải thích, viết mô tả giải thích khi nào nên gọi công cụ (không chỉ nó làm gì), giữ tham số ở mức tối thiểu và được định kiểu tốt, và thiết kế công cụ với LLM là người gọi

Mẹo cho người mới bắt đầu: Kiểm tra mọi mô tả công cụ bằng cách tự hỏi: "Nếu tôi không có tài liệu nào và chỉ có lược đồ JSON này, liệu tôi có biết chính xác khi nào và làm thế nào để gọi công cụ này không?" Nếu không, nó cần được làm việc thêm

3. Quản lý Trạng thái

Trong LangGraph, trạng thái là một đối tượng bộ nhớ chia sẻ chảy qua đồ thị. Nó lưu trữ tất cả thông tin liên quan – tin nhắn, biến, kết quả trung gian và lịch sử quyết định – và được quản lý tự động trong suốt quá trình thực thi

Hiểu về trạng thái là chìa khóa để xây dựng các tác nhân có thể xử lý các tác vụ nhiều lượt, phục hồi sau lỗi và chuyển giao giữa các thành phần một cách sạch sẽ

Tài nguyên:

1. Tài liệu Chính thức của LangGraph: Quản lý Trạng thái (miễn phí)

Liên kết: https://langchain-ai.github.io/langgraph/concepts/low_level/#state

Tài liệu tham khảo chính thức. Bao gồm các lược đồ trạng thái (state schemas), bộ rút gọn (reducers) và cách trạng thái luân chuyển qua các node và cạnh (edges)

2. DataCamp: Hướng dẫn về LangGraph Agents (miễn phí)

Liên kết: https://www.datacamp.com/tutorial/langgraph-agents

Bao gồm các kiến thức nền tảng về trạng thái (state), node và cạnh (edges) với mã nguồn thực hành, từ đó xây dựng lên các agent có trạng thái với bộ nhớ liên tục xuyên suốt các phiên làm việc

3. Real Python: LangGraph trong Python (miễn phí)

Liên kết: https://realpython.com/langgraph-python/

Một hướng dẫn chi tiết xây dựng một LangGraph agent hoàn chỉnh có trạng thái, với các giải thích cặn kẽ về đồ thị trạng thái (state graph) và các cạnh có điều kiện (conditional edges)

Những gì cần tập trung: Định nghĩa lược đồ trạng thái với TypedDict, cách bộ rút gọn (reducers) hoạt động để hợp nhất các cập nhật song song, sự khác biệt giữa trạng thái trong bộ nhớ (in-memory state) và điểm kiểm tra đã được lưu trữ (persisted checkpointing), và cách cơ chế tạm dừng có sự tham gia của con người (human-in-the-loop) hoạt động bằng cách kiểm tra và sửa đổi trạng thái giữa quá trình thực thi

4. Cơ chế Thử lại và Xử lý Lỗi trong Agent

Agent gặp lỗi khác với các lệnh gọi LLM thông thường. Một lời gọi công cụ sai giữa vòng lặp có thể làm hỏng trạng thái, gây ra vòng lặp vô hạn, hoặc âm thầm tạo ra câu trả lời sai. Bạn cần các chiến lược rõ ràng cho tất cả những trường hợp này

Tài nguyên:

1. LangGraph: Xử lý Lỗi và Thử lại (tài liệu chính thức, miễn phí)

Liên kết: https://langchain-ai.github.io/langgraph/how-tos/autofill-tool-errors/

Giải thích cách thêm logic xử lý lỗi và thử lại tự động ở cấp độ node công cụ trong LangGraph

2. Hướng dẫn Thực hành về Agent của OpenAI: Phần Lan canh (Guardrails) (miễn phí)

Liên kết: https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf

Đề cập đến các biện pháp bảo vệ (guardrails) như một lớp phòng thủ nhiều tầng, kết hợp kiểm tra dựa trên LLM, bộ lọc dựa trên quy tắc như regex và các API kiểm duyệt để xem xét cả đầu vào và đầu ra ở mọi giai đoạn của vòng lặp agent

Những gì cần tập trung: Giới hạn số lần lặp tối đa để ngăn vòng lặp vô hạn, thử lại cho từng công cụ với thời gian chờ tăng dần (exponential backoff), bắt và ghi lại các ngoại lệ tại lớp thực thi công cụ mà không làm sập agent, và khi nào nên thông báo lỗi cho người dùng so với việc thử lại một cách ngầm định

5. Khi Nào KHÔNG Nên Sử Dụng Agent

Đây là một trong những kỹ năng quan trọng nhất và thường bị bỏ qua nhất trong kỹ thuật AI. Agent rất thú vị nhưng chúng cũng chậm, đắt đỏ, khó đoán và khó gỡ lỗi. Biết khi nào nên sử dụng một giải pháp đơn giản hơn là dấu hiệu của một sự phán đoán tốt

Anthropic khuyến nghị tìm ra giải pháp đơn giản nhất có thể và chỉ tăng độ phức tạp khi cần thiết – điều này có nghĩa là có thể không xây dựng các hệ thống agent nào cả

Các hệ thống agent đánh đổi độ trễ và chi phí để có hiệu suất tác vụ tốt hơn, và bạn nên cân nhắc kỹ lưỡng khi nào sự đánh đổi này là hợp lý

Khung quyết định là:

• Sử dụng một lệnh gọi LLM duy nhất nếu tác vụ có thể được giải quyết trong một prompt duy nhất với ngữ cảnh phù hợp
• Sử dụng một quy trình làm việc (workflow) nếu các bước là cố định và có thể dự đoán được
• Chỉ sử dụng agent nếu số lượng bước thực sự không thể dự đoán được và yêu cầu ra quyết định linh hoạt

Tài nguyên:

1. Anthropic: Xây dựng Agent Hiệu quả, Khi nào nên sử dụng Agent (chính thức, miễn phí)

Liên kết: https://www.anthropic.com/research/building-effective-agents

Câu trả lời có thẩm quyền nhất cho câu hỏi này, đến trực tiếp từ nhóm phát triển các mô hình

2. Simon Willison: Thiết kế các Vòng lặp Agent (Agentic Loops) (miễn phí)

Liên kết: https://simonwillison.net/2025/Sep/30/designing-agentic-loops/

Quan điểm thực tế của một kỹ sư kỳ cựu về thời điểm độ phức tạp của agent là hợp lý và cách suy nghĩ về thiết kế vòng lặp agent

Những gì cần ghi nhớ: Một chuỗi gồm 3 lệnh gọi LLM cố định sẽ luôn nhanh hơn, rẻ hơn và dễ gỡ lỗi hơn một agent có thể thực hiện 3 lệnh gọi. Hãy dành agent cho các tác vụ thực sự mở (open-ended)

6. Quy trình làm việc Nhiều bước (Multi-Step Workflows)

Giữa "một prompt duy nhất" và "agent đầy đủ" có một vùng đệm rộng lớn và hiệu quả: các quy trình làm việc (workflows). Workflows là lý tưởng khi tác vụ có thể được phân tách rõ ràng thành các tác vụ con cố định – đánh đổi độ trễ để có độ chính xác cao hơn bằng cách làm cho mỗi lệnh gọi LLM riêng lẻ trở nên dễ dàng và tập trung hơn

Các mẫu phổ biến bao gồm chuỗi prompt (prompt chaining - đầu ra của lệnh gọi này là đầu vào của lệnh gọi tiếp theo), định tuyến (routing - phân loại đầu vào và gửi đến các bộ xử lý chuyên biệt), song song hóa (parallelization - chạy nhiều lệnh gọi đồng thời và tổng hợp kết quả), và orchestrator-subagent (một LLM lập kế hoạch, các LLM khác thực thi)

Tài nguyên:

1. Anthropic: Các Mẫu Workflow (chính thức, miễn phí)

Liên kết: https://www.anthropic.com/research/building-effective-agents#workflow-patterns

Bao gồm tất cả các mẫu chính với sơ đồ và ví dụ mã nguồn. Các phần về song song hóa và điều phối (orchestration) đặc biệt hữu ích

2. LangGraph: Mạng lưới Đa Agent (Multi-Agent Networks) (tài liệu chính thức, miễn phí)

Liên kết: https://langchain-ai.github.io/langgraph/concepts/multi_agent/

Giải thích cách kết nối nhiều agent với nhau như một mạng lưới, với các mẫu người giám sát (supervisor) và bàn giao (handoff)

Dự án thực hành: Xây dựng một pipeline nội dung 3 bước:

Bước 1 – một LLM trích xuất các sự kiện chính từ một bài báo

Bước 2 – một lệnh gọi LLM khác sử dụng những sự kiện đó để tạo ra một tweet, một bài đăng trên LinkedIn và một bản tóm tắt một cách song song

Bước 3 – một lệnh gọi LLM cuối cùng chấm điểm cả ba nội dung về chất lượng và chọn ra nội dung tốt nhất

Không cần agent, chỉ là workflow thuần túy

7. Khung Đánh giá (Evaluation Harnesses)

Eval là cách bạn biết liệu hệ thống AI của mình có thực sự hoạt động tốt hay không — không chỉ trên các ví dụ bạn đã kiểm tra thủ công, mà một cách có hệ thống trên hàng trăm đầu vào khác nhau

AI Agent rất mạnh mẽ nhưng phức tạp để triển khai vì hành vi xác suất, nhiều bước của chúng tạo ra nhiều điểm có thể gây ra lỗi

Các phần khác nhau của một agent – LLM, công cụ, bộ truy xuất (retrievers) và workflows – mỗi phần đều cần phương pháp đánh giá riêng

Tài nguyên:

1. DeepEval (mã nguồn mở, miễn phí)

Liên kết: https://deepeval.com/docs/getting-started

Một khung đánh giá LLM nguồn mở lấy cảm hứng từ pytest. Viết các ca kiểm thử với đầu vào và đầu ra mong đợi, chạy chúng với hơn 50 chỉ số tích hợp sẵn bao gồm hallucination, mức độ liên quan của câu trả lời và tính nhất quán thực tế, đồng thời phát hiện các hồi quy (regressions) giữa các phiên bản

2. [Promptfoo (mã nguồn mở, miễn phí)](https://github.com/promptfoo/promptfoo)

Liên kết: https://github.com/promptfoo/promptfoo

Một CLI và thư viện để kiểm tra và đánh giá các ứng dụng LLM với các bộ kiểm thử tự động. Hỗ trợ so sánh cạnh nhau của nhiều prompt trên nhiều mô hình, tích hợp CI/CD và red teaming cho các lỗ hổng bảo mật

3. LangSmith (gói miễn phí)

Liên kết: https://smith.langchain.com/

Theo dõi (Tracing), gỡ lỗi và đánh giá cho các ứng dụng LangChain và LangGraph. Gói miễn phí hào phóng và giao diện theo dõi (tracing UI) giúp việc gỡ lỗi các vòng lặp agent dễ dàng hơn đáng kể

4. Ragas (mã nguồn mở, miễn phí)

Liên kết: https://docs.ragas.io/

Khung đánh giá chuyên biệt cho các pipeline RAG. Đo lường độ trung thực, mức độ liên quan của câu trả lời, độ chính xác của ngữ cảnh và khả năng gợi nhớ ngữ cảnh. Cần thiết nếu bạn đang đánh giá các hệ thống RAG từ Tháng 3

Những gì cần tập trung: Xây dựng một bộ kiểm thử vàng (golden test set) gồm 20-50 đầu vào đại diện với đầu ra mong đợi hoặc tiêu chí đánh giá (rubrics), viết các hàm đánh giá chấm điểm đầu ra một cách xác định (khớp chuỗi, xác thực lược đồ JSON) hoặc sử dụng LLM-as-judge, và chạy đánh giá tự động khi bạn thay đổi prompt hoặc chuyển đổi mô hình

Tư duy quan trọng: Eval không phải là bước hoàn thiện tùy chọn. Mọi thay đổi prompt, chuyển đổi mô hình hoặc điều chỉnh truy xuất bạn thực hiện mà không chạy đánh giá đều là một canh bạc. Các kỹ sư cung cấp sản phẩm AI đáng tin cậy chạy đánh giá liên tục

8. Các Chỉ số Thành công của Tác vụ (Task Success Metrics)

Ngoài các đánh giá tự động, bạn cần các chỉ số cho bạn biết liệu agent của mình có đang hoàn thành mục tiêu thực tế hay không

Tài nguyên:

1. Hamel Husain: Sản phẩm AI của Bạn Cần Eval (miễn phí)

Liên kết: https://hamel.dev/blog/posts/evals/

Một trong những bài viết thực tế nhất về xây dựng pipeline đánh giá cho các hệ thống AI sản xuất thực tế, từ một người đã làm việc đó ở quy mô lớn

2. Khung Eval của OpenAI (mã nguồn mở, miễn phí)

Liên kết: https://github.com/openai/evals

Khung đánh giá của chính OpenAI, với một thư viện lớn các mẫu đánh giá do cộng đồng đóng góp mà bạn có thể điều chỉnh

Những gì cần tập trung: Sự khác biệt giữa chỉ số quy trình (process metrics - agent có gọi đúng công cụ không?) và chỉ số kết quả (outcome metrics - tác vụ có thành công không?), xác định tiêu chí thành công rõ ràng trước khi xây dựng bất cứ thứ gì, và sử dụng LLM-as-judge để đánh giá các đầu ra kháng lại việc khớp chính xác (như câu trả lời dài hoặc dấu vết suy luận nhiều bước)

Dự án thực hành: Lấy pipeline RAG của bạn từ Tháng 3 và xây dựng một khung đánh giá (eval harness) phù hợp xung quanh nó. Tạo 30 cặp câu hỏi-câu trả lời từ tài liệu của bạn, chạy chúng qua pipeline của bạn và chấm điểm mỗi câu trả lời về mức độ liên quan, độ trung thực và tính đầy đủ bằng cách sử dụng DeepEval. Sau đó, thay đổi một thứ (kích thước khối, mô hình, top-k) và chạy lại để xem liệu nó có cải thiện hay không

Mốc Tháng 4

Vào cuối tháng này, bạn sẽ có thể:

• Giải thích vòng lặp agent là gì và tự triển khai một vòng lặp từ đầu mà không cần framework
• Viết mô tả công cụ được chọn một cách chính xác và đáng tin cậy
• Quản lý trạng thái agent đúng cách bằng LangGraph hoặc công cụ tương đương
• Xử lý lỗi bên trong vòng lặp agent mà không làm sập hệ thống
• Quyết định một cách tự tin liệu một tác vụ có cần agent, workflow hay một prompt duy nhất
• Xây dựng các workflow nhiều bước có thể xâu chuỗi, định tuyến và song song hóa các lệnh gọi LLM
• Viết các đánh giá tự động có thể phát hiện hồi quy khi bạn thay đổi prompt hoặc mô hình
• Xác định và đo lường các chỉ số thành công của tác vụ cho bất kỳ hệ thống AI nào bạn xây dựng

⏩------------------------------------------------------------------------⏪

Tháng 5: Triển khai, Tư duy Sản phẩm và Độ tin cậy

Mục tiêu của bạn trong tháng này: Đưa mọi thứ bạn đã xây dựng vào trạng thái sẵn sàng cho sản xuất

Vào cuối tháng, bạn sẽ có thể triển khai một ứng dụng AI có thể xử lý người dùng thực, lưu lượng truy cập thực và các lỗi thực tế mà không bị sụp đổ lúc 2 giờ sáng

Đây là nơi hầu hết các kỹ sư AI gặp khó khăn. Họ có thể xây dựng một bản demo tuyệt vời nhưng không thể tung ra một sản phẩm có thể tồn tại khi tiếp xúc với thế giới thực

Các kỹ năng ở đây là thứ mà các công ty thực sự trả tiền: độ tin cậy, bảo mật, kiểm soát chi phí và khả năng giữ cho mọi thứ hoạt động khi có sự cố chắc chắn xảy ra

1. Các Mẫu Sản xuất cho FastAPI

Bạn đã biết cách xây dựng một ứng dụng FastAPI từ Tháng 1. Bây giờ bạn cần làm cho nó tồn tại được với lưu lượng truy cập sản xuất

Sự khác biệt giữa môi trường dev và prod là rất khắc nghiệt. Một tiến trình uvicorn đơn lẻ với --reload thì tốt cho việc xây dựng. Trong sản xuất, nó trở thành nút cổ chai ngay khi có lưu lượng truy cập thực đến

Những gì bạn thực sự cần: Cấu hình ASGI đa worker, middleware xử lý lỗi phù hợp, các endpoint kiểm tra sức khỏe (health check endpoints) và chính sách CORS

Tài nguyên:

1. Tài liệu Triển khai FastAPI (chính thức, miễn phí)

Liên kết: https://fastapi.tiangolo.com/deployment/

Hướng dẫn chính thức đề cập đến Uvicorn workers, Gunicorn và triển khai Docker. Bắt đầu từ đây trước bất cứ thứ gì khác

2. Hướng dẫn Triển khai Sản xuất FastAPI (Tài liệu CYS, miễn phí)

Liên kết: https://craftyourstartup.com/cys-docs/fastapi-production-deployment/

Các mẫu sản xuất toàn diện: Cấu hình Gunicorn, reverse proxy Nginx, kiểm tra sức khỏe, giới hạn tốc độ. Bao gồm các tệp cấu hình thực tế bạn có thể điều chỉnh

3. Các Thực hành Tốt nhất cho FastAPI trong Sản xuất (FastLaunchAPI, miễn phí)

Liên kết: https://fastlaunchapi.dev/blog/fastapi-best-practices-production-2026

Bao gồm gộp kết nối cơ sở dữ liệu không đồng bộ (async database pooling), bộ nhớ đệm Redis, xác thực JWT và các tác vụ nền. Các mẫu đã được kiểm chứng trong sản xuất từ một template thực tế được hơn 100 nhà phát triển sử dụng

Những gì cần tập trung: Chạy Gunicorn với Uvicorn workers (không phải Uvicorn trần), thiết lập các endpoint kiểm tra sức khỏe, thêm middleware CORS, triển khai các phiên cơ sở dữ liệu không đồng bộ phù hợp và sử dụng các tác vụ nền cho bất cứ thứ gì không cần chặn phản hồi

2. Docker

Docker là cách bạn ngừng nói "nó chạy trên máy của tôi" và bắt đầu triển khai một cách nhất quán

Nếu bạn đang xây dựng ứng dụng AI, Docker giải quyết các xung đột phụ thuộc, đảm bảo môi trường nhất quán và giúp việc mở rộng quy mô trở nên đơn giản

Bạn không cần trở thành chuyên gia Docker. Bạn cần có khả năng đóng gói ứng dụng FastAPI + LLM của mình và triển khai nó ở bất cứ đâu

Tài nguyên:

1. Hướng dẫn Bắt đầu Chính thức của Docker (miễn phí)

Liên kết: https://docs.docker.com/get-started/

Điểm khởi đầu chính thống. Bao gồm images, containers, Dockerfiles và Docker Compose

2. freeCodeCamp: Cách Xây dựng và Triển khai Hệ thống AI Đa Agent với Python và Docker (miễn phí)

Liên kết: https://www.freecodecamp.org/news/build-and-deploy-multi-agent-ai-with-python-and-docker/

Hướng dẫn thực tế từ đầu đến cuối xây dựng một pipeline đa agent thực tế với Docker Compose. Bao gồm phân tách mối quan tâm (separation of concerns), lập lịch cron và các cân nhắc bảo mật

3. DataCamp: Triển khai Ứng dụng LLM Bằng Docker (miễn phí)

Liên kết: https://www.datacamp.com/tutorial/deploy-llm-applications-using-docker

Hướng dẫn từng bước dành riêng cho các ứng dụng LLM với pipeline RAG. Bao gồm tạo Dockerfile, quản lý môi trường và triển khai

4. Docker Containerization cho Ứng dụng LLM (ApXML, miễn phí)

Liên kết: https://apxml.com/courses/python-llm-workflows/chapter-10-deployment-operational-practices/containerization-docker-llm-apps

Bao gồm lựa chọn image cơ sở, quản lý phụ thuộc, xây dựng đa giai đoạn (multi-stage builds) và Docker Compose cho các triển khai LLM đa dịch vụ

Những gì cần tập trung: Viết Dockerfile cho ứng dụng Python/FastAPI, sử dụng các bản dựng đa giai đoạn để giữ cho images nhỏ, Docker Compose cho thiết lập đa dịch vụ (ứng dụng + cơ sở dữ liệu + Redis), biến môi trường cho các bí mật và .dockerignore để tránh rò rỉ các tệp nhạy cảm

Dự án thực hành: Đóng gói ứng dụng RAG từ Tháng 3 của bạn. Tạo một tệp docker-compose.yml chạy ứng dụng FastAPI, cơ sở dữ liệu vector (Chroma hoặc Qdrant) và Redis để lưu trữ đệm. Triển khai nó để lệnh docker compose up khởi động mọi thứ

3. Công việc Nền và Hàng đợi (Background Jobs and Queues)

Các lệnh gọi LLM rất chậm. Nếu người dùng yêu cầu ứng dụng của bạn xử lý một tài liệu và bạn bắt họ đợi 30 giây để có phản hồi, họ sẽ rời đi

Các công việc nền cho phép bạn chấp nhận yêu cầu ngay lập tức, xử lý nó một cách không đồng bộ và thông báo cho người dùng khi hoàn thành

Tài nguyên:

1. Hướng dẫn Bắt đầu Chính thức của Celery (miễn phí)

Liên kết: https://docs.celeryq.dev/en/stable/getting-started/introduction.html

Hàng đợi tác vụ Python tiêu chuẩn. Bao gồm thiết lập cơ bản, định nghĩa tác vụ và quản lý worker

2. Tài liệu về Background Tasks của FastAPI (chính thức, miễn phí)

Liên kết: https://fastapi.tiangolo.com/tutorial/background-tasks/

Các tác vụ nền nhẹ được tích hợp sẵn cho các trường hợp sử dụng đơn giản. Sử dụng cái này cho các tác vụ nhanh "bắn rồi quên", sử dụng Celery cho bất cứ thứ gì nặng hơn

Những gì cần tập trung: Hiểu khi nào nên sử dụng BackgroundTasks tích hợp sẵn của FastAPI so với một hàng đợi tác vụ thích hợp như Celery, thiết lập Redis làm trình môi giới tin nhắn (message broker), xử lý lỗi tác vụ và thử lại, và trả về trạng thái công việc cho người dùng

4. Xác thực (Auth) và Bảo mật Khóa API

Nếu ứng dụng AI của bạn có API, nó cần xác thực. Nếu không có nó, bất kỳ ai cũng có thể sử dụng các endpoint của bạn, đốt hết tín dụng LLM của bạn và bạn sẽ thức dậy với hóa đơn 5.000 đô la

Tài nguyên:

1. Tài liệu Bảo mật FastAPI (chính thức, miễn phí)

Liên kết: https://fastapi.tiangolo.com/tutorial/security/

Bao gồm OAuth2, token JWT, khóa API và các mẫu xác thực dựa trên dependency. Tài liệu tham khảo chính thức, hãy làm việc qua toàn bộ hướng dẫn

2. OWASP API Security Top 10 (miễn phí)

Liên kết: https://owasp.org/API-Security/

Danh sách có thẩm quyền về các rủi ro bảo mật API. Hiểu về xác thực bị hỏng, chèn mã (injection) và gán hàng loạt (mass assignment) trước khi tung ra bất cứ thứ gì

3. Auth0: Các Thực hành Tốt nhất về Xác thực API (miễn phí)

Liên kết: https://auth0.com/docs/get-started/authentication-and-authorization

Hướng dẫn thực tế để triển khai xác thực và phân quyền trong API

Những gì cần tập trung: Token JWT để xác thực người dùng, quản lý khóa API để giao tiếp giữa các dịch vụ, giới hạn tốc độ (rate limiting) theo người dùng/khóa, không bao giờ lưu trữ bí mật trong mã (sử dụng biến môi trường) và hiểu sự khác biệt giữa xác thực (authentication - bạn là ai) và phân quyền (authorization - bạn có thể làm gì)

5. Ghi log (Logging) và Khả năng Quan sát (Observability)

Trong sản xuất, nếu bạn không thể thấy những gì đang xảy ra, bạn không thể sửa những gì bị hỏng

Các ứng dụng LLM có một thách thức độc đáo: mô hình có thể trả về mã trạng thái 200 và vẫn tạo ra câu trả lời vô dụng hoặc bịa đặt. Giám sát truyền thống không phát hiện được điều này. Bạn cần khả năng quan sát dành riêng cho LLM

Tài nguyên:

1. Langfuse (mã nguồn mở, gói miễn phí)

Liên kết: https://langfuse.com/docs/observability/overview

Nền tảng quan sát LLM nguồn mở. Theo dõi mọi yêu cầu: prompt đã gửi, phản hồi nhận được, mức sử dụng token, độ trễ, lời gọi công cụ. Hỗ trợ quản lý phiên bản prompt, đánh giá và chấm điểm bằng LLM-as-judge. Tích hợp với OpenAI, Anthropic, LangChain, LlamaIndex

2. LangSmith (gói miễn phí)

Liên kết: https://smith.langchain.com/

Từ nhóm LangChain. Nếu bạn đang sử dụng LangChain/LangGraph, thiết lập chỉ là một biến môi trường. Theo dõi, gỡ lỗi, bảng điều khiển giám sát và đánh giá trực tuyến. Gói miễn phí hào phóng cho phát triển và sản xuất quy mô nhỏ

3. Python Structlog (miễn phí)

Liên kết: https://www.structlog.org/

Ghi log có cấu trúc cho Python. Tạo ra các bản ghi JSON có thể tìm kiếm và phân tích cú pháp được. Tốt hơn nhiều so với print() hoặc ghi log cơ bản cho các ứng dụng sản xuất

Những gì cần tập trung: Theo dõi mọi lệnh gọi LLM (prompt đầu vào, đầu ra, token, độ trễ, chi phí), ghi log có cấu trúc với đầu ra JSON, thiết lập các bảng điều khiển hiển thị khối lượng yêu cầu, tỷ lệ lỗi và chi phí mỗi ngày, và cảnh báo khi có sự cố hoặc chi phí tăng đột biến

6. Quản lý Prompt và Phiên bản

Trong sản xuất, prompt của bạn là mã nguồn. Chúng cần kiểm soát phiên bản, thử nghiệm và khả năng quay lui (rollback)

Thay đổi một prompt trong sản xuất mà không theo dõi những gì bạn đã thay đổi là cách bạn làm hỏng mọi thứ và không thể tìm ra lý do

Tài nguyên:

1. Quản lý Prompt của Langfuse (miễn phí)

Liên kết: https://langfuse.com/docs/prompts

Quản lý phiên bản prompt tập trung với một sân chơi tích hợp để thử nghiệm. Kiểm soát phiên bản prompt của bạn riêng biệt với mã ứng dụng của bạn. Triển khai các thay đổi prompt mà không cần triển khai lại ứng dụng của bạn

2. Các Thực hành Tốt nhất về Quản lý Prompt của Anthropic (miễn phí)

Liên kết: https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview

Các thực hành tốt nhất để tổ chức, lặp lại và quản lý prompt ở quy mô lớn

Những gì cần tập trung: Lưu trữ prompt bên ngoài mã ứng dụng của bạn, quản lý phiên bản cho mọi thay đổi prompt, thử nghiệm A/B các biến thể prompt trong sản xuất và có một chiến lược quay lui (rollback) khi một prompt mới hoạt động kém hơn

7. Giám sát Chi phí và Giới hạn Tốc độ (Rate Limits)

API LLM tính phí theo token. Nếu không có các biện pháp kiểm soát chi phí, một đợt tăng đột biến lưu lượng hoặc một lỗi trong prompt của bạn có thể đốt cháy hàng trăm đô la chỉ trong vài phút

Tài nguyên:

1. Bảng điều khiển Sử dụng OpenAI (chính thức)

Liên kết: https://platform.openai.com/usage

Theo dõi chi tiêu theo mô hình, theo ngày và đặt giới hạn sử dụng

2. Bảng điều khiển Sử dụng Anthropic (chính thức)

Liên kết: https://console.anthropic.com/Same (cho việc sử dụng API Claude)

3. Helicone (gói miễn phí)

Liên kết: https://www.helicone.ai/

Khả năng quan sát dựa trên proxy (proxy-based observability) ghi lại mọi lệnh gọi LLM với tính năng theo dõi chi phí tự động. Một dòng mã để thiết lập: chỉ cần thay đổi URL cơ sở của bạn

4. LiteLLM (mã nguồn mở, miễn phí)

Liên kết: https://github.com/BerriAI/litellm

Giao diện thống nhất cho hơn 100 nhà cung cấp LLM. Bao gồm quản lý ngân sách, giới hạn tốc độ và theo dõi chi tiêu giữa các nhà cung cấp

Những gì cần tập trung: Đặt giới hạn chi tiêu cứng theo ngày/tháng, triển khai giới hạn tốc độ cho từng người dùng trong API của bạn, sử dụng các mô hình rẻ hơn cho các tác vụ đơn giản (không sử dụng GPT-4/Opus cho mọi thứ), lưu vào bộ nhớ đệm các yêu cầu lặp đi lặp lại giống hệt nhau bằng Redis và giám sát chi phí cho mỗi yêu cầu để phát hiện sớm các prompt đắt đỏ

8. Bộ nhớ đệm (Caching)

Nếu 20% người dùng của bạn hỏi những câu hỏi tương tự, bạn đang trả tiền cho cùng một lệnh gọi LLM tới 20 lần

Bộ nhớ đệm là cách đơn giản nhất để giảm chi phí và độ trễ đồng thời

Tài nguyên:

1. Tài liệu Chính thức của Redis (miễn phí)

Liên kết: https://redis.io/docs/

Kho dữ liệu trong bộ nhớ tiêu chuẩn. Nhanh, đơn giản và hoạt động hoàn hảo cho việc lưu trữ đệm phản hồi LLM

2. GPTCache (mã nguồn mở, miễn phí)

Liên kết: https://github.com/zilliztech/GPTCache

Bộ nhớ đệm ngữ nghĩa (semantic caching) được thiết kế đặc biệt cho các ứng dụng LLM. Sử dụng độ tương đồng embedding để tìm các phản hồi được lưu trong bộ nhớ đệm cho các truy vấn tương tự về mặt ngữ nghĩa (không chỉ giống hệt nhau)

Những gì cần tập trung: Bộ nhớ đệm khớp chính xác (exact-match caching) cho các prompt giống hệt nhau, bộ nhớ đệm ngữ nghĩa cho các truy vấn tương tự, các chiến lược vô hiệu hóa bộ nhớ đệm (cache invalidation strategies - dựa trên TTL là đơn giản nhất) và đo lường tỷ lệ truy cập bộ nhớ đệm (cache hit rates) để hiểu mức tiết kiệm chi phí thực tế

Mốc Tháng 5

Vào cuối tháng này, bạn sẽ có thể:

• Triển khai ứng dụng FastAPI + LLM trong Docker với cấu hình sản xuất phù hợp
• Xử lý các tác vụ chạy dài với các công việc nền và hàng đợi
• Bảo mật API của bạn bằng xác thực, giới hạn tốc độ và quản lý khóa API
• Theo dõi và gỡ lỗi các lệnh gọi LLM bằng Langfuse hoặc LangSmith
• Quản lý prompt với kiểm soát phiên bản và khả năng quay lui
• Giám sát chi phí trong thời gian thực và đặt giới hạn chi tiêu
• Lưu phản hồi LLM vào bộ nhớ đệm để giảm độ trễ và chi phí

⏩------------------------------------------------------------------------⏪

Tháng 6: Chuyên sâu và Trở nên Có thể Tuyển dụng

Những kiến thức và kỹ năng bạn có được có thể được áp dụng theo ba hướng (chắc chắn là chỉ những hướng mà tôi thấy)

Bạn cần chọn một trong số chúng và tập trung vào thực hành

Mặc dù mọi thứ được đề cập ở trên cũng được học tốt nhất hoàn toàn thông qua thực hành

Hướng 1: Kỹ sư Sản phẩm AI (AI Product Engineer)

Tốt nhất nếu bạn muốn có việc làm ở startup nhanh chóng

Đây là con đường phổ biến nhất. Bạn xây dựng các sản phẩm hỗ trợ AI mà người dùng thực tương tác

Bạn đã có hầu hết các kỹ năng từ Tháng 1-5. Bây giờ hãy đi sâu hơn về mặt sản phẩm

Tập trung vào:

• Ứng dụng LLM
• RAG
• Agent
• Triển khai
• UX sản phẩm

Những gì cần học trong tháng này:

1. Xây dựng Sản phẩm Từ đầu đến cuối (End-to-End Product Building)

Ngừng xây dựng các bài hướng dẫn. Hãy xây dựng các sản phẩm mà mọi người có thể sử dụng

Tài nguyên:

1. Vercel AI SDK (miễn phí)

Liên kết: https://sdk.vercel.ai/docs

Cách nhanh nhất để xây dựng giao diện người dùng hỗ trợ AI với hỗ trợ phát trực tuyến (streaming). Tích hợp React, Next.js và Vue với các thành phần giao diện phát trực tuyến tích hợp sẵn

2. Streamlit (miễn phí)

Liên kết: https://docs.streamlit.io/

Xây dựng ứng dụng dữ liệu và bản demo AI bằng Python thuần túy. Lý tưởng cho các công cụ nội bộ và MVP, không phải giao diện người dùng ở quy mô sản xuất

3. Gradio (miễn phí)

Link: https://www.gradio.app/docsQuick Giao diện ML/AI với lượng code tối thiểu. Đặc biệt tốt để demo các mô hình và xây dựng nguyên mẫu

Điều cần tập trung: Xây dựng 2-3 dự án hoàn chỉnh trong tháng này để bạn có thể demo. Một ứng dụng "trò chuyện với tài liệu của bạn", một công cụ nội bộ hỗ trợ AI, hoặc một agent tự động hóa một quy trình làm việc thực tế. Hãy hoàn thiện chúng. Đưa chúng lên GitHub. Triển khai chúng ở đâu đó để mọi người có thể dùng thử

2. UX Sản phẩm cho AI

Sản phẩm AI thất bại khi UX không tính đến những hạn chế của mô hình

Tài nguyên:

1. Google: Sổ tay hướng dẫn về People + AI (miễn phí)

Link: https://pair.withgoogle.com/guidebook/

Tài nguyên tốt nhất về thiết kế tương tác giữa con người và AI. Bao gồm việc đặt kỳ vọng, xử lý lỗi và xây dựng lòng tin

2. Nielsen Norman Group: Nguyên tắc UX cho AI (miễn phí)

Link: https://www.nngroup.com/topic/artificial-intelligence/

Các nguyên tắc dựa trên nghiên cứu cho giao diện AI

Điều cần tập trung: Cách xử lý trạng thái tải với streaming, hiển thị gì khi mô hình sai, cách để người dùng đưa ra phản hồi và thiết kế dựa trên thực tế rằng đầu ra của AI là xác suất – đôi khi nó sẽ sai

Hướng đi 2: Kỹ sư ML/LLM Ứng dụng

Tốt nhất nếu bạn muốn các vai trò kỹ thuật chuyên sâu hơn

Hướng đi này dành cho các kỹ sư muốn vượt xa các lệnh gọi API và hiểu những gì đang xảy ra bên dưới

Tập trung vào:

• fine-tuning
• khi nào nên fine-tune so với prompt
• đánh giá
• tối ưu hóa suy luận
• các mô hình mã nguồn mở
• pipeline huấn luyện

Những gì cần học trong tháng này:

1. Khi nào nên Fine-tune so với Prompt Engineer

Quyết định quan trọng nhất trong ML ứng dụng: bạn có cần thay đổi mô hình hay chỉ cần thay đổi cách bạn tương tác với nó?

Tài nguyên:

1. Khóa học Cấp tốc ML của Google: Fine-tuning, Chưng cất và Kỹ thuật Prompt (miễn phí)

Link: https://developers.google.com/machine-learning/crash-course/llm/tuning

Lời giải thích rõ ràng nhất về ba cách tiếp cận và khi nào nên sử dụng từng cách

2. Codecademy: Kỹ thuật Prompt so với Fine-Tuning (miễn phí)

Link: https://www.codecademy.com/article/prompt-engineering-vs-fine-tuning

Khung quyết định thực tế với các trường hợp sử dụng rõ ràng cho từng cách tiếp cận

3. IBM: RAG so với Fine-Tuning so với Kỹ thuật Prompt (miễn phí)

Link: https://www.ibm.com/think/topics/rag-vs-fine-tuning-vs-prompt-engineering

Bao gồm không gian quyết định hoàn chỉnh, bao gồm cả khi nào nên kết hợp các cách tiếp cận

Khung quyết định cần ghi nhớ: Bắt đầu với kỹ thuật prompt (rẻ nhất, nhanh nhất) Thêm RAG nếu mô hình cần truy cập vào dữ liệu cụ thể Chỉ fine-tune khi prompting + RAG không thể đạt được chất lượng, tính nhất quán hoặc độ trễ theo yêu cầu

2. Fine-tuning trong Thực tế

Khi bạn thực sự cần fine-tune, đây là cách thực hiện

Tài nguyên:

1. Hướng dẫn Fine-tuning của OpenAI (chính thức, miễn phí)

Link: https://platform.openai.com/docs/guides/fine-tuning

Cách dễ nhất để bắt đầu fine-tuning. Tải lên tập dữ liệu JSONL, chạy một công việc, nhận một mô hình tùy chỉnh. Tốt để học quy trình làm việc ngay cả khi sau này bạn chuyển sang các mô hình mã nguồn mở

2. Hướng dẫn Fine-tuning HuggingFace Transformers (miễn phí)

Link: https://huggingface.co/docs/transformers/training

Thư viện tiêu chuẩn để làm việc với các mô hình mã nguồn mở. Bao gồm huấn luyện, đánh giá và lưu mô hình

3. Unsloth (mã nguồn mở, miễn phí)

Link: https://github.com/unslothai/unsloth

Fine-tuning nhanh hơn 2 lần với bộ nhớ ít hơn 80%. Hỗ trợ LoRA và QLoRA ngay khi xuất xưởng. Con đường nhanh nhất để fine-tune các mô hình mã nguồn mở trên phần cứng tiêu dùng

4. LLaMA-Factory (mã nguồn mở, miễn phí)

Link: https://github.com/hiyouga/LLaMA-Factory

Khung thống nhất để fine-tune hơn 100 LLM. Bao gồm giao diện web cho fine-tuning không cần code. Hỗ trợ LoRA, QLoRA, fine-tuning toàn bộ, RLHF và DPO

Điều cần tập trung: Chuẩn bị tập dữ liệu huấn luyện (định dạng JSONL), hiểu LoRA và QLoRA (fine-tuning hiệu quả tham số), chạy một công việc fine-tuning trên OpenAI hoặc với HuggingFace, đánh giá mô hình đã fine-tune so với mô hình cơ sở và biết khi nào fine-tuning không đáng chi phí

3. Các Mô hình Mã nguồn Mở

Không phải mọi thứ đều cần thông qua OpenAI hay Anthropic. Các mô hình mã nguồn mở cho bạn toàn quyền kiểm soát, không có chi phí API và khả năng chạy cục bộ

Tài nguyên:

1. Ollama (miễn phí)

Link: https://ollama.ai/

Chạy các LLM mã nguồn mở cục bộ chỉ với một lệnh. Hỗ trợ Llama, Mistral, Gemma và hàng chục mô hình khác. Cách nhanh nhất để thử nghiệm với các mô hình mã nguồn mở

2. HuggingFace Model Hub (miễn phí)

Link: https://huggingface.co/models

Kho lưu trữ lớn nhất các mô hình mã nguồn mở. Duyệt, tải xuống và triển khai các mô hình cho bất kỳ tác vụ nào

3. vLLM (mã nguồn mở, miễn phí)

Link: https://github.com/vllm-project/vllm

Công cụ suy luận LLM thông lượng cao. Nhanh hơn 2-4 lần so với phục vụ HuggingFace đơn thuần. Tiêu chuẩn cho việc phục vụ sản xuất các mô hình mã nguồn mở

Điều cần tập trung: Chạy các mô hình cục bộ với Ollama để kiểm tra, hiểu về lượng tử hóa (GGUF, GPTQ, AWQ) và tại sao nó quan trọng cho việc triển khai, đánh giá các mô hình mã nguồn mở so với các mô hình API cho trường hợp sử dụng của bạn và phục vụ các mô hình trong sản xuất với vLLM

4. Tối ưu hóa Suy luận

Làm cho các mô hình chạy nhanh hơn và rẻ hơn trong sản xuất

Tài nguyên:

1. HuggingFace: Tối ưu hóa Suy luận LLM (miễn phí)

Link: https://huggingface.co/docs/transformers/llm_optims

Bao gồm tối ưu hóa KV-cache, lượng tử hóa và các chiến lược xử lý theo lô

2. NVIDIA TensorRT-LLM (miễn phí)

Link: https://github.com/NVIDIA/TensorRT-LLM

Hiệu suất suy luận tối đa trên GPU NVIDIA. Được sử dụng bởi hầu hết các dịch vụ LLM sản xuất ở quy mô lớn

Điều cần tập trung: Các chiến lược xử lý theo lô để tăng thông lượng, lượng tử hóa để giảm bộ nhớ và chi phí, tối ưu hóa KV-cache để tạo nhanh hơn và chọn phần cứng phù hợp cho khối lượng công việc suy luận của bạn

Hướng đi 3: Kỹ sư Tự động hóa AI

Tốt nhất nếu bạn muốn xây dựng cho doanh nghiệp ngay lập tức

Hướng đi này là về tự động hóa các quy trình làm việc kinh doanh thực tế bằng AI. Ít về xây dựng sản phẩm, nhiều hơn về giải quyết các vấn đề vận hành

Tập trung vào:

• điều phối quy trình làm việc
• tự động hóa quy trình kinh doanh
• hệ thống đa công cụ
• các trường hợp sử dụng CRM, tài liệu, email, hỗ trợ, vận hành

Những gì cần học trong tháng này:

1. Điều phối Quy trình Làm việc

Tự động hóa kinh doanh thực tế hầu như không bao giờ chỉ là một lệnh gọi LLM. Đó là chuỗi các hành động trên nhiều hệ thống

Tài nguyên:

1. n8n (mã nguồn mở, miễn phí tự lưu trữ)

Link: https://docs.n8n.io/

Tự động hóa quy trình làm việc trực quan với các nút AI. Kết nối các LLM với hơn 400 tích hợp (Slack, Gmail, Notion, CRM, v.v.). Tùy chọn không-code/low-code tốt nhất cho tự động hóa AI

2. LangGraph: Quy trình làm việc Đa Agent (miễn phí)

Link: https://langchain-ai.github.io/langgraph/concepts/multi_agent/

Điều phối ưu tiên code cho các hệ thống đa agent phức tạp. Khi n8n không đủ và bạn cần toàn quyền kiểm soát lập trình

3. Temporal (mã nguồn mở, miễn phí)

Link: https://docs.temporal.io/

Công cụ quy trình làm việc bền bỉ cho các quy trình chạy dài, chịu lỗi. Khi quá trình tự động hóa của bạn cần sống sót qua các sự cố, thử lại và hết thời gian chờ

Điều cần tập trung: Thiết kế các quy trình làm việc xử lý lỗi một cách nhẹ nhàng, kết nối AI với các công cụ kinh doanh thực tế (email, CRM, cơ sở dữ liệu, bảng tính), xây dựng các bước phê duyệt có sự tham gia của con người và ghi lại mọi hành động tự động cho nhật ký kiểm toán

2. Tự động hóa Quy trình Kinh doanh

Tiền trong tự động hóa AI nằm ở việc giải quyết các vấn đề kinh doanh cụ thể, tốn kém

Tài nguyên:

1. Zapier AI Actions (gói miễn phí)

Link: https://zapier.com/ai

Kết nối AI với hơn 6.000 ứng dụng mà không cần code. Tốt để tạo nguyên mẫu tự động hóa trước khi xây dựng các giải pháp tùy chỉnh

2. Make (Integromat) (gói miễn phí)

Link: https://www.make.com/

Nền tảng tự động hóa trực quan với logic nâng cao và tích hợp AI. Mạnh mẽ hơn Zapier cho các quy trình làm việc phức tạp

Điều cần tập trung: Xác định các mục tiêu tự động hóa có ROI cao nhất (thường là các tác vụ lặp đi lặp lại, tốn thời gian và dựa trên quy tắc), xây dựng các hệ thống tự động hóa giúp tăng cường con người thay vì thay thế họ và đo lường thời gian và tiền bạc thực tế đã tiết kiệm được

3. Tự động hóa CRM, Tài liệu, Email, Hỗ trợ

Các trường hợp sử dụng tự động hóa AI phổ biến nhất và có giá trị nhất

Tài nguyên:

1. OpenAI Cookbook: Xử lý Email hỗ trợ AI (miễn phí)

Link: https://github.com/openai/openai-cookbook

Các mẫu để phân loại, định tuyến và trả lời email bằng AI

2. LangChain: Pipeline Xử lý Tài liệu (miễn phí)

Link: https://python.langchain.com/docs/how_to/#document-loaders

Tiếp nhận và xử lý tài liệu từ hơn 80 nguồn

Điều cần tập trung: Xây dựng một bộ phân loại email và tự động trả lời hỗ trợ AI, tạo một pipeline xử lý tài liệu trích xuất dữ liệu có cấu trúc, xây dựng một chatbot hỗ trợ sử dụng RAG trên cơ sở kiến thức của bạn và tích hợp AI vào các quy trình làm việc CRM hiện có (HubSpot, Salesforce, v.v.)

Dự án thực hành cho Hướng đi 3: Xây dựng một hệ thống đánh giá chất lượng khách hàng tiềm năng đầu cuối. Hệ thống này nên:

Thu thập hoặc nhập khách hàng tiềm năng từ một nguồn (CSV, API hoặc biểu mẫu)

Sử dụng LLM để nghiên cứu từng khách hàng tiềm năng (thông tin công ty, đánh giá mức độ phù hợp)

Chấm điểm và xếp hạng khách hàng tiềm năng dựa trên ICP của bạn

Soạn thảo tin nhắn tiếp cận được cá nhân hóa

Ghi lại mọi thứ vào bảng tính hoặc CRM Đây là một hệ thống tự động hóa thực tế, có thể bán được mà các doanh nghiệp thực sự trả tiền

⏩-----------------------------------------------------------------------⏪

KẾT LUẬN

Bạn có thể mong đợi điều gì sau 6 tháng này ???

Tôi sẽ thành thật với bạn, không có núi tiền nào cả

Lộ trình này sẽ không biến bạn thành một kỹ sư AI cấp cao trong 6 tháng

Nhưng nó sẽ khiến bạn trở thành người có thể xây dựng, hoàn thiện và triển khai các hệ thống AI thực tế giải quyết các vấn đề thực tế

Và ngay bây giờ, đó chính xác là những gì thị trường đang trả tiền

Nhu cầu về kỹ sư AI không hề chậm lại. Các bài đăng tuyển dụng đã tăng 25% so với cùng kỳ năm trước

PwC phát hiện ra mức chênh lệch lương 56% cho các vai trò yêu cầu kỹ năng AI so với các vai trò tương tự không yêu cầu

Chỉ 1% công ty được coi là "thành thạo AI" có nghĩa là 99% vẫn cần sự giúp đỡ. Cục Thống kê Lao động Hoa Kỳ dự báo tăng trưởng việc làm 26% đến năm 2034

Đây không phải là những con số thổi phồng. Đó là những con số thực tế dựa trên phân tích (lấy từ Claude kek)

Nếu bạn làm toàn thời gian ở Hoa Kỳ:

Kỹ sư AI mới vào nghề bắt đầu từ $90.000-$130.000

Cấp trung (3-5 năm) ở mức $155.000-$200.000

Vai trò cấp cao từ $195.000-$350.000+

Theo Glassdoor (tháng 3 năm 2026), mức trung bình là $184.757

Mức lương cấp trung đang tăng nhanh nhất ở mức 9,2% so với cùng kỳ năm trước vì các công ty đang rất cần những người có thể triển khai AI sản xuất mà không cần giám sát liên tục

Nếu freelancer phù hợp với bạn hơn:

Phát triển AI agent có giá $175-$300/giờ

Triển khai RAG $150-$250/giờ

Tích hợp LLM $125-$200/giờ

Một nhà phát triển trên Reddit đã xây dựng một công cụ tóm tắt tài liệu cho một công ty luật trong hai tuần và kiếm được $8.000. Một freelancer tính phí 25 giờ/tuần với giá $150/giờ kiếm được $195.000/năm

Và nếu bạn đi theo con đường tư vấn, như tôi đã nói trong bài viết trước, bạn có thể tính phí:

$300-$5.000 để thiết lập một AI agent cho một doanh nghiệp

$500-$2.000/tháng cho quản lý nội dung AI

$1.000-$4.000 để tự động hóa hỗ trợ khách hàng

$500-$2.000 cho thiết lập tiếp cận khách hàng tiềm năng

Phạm vi dịch vụ thậm chí còn rộng hơn nhưng một khi bạn thành thạo các kỹ năng từ lộ trình này, bạn đã là một chuyên gia được săn đón trong năm 2026

Đây là những con số thực tế từ những người thực tế đang làm công việc thực tế

Bây giờ, đây là những gì tôi thực sự muốn bạn rút ra từ tất cả những điều này:

Chọn một dự án từ mỗi tháng và xây dựng nó. Không phải đọc về nó. Không phải xem hướng dẫn. Xây dựng nó, phá vỡ nó, sửa nó, triển khai nó, đưa nó lên GitHub. Các kỹ sư được tuyển dụng là những người cho thấy những gì họ đã xây dựng, không phải những gì họ đã học

Bắt đầu chia sẻ những gì bạn học được. Viết về nó trên X, LinkedIn, bất cứ đâu. Dạy học là cách nhanh nhất để học và nó cũng xây dựng danh tiếng của bạn cùng một lúc. Những cơ hội tốt nhất tôi từng thấy đến từ những người có tầm nhìn, không phải từ những người nộp đơn vào 500 danh sách việc làm

Và xin đừng chờ đợi cho đến khi bạn cảm thấy sẵn sàng. Bạn sẽ không bao giờ cảm thấy sẵn sàng. Khoảng cách giữa "Tôi đang học" và "Tôi đang xây dựng" là nơi hầu hết mọi người bị mắc kẹt mãi mãi

Bắt đầu ứng tuyển, bắt đầu làm freelancer, bắt đầu cung cấp dịch vụ ngay khi bạn có các dự án đang hoạt động. Ngay cả khi chúng chưa hoàn hảo. Thị trường không thưởng cho sự hoàn hảo. Nó thưởng cho những người có thể hoàn thiện và giao hàng

6 tháng là đủ để thay đổi mọi thứ nếu bạn thực sự nỗ lực

Và tôi thực sự tin rằng mỗi người trong số các bạn đang đọc điều này có thể làm được

Đừng bao giờ ngừng xây dựng và đừng bao giờ ngừng học hỏi

Hy vọng điều này hữu ích cho các bạn, gia đình tôi ❤️