Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Tham số & AI Workflows
Routing: Đưa mỗi yêu cầu về đúng quy trình
Routing (Định tuyến) là cơ chế kiến trúc phân loại yêu cầu đầu vào của người dùng ngay tại mắt xích đầu tiên, sau đó điều hướng yêu cầu đó đến chuỗi xử lý (Chain), mô hình ngôn ngữ (LLM) hoặc công cụ chuyên biệt phù hợp
Nội dung bài viết · Xem mục lục
Giải thích khái niệm
Routing (Định tuyến) là cơ chế kiến trúc phân loại yêu cầu đầu vào của người dùng ngay tại mắt xích đầu tiên, sau đó điều hướng yêu cầu đó đến chuỗi xử lý (Chain), mô hình ngôn ngữ (LLM) hoặc công cụ chuyên biệt phù hợp nhất với bản chất của yêu cầu đó. Cơ chế Routing có thể vận hành dựa trên các thuật toán phân loại ý định (Intent Classification), các mô hình LLM nhỏ giá rẻ (như GPT-4o-mini), hoặc các quy tắc khớp từ khóa.
Ứng dụng khi nào
Routing được áp dụng bắt buộc trong các hệ thống Trợ lý ảo Enterprise hoặc Tổng đài CSKH đa chức năng, nơi tiếp nhận hàng ngàn yêu cầu đa dạng mỗi ngày.
- Lợi ích kiến trúc: Tối ưu hóa chi phí vận hành (đưa câu hỏi dễ về mô hình nhỏ giá rẻ, chỉ đưa câu hỏi khó về mô hình lớn đắt tiền) và nâng cao độ chính xác nhờ xử lý bằng các Prompt chuyên môn hóa.
Ví dụ minh họa
┌─> [Nhiệm vụ Yêu cầu Hoàn tiền] ──> Refund Chain (Code cứng) │
[User Query] ──> [ROUTER LLM] ─┼─> [Nhiệm vụ Báo lỗi Kỹ thuật] ──> Tech Support Agent (ReAct) │ └─> [Nhiệm vụ Hỏi đáp Chung] ────> FAQ Chain (RAG)
Khách hàng gửi yêu cầu: "Tôi bị tính tiền 2 lần cho đơn hàng #8821". Router LLM nhận diện ý định là Hoàn tiền, lập tức điều hướng yêu cầu tới thẳng Refund Chain cố định để xử lý thủ tục tài chính an toàn.
Chu Hồng Hạnh — Cẩm nang AI cơ bản: Thuật ngữ AI từ nền tảng đến hệ thống AI Agents tự chủ.