Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Tham số & AI Workflows

Routing: Đưa mỗi yêu cầu về đúng quy trình

Routing (Định tuyến) là cơ chế kiến trúc phân loại yêu cầu đầu vào của người dùng ngay tại mắt xích đầu tiên, sau đó điều hướng yêu cầu đó đến chuỗi xử lý (Chain), mô hình ngôn ngữ (LLM) hoặc công cụ chuyên biệt phù hợp

Chu Hồng Hạnh1/10/20262 phút đọc
Nội dung bài viết · Xem mục lục

Giải thích khái niệm

Routing (Định tuyến) là cơ chế kiến trúc phân loại yêu cầu đầu vào của người dùng ngay tại mắt xích đầu tiên, sau đó điều hướng yêu cầu đó đến chuỗi xử lý (Chain), mô hình ngôn ngữ (LLM) hoặc công cụ chuyên biệt phù hợp nhất với bản chất của yêu cầu đó. Cơ chế Routing có thể vận hành dựa trên các thuật toán phân loại ý định (Intent Classification), các mô hình LLM nhỏ giá rẻ (như GPT-4o-mini), hoặc các quy tắc khớp từ khóa.

Ứng dụng khi nào

Routing được áp dụng bắt buộc trong các hệ thống Trợ lý ảo Enterprise hoặc Tổng đài CSKH đa chức năng, nơi tiếp nhận hàng ngàn yêu cầu đa dạng mỗi ngày.

  • Lợi ích kiến trúc: Tối ưu hóa chi phí vận hành (đưa câu hỏi dễ về mô hình nhỏ giá rẻ, chỉ đưa câu hỏi khó về mô hình lớn đắt tiền) và nâng cao độ chính xác nhờ xử lý bằng các Prompt chuyên môn hóa.

Ví dụ minh họa

┌─> [Nhiệm vụ Yêu cầu Hoàn tiền] ──> Refund Chain (Code cứng) │

[User Query] ──> [ROUTER LLM] ─┼─> [Nhiệm vụ Báo lỗi Kỹ thuật] ──> Tech Support Agent (ReAct) │ └─> [Nhiệm vụ Hỏi đáp Chung] ────> FAQ Chain (RAG)

Khách hàng gửi yêu cầu: "Tôi bị tính tiền 2 lần cho đơn hàng #8821". Router LLM nhận diện ý định là Hoàn tiền, lập tức điều hướng yêu cầu tới thẳng Refund Chain cố định để xử lý thủ tục tài chính an toàn.

Nguồn

Chu Hồng Hạnh — Cẩm nang AI cơ bản: Thuật ngữ AI từ nền tảng đến hệ thống AI Agents tự chủ.

Bài liên quan

Xem các bài viết khác