Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Prompt & Context

Context Caching khác gì với RAG?

Caching tái sử dụng phần ngữ cảnh lặp lại; RAG tìm đoạn liên quan mới cho từng câu hỏi.

Chu Hồng Hạnh2/10/20262 phút đọc
Nội dung bài viết · Xem mục lục

Hiểu khái niệm

Sổ tay phân biệt hai cách xử lý tài liệu. Context Caching hữu ích khi cùng một khối thông tin lớn được dùng lặp lại trong nhiều truy vấn. RAG là quy trình truy tìm phần phù hợp trong kho tài liệu theo từng câu hỏi. Hai cách có thể bổ trợ nhau nhưng giải quyết các điểm nghẽn khác nhau.

Áp dụng trong công việc

Nếu một nhóm liên tục hỏi về cùng bộ hướng dẫn ít thay đổi, hãy cân nhắc cơ chế tái sử dụng ngữ cảnh nếu nhà cung cấp hỗ trợ. Nếu kho có nhiều tài liệu khác nhau và mỗi câu hỏi cần nguồn riêng, cần truy xuất phù hợp. Dù dùng cách nào, vẫn phải quản lý ngày hiệu lực và kiểm tra giá, giới hạn kỹ thuật theo nhà cung cấp hiện hành.

Ví dụ minh họa

Ví dụ giả định: một trợ lý đào tạo được hỏi nhiều câu liên tiếp dựa trên cùng chương giáo trình, nên tái sử dụng phần tài liệu ổn định. Còn trợ lý tìm chính sách của nhiều phòng ban phải truy xuất đúng văn bản theo chủ đề và ngày hiệu lực. Cache một chính sách cũ có thể khiến câu trả lời sai nhất quán hơn.

Điều cần kiểm tra

Các ví dụ trong bài là tình huống giả định, không phải kết quả đo lường thực tế. Đối chiếu tài liệu gốc và chính sách của tổ chức trước khi áp dụng cho dữ liệu hoặc quyết định quan trọng.

Nguồn

Nguồn: Sổ tay Prompting tổng hợp thực chiến (tổng hợp từ Prompt Engineering Guide, promptingguide.ai).

Bài liên quan

Xem các bài viết khác