Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Prompt & Context

Cửa sổ ngữ cảnh là gì

Cửa sổ ngữ cảnh (Context Window) là giới hạn dung lượng thông tin tối đa mà một mô hình ngôn ngữ lớn có thể tiếp nhận, duy trì và xử lý suy luận trong một lượt tương tác duy nhất (được đo bằng đơn vị Token, trong đó 1 To

Chu Hồng Hạnh1/10/20262 phút đọc
Nội dung bài viết · Xem mục lục

Giải thích khái niệm

Cửa sổ ngữ cảnh (Context Window) là giới hạn dung lượng thông tin tối đa mà một mô hình ngôn ngữ lớn có thể tiếp nhận, duy trì và xử lý suy luận trong một lượt tương tác duy nhất (được đo bằng đơn vị Token, trong đó 1 Token ≈ 0.75 từ tiếng Anh hoặc khoảng 1 từ tiếng Việt). Cửa sổ ngữ cảnh đóng vai trò như "Bộ nhớ làm việc ngắn hạn" (RAM) của AI. Khi toàn bộ dung lượng cuộc hội thoại hoặc tài liệu đầu vào vượt quá giới hạn Context Window của mô hình, hệ thống sẽ gặp hiện tượng "Trôi ngữ cảnh" (Context Drift)—quên hoặc bỏ sót thông tin ở đầu hội thoại—hoặc trực tiếp cắt bỏ (Truncate) dữ liệu cũ để lấy chỗ cho dữ liệu mới, dẫn đến suy giảm nghiêm trọng khả năng suy luận logic.

Ứng dụng khi nào

Hiểu rõ giới hạn Context Window giúp các kiến trúc sư hệ thống thiết kế chiến lược quản lý dữ liệu tối ưu: không nhồi nhét toàn bộ file tài liệu siêu dài vào một lượt tương tác, mà phân tách dữ liệu bằng kỹ thuật RAG, sử dụng các Sub-agent hoặc tiến hành tóm tắt lịch sử hội thoại định kỳ.

  • Đánh đổi: Context Window càng lớn (ví dụ: 1 triệu tokens) thì chi phí Token xử lý càng cao và độ trễ phản hồi (Latency) càng tăng mạnh, đồng thời xuất hiện rủi ro "Lost in the Middle" (AI bỏ sót thông tin nằm ở giữa đoạn văn bản quá dài).

Ví dụ minh họa

Trong một phiên làm việc phân tích hồ sơ thầu dài 500 trang, nếu người dùng đưa toàn bộ file vào một cuộc hội thoại duy nhất mà không quản lý Context Window, ở câu hỏi thứ 20, mô hình sẽ quên mất chỉ dẫn thiết lập quy định tài chính ở lượt tương tác đầu tiên, dẫn đến việc đưa ra các nhận định mâu thuẫn với quy định ban đầu.

Nguồn

Chu Hồng Hạnh — Cẩm nang AI cơ bản: Thuật ngữ AI từ nền tảng đến hệ thống AI Agents tự chủ.

Bài liên quan

Xem các bài viết khác