Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Tổng quan AI & LLM
AI hallucination là gì?
Hiện tượng AI Ảo giác (AI Hallucination) là trạng thái mô hình ngôn ngữ sinh ra các thông tin hoàn toàn bịa đặt, sai lệch sự thật, không có trong dữ liệu huấn luyện hoặc phản trực giác, nhưng lại được trình bày với văn p
Nội dung bài viết · Xem mục lục
Giải thích khái niệm
Hiện tượng AI Ảo giác (AI Hallucination) là trạng thái mô hình ngôn ngữ sinh ra các thông tin hoàn toàn bịa đặt, sai lệch sự thật, không có trong dữ liệu huấn luyện hoặc phản trực giác, nhưng lại được trình bày với văn phong cực kỳ tự tin, logic và thuyết phục. Nguyên nhân kỹ thuật cốt lõi xuất phát từ bản chất vận hành của LLM: mô hình sinh từ dựa trên xác suất thống kê chuỗi Token ( P(Word(t) | Word(1), ..., Word(t-1)) ) chứ không sở hữu một cơ sở dữ liệu sự thật khách quan (Ground Truth Database). Khi gặp khoảng trống dữ liệu hoặc lời nhắc gợi mở sai lệch, mô hình vẫn buộc phải hoàn thành chuỗi xác suất, dẫn đến việc "tự tạo ra" thông tin giả lập.
Ứng dụng khi nào
Việc kiểm soát AI Hallucination là yêu cầu sinh tử khi triển khai AI trong các ngành nghiệp vụ có rủi ro cao như: pháp lý, y tế, phân tích tài chính, và quy trình vận hành kỹ thuật cốt lõi của doanh nghiệp.
- Giải pháp giảm thiểu (Mitigation): Bắt buộc áp dụng kiến trúc Truy xuất dữ liệu bổ sung (RAG), yêu cầu trích xuất nguồn trích dẫn rõ ràng, tinh chỉnh tham số
Temperature = 0.0, xây dựng lớp kiểm định độc lập (Verification Layer / LLM-as-a-Judge) và duy trì cơ chế giám sát con người (Human-in-the-loop).
Ví dụ minh họa
Một nhân viên tư vấn pháp lý sử dụng LLM thuần túy và hỏi: "Hãy trích dẫn Điều 105 Luật Bảo hiểm Xã hội về quyền lợi thai sản năm 2024". Do không truy cập dữ liệu thực tế, LLM tự tin trả lời: "Theo Điều 105 Luật Bảo hiểm Xã hội 2024, lao động nữ sinh con được hưởng 8 tháng lương...". Khi đối soát văn bản pháp luật thực tế, Điều 105 hoàn toàn quy định về nội dung khác và thời gian hưởng chế độ thai sản chỉ là 6 tháng. Đây là minh họa điển hình cho ảo giác AI gây rủi ro pháp lý nghiêm trọng nếu không có lớp kiểm định RAG.
Chu Hồng Hạnh — Cẩm nang AI cơ bản: Thuật ngữ AI từ nền tảng đến hệ thống AI Agents tự chủ.