Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Tổng quan AI & LLM

AI hallucination là gì?

Hiện tượng AI Ảo giác (AI Hallucination) là trạng thái mô hình ngôn ngữ sinh ra các thông tin hoàn toàn bịa đặt, sai lệch sự thật, không có trong dữ liệu huấn luyện hoặc phản trực giác, nhưng lại được trình bày với văn p

Chu Hồng Hạnh1/10/20262 phút đọc
Nội dung bài viết · Xem mục lục

Giải thích khái niệm

Hiện tượng AI Ảo giác (AI Hallucination) là trạng thái mô hình ngôn ngữ sinh ra các thông tin hoàn toàn bịa đặt, sai lệch sự thật, không có trong dữ liệu huấn luyện hoặc phản trực giác, nhưng lại được trình bày với văn phong cực kỳ tự tin, logic và thuyết phục. Nguyên nhân kỹ thuật cốt lõi xuất phát từ bản chất vận hành của LLM: mô hình sinh từ dựa trên xác suất thống kê chuỗi Token ( P(Word(t) | Word(1), ..., Word(t-1)) ) chứ không sở hữu một cơ sở dữ liệu sự thật khách quan (Ground Truth Database). Khi gặp khoảng trống dữ liệu hoặc lời nhắc gợi mở sai lệch, mô hình vẫn buộc phải hoàn thành chuỗi xác suất, dẫn đến việc "tự tạo ra" thông tin giả lập.

Ứng dụng khi nào

Việc kiểm soát AI Hallucination là yêu cầu sinh tử khi triển khai AI trong các ngành nghiệp vụ có rủi ro cao như: pháp lý, y tế, phân tích tài chính, và quy trình vận hành kỹ thuật cốt lõi của doanh nghiệp.

  • Giải pháp giảm thiểu (Mitigation): Bắt buộc áp dụng kiến trúc Truy xuất dữ liệu bổ sung (RAG), yêu cầu trích xuất nguồn trích dẫn rõ ràng, tinh chỉnh tham số

Temperature = 0.0, xây dựng lớp kiểm định độc lập (Verification Layer / LLM-as-a-Judge) và duy trì cơ chế giám sát con người (Human-in-the-loop).

Ví dụ minh họa

Một nhân viên tư vấn pháp lý sử dụng LLM thuần túy và hỏi: "Hãy trích dẫn Điều 105 Luật Bảo hiểm Xã hội về quyền lợi thai sản năm 2024". Do không truy cập dữ liệu thực tế, LLM tự tin trả lời: "Theo Điều 105 Luật Bảo hiểm Xã hội 2024, lao động nữ sinh con được hưởng 8 tháng lương...". Khi đối soát văn bản pháp luật thực tế, Điều 105 hoàn toàn quy định về nội dung khác và thời gian hưởng chế độ thai sản chỉ là 6 tháng. Đây là minh họa điển hình cho ảo giác AI gây rủi ro pháp lý nghiêm trọng nếu không có lớp kiểm định RAG.

Nguồn

Chu Hồng Hạnh — Cẩm nang AI cơ bản: Thuật ngữ AI từ nền tảng đến hệ thống AI Agents tự chủ.

Bài liên quan

Xem các bài viết khác