Kỹ Năng cho tương lai/Tin tức AI cập nhật/Bảo mật & quản trị
Shadow AI: Khi nhân viên phải “lén” dùng AI để hoàn thành KPI
Nhân viên tự dùng chatbot để phân tích dữ liệu, soạn báo cáo hoặc kiểm tra hợp đồng, trong khi doanh nghiệp chưa có chính sách và công cụ phù hợp. Shadow AI vì thế không chỉ là vấn đề kỷ luật, mà còn phản ánh khoảng cách ngày càng lớn giữa nhu cầu tăng năng suất và năng lực quản trị công nghệ.

Nội dung bài viết · Xem mục lục
Hãy hình dung một nhân viên tài chính đang tải báo cáo tài chính của công ty lên công cụ AI như ChatGPT để kiểm tra và phân tích các chỉ số tài chính của doanh nghiệp. Chỉ vài giây sau, cô nhận được câu trả lời. Nhưng khi quản lý đi ngang qua, cô lập tức chuyển sang cửa sổ khác.
Một ví dụ khác, Chuyên viên chăm sóc khách hàng của một Ngân hàng tải hồ sơ thông tin Khách hàng (bao gồm số CCCD, số điện thoại, thông tin dòng tiền..) lên ChatGPT để phân tích dự đoán nhu cầu sử dụng dịch vụ tương lai mà không biết việc để lộ thông tin khách hàng là vi phạm quy định nội bộ.
Đây là một tình huống minh họa điển hình cho Shadow AI: nhân viên sử dụng công cụ trí tuệ nhân tạo trong công việc nhưng chưa được doanh nghiệp phê duyệt, kiểm soát hoặc đưa vào hệ thống quản trị chính thức.
Khi nhu cầu sử dụng AI đi nhanh hơn chính sách
Shadow AI không nên được nhìn nhận đơn giản là hành vi cố tình vi phạm quy định. Trong nhiều trường hợp, nhân viên tìm đến công cụ AI vì họ chịu áp lực phải hoàn thành công việc nhanh hơn, trong khi doanh nghiệp chưa cung cấp một lựa chọn chính thức đủ thuận tiện và hiệu quả; hoặc khi bản thân doanh nghiệp chưa kịp có các cơ chế quản trị tổng quát đối với hoạt động triển khai AI.
Khảo sát Work Trend Index 2024 của Microsoft và LinkedIn, thực hiện với 31.000 lao động tri thức tại 31 thị trường, trong đó có Việt Nam, cho thấy 75% người được hỏi đã sử dụng AI trong công việc. Trong số những người sử dụng AI, 78% cho biết họ tự mang công cụ AI của mình vào nơi làm việc và 52% không muốn thừa nhận đã dùng AI cho những nhiệm vụ quan trọng. microsoft.com
Cần lưu ý rằng “tự mang AI vào nơi làm việc” chưa đồng nghĩa tất cả trường hợp đều vi phạm chính sách. Tuy nhiên, số liệu này cho thấy một thực tế: tốc độ tiếp nhận AI của nhân viên đang nhanh hơn đáng kể so với tốc độ thiết lập quy định và hạ tầng quản trị tại nhiều doanh nghiệp.
Khi công cụ chính thức quá hạn chế, khó sử dụng hoặc không đáp ứng nhu cầu thực tế, nhân viên sẽ tìm đến các lựa chọn bên ngoài. Một lệnh cấm đơn thuần có thể khiến hoạt động sử dụng AI biến mất khỏi tầm nhìn của doanh nghiệp, thay vì thực sự chấm dứt.
Rủi ro lớn nhất không nằm ở AI chat bớt, mà ở dữ liệu
Shadow AI trở nên nguy hiểm khi nhân viên đưa thông tin nội bộ vào một dịch vụ bên ngoài mà không hiểu rõ dữ liệu sẽ được lưu trữ, xử lý và sử dụng như thế nào.
Những dữ liệu nhạy cảm có thể bao gồm:
Báo cáo tài chính chưa công bố;
Danh sách và thông tin định danh khách hàng;
Hợp đồng, chiến lược giá và kế hoạch kinh doanh;
Dữ liệu nhân sự, giao dịch;
Mã nguồn, cấu hình hệ thống hoặc thông tin đăng nhập;
Tài liệu thuộc phạm vi bí mật kinh doanh..
Không nên khẳng định rằng mọi chatbot công cộng đều tự động sử dụng dữ liệu người dùng để huấn luyện mô hình. Chính sách khác nhau tùy nhà cung cấp, loại tài khoản và thiết lập của người dùng.
Tuy nhiên, ngay cả khi dữ liệu không được dùng để huấn luyện, doanh nghiệp vẫn phải xem xét các vấn đề khác như vị trí lưu trữ dữ liệu, thời gian lưu giữ, quyền truy cập, khả năng kiểm toán và nghĩa vụ tuân thủ pháp luật; đồng thời các vụ tấn công liên tục đang nhắm vào các hệ thống AI lớn cũng có khả năng gây ra rò rỉ dữ liệu nội bộ, vốn đang được lưu trữ trên các hệ thống này.
Không chỉ có rò rỉ dữ liệu
Một rủi ro khác ít được chú ý là AI có thể âm thầm tham gia vào quá trình ra quyết định.
Một báo cáo tín dụng có thể được tóm tắt sai. Một điều khoản hợp đồng có thể bị diễn giải thiếu. Một đoạn mã do AI tạo ra có thể chứa lỗ hổng bảo mật. Nếu nhân viên đưa kết quả đó vào quy trình nghiệp vụ mà không kiểm tra, doanh nghiệp có thể phải chịu hậu quả nhưng lại không có lịch sử xử lý để xác định trách nhiệm.
Vì vậy, quản trị Shadow AI phải bao gồm cả hai chiều:
Kiểm soát dữ liệu được đưa vào AI;
Kiểm soát cách kết quả do AI tạo ra được sử dụng.
Từ “cấm sử dụng” sang “sử dụng có kiểm soát”
Doanh nghiệp không nhất thiết phải phê duyệt mọi công cụ AI. Nhưng cần xây dựng một hành lang đủ rõ để nhân viên biết họ được làm gì, không được làm gì và phải xin ý kiến ai khi xuất hiện trường hợp mới.
Một mô hình thực tế có thể bắt đầu từ năm việc:
Lập danh mục công cụ và nhu cầu sử dụng AI: Xác định nhân viên đang dùng công cụ nào, cho công việc gì và với loại dữ liệu nào.
Phân loại dữ liệu theo mức độ rủi ro: Dữ liệu công khai có thể sử dụng linh hoạt; dữ liệu nội bộ cần ẩn danh hoặc che thông tin; dữ liệu khách hàng, tài chính chưa công bố và bí mật kinh doanh không được đưa lên công cụ chưa được phê duyệt.
Cung cấp công cụ AI doanh nghiệp: Lựa chọn giải pháp có điều khoản bảo vệ dữ liệu, quản lý tài khoản tập trung, phân quyền truy cập và khả năng lưu nhật ký.
Thiết lập trách nhiệm của con người: Các quyết định liên quan đến khách hàng, tín dụng, nhân sự, pháp lý hoặc tài chính phải có người chịu trách nhiệm kiểm tra và phê duyệt.
Đào tạo theo tình huống thực tế: Thay vì chỉ phổ biến quy định, doanh nghiệp cần hướng dẫn cụ thể bằng những tình huống nhân viên gặp hằng ngày.
Cách tiếp cận này phù hợp với khung quản trị rủi ro AI của NIST, trong đó quản trị AI không dừng ở việc ban hành chính sách mà phải bao gồm bốn nhóm hoạt động: quản trị, nhận diện bối cảnh, đo lường và quản lý rủi ro.
Theo bộ bài phân tích "Làn sóng AI và bước nhảy của hạ tầng công nghệ" (VietnamFinance).


