Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Suy luận nâng cao & tích hợp
Định nghĩa công cụ rõ ràng để AI Agent không gọi nhầm
Tên hàm và mô tả tham số mơ hồ có thể khiến tác tử chọn nhầm công cụ hoặc truyền sai dữ liệu.
Nội dung bài viết · Xem mục lục
Hợp đồng giữa mô hình và ứng dụng
Một tác tử có thể chọn công cụ dựa trên mô tả mà ứng dụng đưa vào ngữ cảnh. Sổ tay khuyến nghị định nghĩa rõ tên hàm, nhiệm vụ, tham số và các giới hạn. Nếu có hai công cụ đều mô tả là “lấy thông tin khách hàng”, mô hình khó biết khi nào cần công cụ xem hồ sơ và khi nào cần công cụ xem giao dịch. Mô tả tốt nêu rõ điều kiện sử dụng và dữ liệu trả về; phần mềm vẫn phải kiểm tra đầu vào trước khi thực thi.
Ví dụ một hợp đồng dễ kiểm tra
Thay vì một hàm lookup(query) nhận chuỗi tự do, có thể định nghĩa get_order_status(order_id) chỉ nhận mã đơn hợp lệ và chỉ trả trạng thái, thời điểm cập nhật. Một hàm riêng phục vụ lịch sử giao dịch sẽ yêu cầu quyền cao hơn. Phân tách như vậy giúp nhóm kỹ thuật kiểm thử đường đi và ghi lại hành động đã thực hiện. Đây là ví dụ thiết kế, không phải lược đồ áp dụng cho mọi hệ thống.
Tránh nhầm độ chính xác với độ an toàn
Dù mô hình chọn đúng tên hàm, nó vẫn có thể đưa sai mã hoặc gọi vượt phạm vi công việc. Cần giới hạn quyền phía ứng dụng, ghi nhận lỗi và yêu cầu phê duyệt ở các bước nhạy cảm. Mục tiêu không phải biến mọi câu trả lời thành lời gọi công cụ, mà chỉ gọi khi thông tin hiện có chưa đủ.
Nguồn tham khảo: Sổ tay Tác tử AI & Quản trị ngữ cảnh (biên soạn dựa trên Prompt Engineering Guide, promptingguide.ai).