Kỹ Năng cho tương lai/Kiến thức AI nền tảng/Tham số & AI Workflows
Temperature là gì?
Temperature (Nhiệt độ) là tham số toán học dùng để điều chỉnh độ bằng phẳng của phân phối xác suất Softmax khi mô hình dự đoán Token tiếp theo.
Chu Hồng Hạnh1/10/20262 phút đọc
Nội dung bài viết · Xem mục lục
Giải thích khái niệm
Temperature (Nhiệt độ) là tham số toán học dùng để điều chỉnh độ bằng phẳng của phân phối xác suất Softmax khi mô hình dự đoán Token tiếp theo. Về mặt toán học, xác suất của một từ i được tính theo công thức: P(Token_i) = {(z_i / T)}{_j (z_j / T)} (trong đó z là điểm số Logits và T là Temperature).
- Khi Temperature ( T ) tiến về 0: Sự khác biệt giữa các điểm Logits bị phóng đại cực đại. Mô hình sẽ chọn từ có xác suất cao nhất với độ tin cậy tuyệt đối, làm cho phản hồi mang tính logic, nhất quán và hoàn toàn cố định (Deterministic).
- Khi Temperature ( T ) tăng cao (> 0.7): Phân phối xác suất trở nên bằng phẳng hơn. Các từ có xác suất thấp có cơ hội được chọn, giúp văn bản sinh ra phong phú, bất ngờ và mang tính sáng tạo cao.
Ứng dụng khi nào
- Đặt Temperature = 0.0 - 0.2: Áp dụng cho các bài toán yêu cầu độ chính xác tuyệt đối: trích xuất dữ liệu, lập trình phần mềm, trả lời hỏi đáp dựa trên tài liệu (RAG), toán học và pháp lý.
- Đặt Temperature = 0.7 - 1.0: Áp dụng cho các công việc sáng tạo: sáng tác kịch bản tiếp thị, viết bài PR, đặt tên thương hiệu và gợi ý ý tưởng thiết kế.
Ví dụ minh họa
Phân phối xác suất chọn từ tiếp theo cho chuỗi: "Thủ đô của Việt Nam là..."
- Logits: Hà Nội: 9.0, TPHCM: 2.0, Đà Nẵng: 1.0
- Khi Temperature = 0.0: Xác suất Hà Nội biến thành 100% . Phản hồi luôn là: "Hà Nội".
- Khi Temperature = 0.9: Xác suất Hà Nội giảm xuống 70% , TPHCM 20% , Đà Nẵng 10% . Phản hồi có thể ngẫu nhiên trở thành: "Hà Nội, một thành phố ngàn năm văn hiến...".
Nguồn
Chu Hồng Hạnh — Cẩm nang AI cơ bản: Thuật ngữ AI từ nền tảng đến hệ thống AI Agents tự chủ.