Inference là quá trình sử dụng mô hình đã được huấn luyện để tạo đầu ra từ dữ liệu đầu vào. Trong ngữ cảnh LLM, nó có thể bao gồm sinh văn bản, tạo chuỗi suy luận hoặc thực hiện các lượt gọi mô hình trong một quy trình. Không nên đồng nhất inference với reasoning: reasoning nói đến khả năng hoặc quá trình suy luận, còn inference chỉ giai đoạn sử dụng mô hình.
« Quay trở lại Từ điểnInference
« Quay trở lại Từ điển