Nhiệt độ lấy mẫu (Temperature)
Kiểm soát tính ngẫu nhiên: Giảm kết quả trong các lần hoàn thành ít ngẫu nhiên hơn. Khi nhiệt độ gần bằng 0, mô hình sẽ trở nên xác định và lặp đi lặp lại. Nhiệt độ là một tham số trong mô hình ngôn ngữ của OpenAI kiểm soát mức độ ngẫu nhiên hoặc “tính sáng tạo” trong văn bản được tạo. Tham số nhiệt độ nằm trong khoảng từ 0 đến 1, với 0 là cố định nhất và 1 là khó đoán nhất.
Ví dụ: Nếu nhiệt độ được đặt thành 0, mô hình sẽ tạo văn bản rất giống với dữ liệu huấn luyện và lặp lại, trong khi nhiệt độ là 1 sẽ tạo ra văn bản đa dạng và sáng tạo hơn.
Mã thông báo tối đa (Max Tokens)
Mã thông báo tối đa là một tham số trong mô hình ngôn ngữ của OpenAI kiểm soát số lượng mã thông báo tối đa có thể được tạo trong một đầu ra. Mã thông báo là đơn vị cơ bản của văn bản, chẳng hạn như từ hoặc dấu chấm câu.
Ví dụ: Nếu số mã thông báo tối đa được đặt thành 50, thì mô hình sẽ chỉ tạo tối đa 50 mã thông báo trong đầu ra của nó. Điều này có thể được sử dụng để giới hạn độ dài của văn bản được tạo hoặc để đảm bảo rằng mô hình không tạo ra quá nhiều văn bản.
Dự đoán hàng đầu (Top-P)
Dự đoán hàng đầu (Top-P) là một tham số trong mô hình ngôn ngữ của OpenAI kiểm soát xác suất văn bản được tạo giống với dữ liệu huấn luyện. Tham số này là một cách kiểm soát mức độ ngẫu nhiên hoặc “sáng tạo” trong văn bản được tạo.
Ví dụ: Nếu Top-P được đặt thành 0,9, thì mô hình sẽ tạo văn bản giống 90% với dữ liệu đào tạo, trong khi Top-P là 0,1 sẽ dẫn đến văn bản đa dạng và sáng tạo hơn.
Tốt nhất (Best of)
Tốt nhất là một tham số trong mô hình ngôn ngữ của OpenAI kiểm soát số lượng đầu ra khác nhau sẽ được tạo cho một đầu vào. Tham số này có thể được sử dụng để tạo nhiều biến thể của cùng một văn bản, mỗi biến thể có mức độ ngẫu nhiên hoặc “sáng tạo” khác nhau.
Ví dụ: Nếu best of được đặt thành 3, thì mô hình sẽ tạo ra ba đầu ra khác nhau cho một đầu vào, mỗi đầu ra có một mức độ ngẫu nhiên khác nhau.
Hình phạt tần số (Frequency Penalty)
Hình phạt tần suất là một tham số trong mô hình ngôn ngữ của OpenAI kiểm soát mức độ mà mô hình sẽ tránh tạo ra các từ hoặc cụm từ xuất hiện thường xuyên trong dữ liệu huấn luyện. Tham số này là một cách kiểm soát mức độ ngẫu nhiên hoặc “sáng tạo” trong văn bản được tạo.
Ví dụ: Nếu mức phạt tần suất được đặt thành 0,5, thì mô hình sẽ tránh tạo ra các từ hoặc cụm từ thường xuyên xuất hiện trong dữ liệu huấn luyện tới 50%, trong khi mức phạt tần suất là 1 sẽ dẫn đến việc mô hình tránh hoàn toàn các từ và cụm từ được sử dụng thường xuyên.
Hình phạt hiện diện (Presence Penalty)
Presence Penalty là một tham số trong mô hình ngôn ngữ của OpenAI kiểm soát mức độ mà mô hình sẽ tránh tạo ra các từ hoặc cụm từ không có trong dữ liệu huấn luyện. Tham số này là một cách kiểm soát mức độ ngẫu nhiên hoặc “sáng tạo” trong văn bản được tạo.
Ví dụ: Nếu hình phạt hiện diện được đặt thành 0,5, mô hình sẽ tránh tạo ra các từ hoặc cụm từ không có trong dữ liệu huấn luyện tới 50%, trong khi hình phạt hiện diện là 1 sẽ dẫn đến mô hình tránh tất cả các từ hoặc cụm từ không có trong dữ liệu huấn luyện không có trong dữ liệu huấn luyện.