Temperature adalah parameter dalam model AI generatif yang mengontrol kreativitas atau keacakan output. Ini adalah hyperparameter yang dapat disesuaikan oleh pengguna untuk mengontrol seberapa "berani" atau "konservatif" model dalam memilih kata berikutnya.
Secara teknis, temperature memodifikasi distribusi probabilitas yang dihasilkan oleh model untuk token berikutnya. Temperature rendah (mendekati 0) membuat model lebih deterministik—ia memilih token dengan probabilitas tertinggi hampir sepanjang waktu, menghasilkan output yang lebih dapat diprediksi dan fokus. Temperature tinggi (misalnya 1.0 atau lebih) membuat distribusi probabilitas lebih datar—token dengan probabilitas lebih rendah memiliki kesempatan lebih besar untuk dipilih, menghasilkan output yang lebih beragam, kreatif, dan terkadang tidak terduga.
Analoginya: temperature seperti pengaturan kreativitas dalam sebuah alat tulis. Temperature rendah seperti menulis dengan aturan yang ketat—setiap kata dipilih dengan hati-hati dan aman. Temperature tinggi seperti menulis dengan gaya bebas—kata-kata mengalir lebih liar, kadang menghasilkan ide-ide segar tetapi juga kadang omong kosong.
Temperature memiliki aplikasi praktis yang berbeda. Untuk tugas faktual (misalnya, menjawab pertanyaan dengan jawaban pasti), temperature rendah lebih disarankan untuk meminimalkan halusinasi. Untuk tugas kreatif (misalnya, menulis puisi atau cerita), temperature tinggi dapat menghasilkan hasil yang lebih menarik dan tidak terduga.
Temperature sering digunakan bersama dengan parameter lain seperti top-p (nucleus sampling) untuk mengontrol kualitas output secara lebih halus. Memilih temperature yang tepat adalah bagian penting dari prompt engineering dan optimasi aplikasi AI.