Small Language Model (SLM) adalah model bahasa dengan jumlah parameter yang jauh lebih kecil dibanding Large Language Model (LLM) raksasa—biasanya berkisar dari beberapa ratus juta hingga sekitar 10 miliar parameter, dibandingkan LLM flagship yang bisa mencapai ratusan miliar hingga triliunan parameter.
Tujuan utama pengembangan SLM adalah efisiensi. Model berukuran kecil membutuhkan daya komputasi, memori, dan energi yang jauh lebih sedikit, sehingga dapat dijalankan langsung di perangkat dengan sumber daya terbatas seperti laptop, smartphone, atau bahkan perangkat IoT—tanpa harus terhubung ke server cloud. Ini dikenal sebagai kemampuan berjalan "on-device" atau di edge.
Meski lebih kecil, SLM modern seperti Phi dari Microsoft, Gemma dari Google, atau varian kecil dari Llama telah menunjukkan bahwa dengan teknik pelatihan yang lebih cermat—termasuk penggunaan data berkualitas tinggi dan distillation dari model yang lebih besar—model kecil dapat mencapai performa yang mengejutkan baik pada tugas-tugas tertentu, terkadang mendekati performa model yang jauh lebih besar dari generasi sebelumnya.
SLM sangat relevan untuk kasus penggunaan yang mengutamakan privasi (data tidak perlu dikirim ke server eksternal), latensi rendah (respons instan tanpa jeda jaringan), dan biaya operasional murah (tidak perlu membayar biaya API per token dalam skala besar). Perusahaan yang membangun aplikasi dengan volume permintaan sangat tinggi sering memilih SLM yang di-fine-tune untuk tugas spesifik, dibanding menggunakan LLM besar yang serba bisa namun mahal.
Tren menuju SLM mencerminkan pergeseran industri dari sekadar mengejar model terbesar dan paling mumpuni, menuju model yang paling sesuai dengan kebutuhan dan batasan praktis suatu aplikasi—"model yang tepat untuk tugas yang tepat", bukan selalu model terbesar yang tersedia.