Human-in-the-Loop (HITL) adalah pendekatan perancangan sistem AI yang secara sengaja menyertakan titik-titik pemeriksaan (checkpoint) di mana manusia harus meninjau, menyetujui, atau mengoreksi keputusan maupun tindakan AI sebelum benar-benar dieksekusi atau difinalisasi, alih-alih membiarkan sistem beroperasi sepenuhnya secara otonom.
Pendekatan ini menjadi salah satu prinsip keamanan (safety) paling mendasar dalam merancang sistem AI, terutama AI Agent yang memiliki kemampuan mengambil tindakan nyata di dunia—seperti mengirim email, melakukan transaksi, atau memodifikasi data produksi. Dengan menyisipkan manusia dalam alur kerja, risiko kesalahan yang tidak terdeteksi atau tindakan yang tidak diinginkan dapat diminimalkan sebelum berdampak nyata.
Human-in-the-loop dapat diterapkan pada berbagai titik dalam siklus kerja AI: sebelum pelatihan model (memberi label data), selama proses (meninjau rencana agen sebelum eksekusi), atau setelah output dihasilkan (meninjau dan mengoreksi hasil sebelum dipublikasikan). Contoh umum termasuk fitur "konfirmasi sebelum mengirim" pada asisten email AI, atau proses moderasi manusia pada konten yang ditandai berpotensi bermasalah oleh sistem AI.
Tingkat keterlibatan human-in-the-loop biasanya disesuaikan dengan risiko dan konsekuensi tindakan. Untuk tugas berisiko rendah seperti meringkas dokumen, pengawasan manusia bisa minimal atau bahkan tidak ada. Namun untuk tindakan berisiko tinggi seperti keputusan medis, transaksi finansial besar, atau tindakan hukum, keterlibatan manusia sering kali diwajibkan baik oleh praktik terbaik industri maupun oleh regulasi, seperti kewajiban transparansi dalam EU AI Act.
Seiring AI Agent menjadi semakin otonom dan mampu, merancang keseimbangan yang tepat antara efisiensi otomatisasi dan pengawasan manusia yang memadai menjadi salah satu tantangan desain paling penting dalam pengembangan sistem AI yang bertanggung jawab.