Bias dalam konteks AI merujuk pada kesalahan sistematis dalam output model yang disebabkan oleh asumsi atau keterbatasan dalam data pelatihan, algoritma, atau proses pengembangan. Bias dapat menyebabkan model secara tidak adil menguntungkan atau merugikan kelompok tertentu.
Sumber bias yang paling umum adalah data pelatihan yang tidak representatif. Jika model dilatih dengan data yang didominasi oleh satu kelompok demografis, model akan berperforma lebih baik untuk kelompok tersebut dan lebih buruk untuk kelompok lain. Misalnya, sistem pengenalan wajah yang dilatih terutama dengan gambar orang kulit putih sering kesulitan mengenali orang kulit berwarna.
Bias juga dapat muncul dari algoritma itu sendiri. Misalnya, algoritma optimasi tertentu mungkin secara tidak sengaja memperkuat pola-pola yang sudah ada dalam data, termasuk stereotip. Bias konfirmasi dapat terjadi jika pengembang secara tidak sadar merancang sistem untuk mengkonfirmasi keyakinan mereka sendiri.
Jenis-jenis bias dalam AI meliputi: bias historis (data mencerminkan ketidakadilan masa lalu), bias representasi (kelompok tertentu kurang terwakili dalam data), bias pengukuran (data dikumpulkan dengan cara yang tidak akurat), dan bias algoritmik (desain model itu sendiri menciptakan ketidakadilan).
Mengatasi bias adalah tantangan etis dan teknis yang signifikan. Pendekatan meliputi: audit data untuk mengidentifikasi ketidakseimbangan, teknik debiasing selama pelatihan, transparansi tentang keterbatasan model, dan tim pengembangan yang beragam untuk membawa perspektif yang berbeda.
Bias tidak selalu negatif—dalam statistik, bias juga merujuk pada perbedaan antara nilai yang diprediksi dan nilai sebenarnya. Namun, dalam diskusi AI modern, "bias" hampir selalu merujuk pada masalah keadilan dan etika yang perlu diatasi.