Bias dalam AI

definisi

Bias dalam AI merujuk kepada ralat sistematik dalam output AI yang disebabkan oleh data yang condong, reka bentuk yang cacat atau ketidaksamaan masyarakat yang ditunjukkan dalam set data. Ia boleh membawa kepada hasil yang tidak adil atau diskriminasi.

Tujuan

Tujuan mengkaji berat sebelah adalah untuk mengenal pasti dan mengurangkan ketidakadilan dalam sistem AI. Organisasi bertujuan untuk membina model yang lebih saksama dengan menangani isu ini.

kepentingan

• Membawa kepada diskriminasi dalam pengambilan pekerja, pinjaman atau penjagaan kesihatan jika tidak ditangani.
• Menggugat kepercayaan terhadap sistem AI.
• Memerlukan pematuhan peraturan dalam industri sensitif.
• Berkaitan dengan keadilan dan amalan AI yang bertanggungjawab.

Langkah-langkah untuk Copytrade

1. Kenal pasti sumber bias yang berpotensi (pengumpulan data, pelabelan, pemodelan).
2. Menganalisis set data untuk ketidakseimbangan.
3. Gunakan kaedah latihan yang mementingkan keadilan.
4. Uji output dengan metrik kesaksamaan.
5. Laraskan reka bentuk dan latih semula jika perlu.

Contoh (Dunia Sebenar)

• Alat penilaian risiko COMPAS: dikritik kerana berat sebelah kaum.
• Algoritma pengambilan pekerja Amazon: dibuang kerana berat sebelah jantina.
• Pengecaman muka: diketahui salah mengklasifikasikan kumpulan demografi tertentu.

Rujukan / Bacaan Lanjut

• AI Bias — NIST.
• Keadilan dan Pembelajaran Mesin — Barocas, Hardt & Narayanan (buku).
• Bias Algoritma — Prosiding Persidangan ACM FAccT.
• Data Latihan AI yang Pelbagai: Kunci untuk Menghapuskan Bias