Hallucination

definisi

Dalam AI, halusinasi merujuk kepada keadaan di mana model menghasilkan output yang fasih tetapi sebenarnya tidak betul atau tidak masuk akal. Ia adalah perkara biasa dalam model bahasa besar dan AI generatif.

Tujuan

Mempelajari halusinasi membantu meningkatkan kebolehpercayaan dan keselamatan model. Ia membolehkan pembangun untuk mereka bentuk perlindungan untuk mengesan dan mengurangkan output yang tidak tepat.

kepentingan

• Mengurangkan kepercayaan terhadap AI jika tidak ditangani.
• Boleh menyebabkan kemudaratan dalam aplikasi sensitif seperti penjagaan kesihatan atau undang-undang.
• Menyerlahkan batasan model generatif semasa.
• Memacu penyelidikan dalam kaedah pembumian fakta dan pencarian semula.

Langkah-langkah untuk Copytrade

1. Model menerima gesaan atau pertanyaan.
2. Menghasilkan output berdasarkan corak yang dipelajari, bukan pengesahan fakta.
3. Boleh menghasilkan keputusan yang munasabah tetapi tidak betul.
4. Teknik pengesanan dan pembetulan digunakan (cth, RAG).

Contoh (Dunia Sebenar)

• ChatGPT kadangkala menghasilkan fakta yang salah apabila digesa.
• Demo awal Google Bard menunjukkan kesilapan fakta.
• Nasihat perubatan yang dijana AI kadangkala mengandungi ketidaktepatan.

Rujukan / Bacaan Lanjut

• “Mengurangkan Halusinasi dalam Model Bahasa Besar” — pracetak arXiv.
• Rangka Kerja Pengurusan Risiko NIST AI.
• Mitchell et al. "Kad Model untuk Pelaporan Model." ACM FAccT.
• Punca Halusinasi AI