Fikiran manusia kekal tidak dapat dijelaskan dan misteri untuk masa yang lama. Dan nampaknya saintis telah mengakui pesaing baharu dalam senarai ini - Kepintaran Buatan (AI). Pada mulanya, memahami minda AI kedengaran agak oxymoronic. Walau bagaimanapun, apabila AI secara beransur-ansur menjadi lebih peka dan berkembang lebih dekat untuk meniru manusia dan emosi mereka, kami menyaksikan fenomena yang semula jadi kepada manusia dan haiwan - halusinasi.
Ya, nampaknya perjalanan yang ditempuhi oleh minda ketika ditinggalkan di padang pasir, dibuang di sebuah pulau, atau dikurung sendirian di dalam bilik tanpa tingkap dan pintu juga dialami oleh mesin. Halusinasi AI adalah nyata dan pakar serta peminat teknologi telah merakam pelbagai pemerhatian dan inferens.
Dalam artikel hari ini, kita akan meneroka aspek Model Bahasa Besar (LLM) yang misteri namun menarik ini dan mempelajari fakta-fakta unik tentang halusinasi AI.
Apakah Halusinasi AI?
Dalam dunia AI, halusinasi tidak secara samar-samar merujuk kepada corak, warna, bentuk atau orang yang dapat dibayangkan oleh minda secara jelas. Sebaliknya, halusinasi merujuk kepada fakta dan respons yang salah, tidak sesuai atau mengelirukan. Alat AI generatif menghasilkan gesaan.
Sebagai contoh, bayangkan bertanya kepada model AI apakah teleskop angkasa Hubble dan ia mula bertindak balas dengan jawapan seperti, "Kamera IMAX ialah gambar bergerak beresolusi tinggi yang khusus…."
Jawapan ini tidak relevan. Tetapi yang lebih penting, mengapa model itu menghasilkan respons yang berbeza secara tangensial daripada gesaan yang dibentangkan? Pakar percaya halusinasi boleh berpunca daripada pelbagai faktor seperti:
- Kualiti data latihan AI yang lemah
- Model AI yang terlalu yakin
- Kerumitan program Pemprosesan Bahasa Semulajadi (NLP).
- Ralat pengekodan dan penyahkodan
- Serangan musuh atau penggodaman model AI
- Perbezaan sumber-rujukan
- Bias input atau kekaburan input dan banyak lagi
Halusinasi AI sangat berbahaya dan keamatannya hanya meningkat dengan peningkatan spesifikasi aplikasinya.
Sebagai contoh, alat GenAI yang berhalusinasi boleh menyebabkan kehilangan reputasi bagi perusahaan yang menggunakannya. Walau bagaimanapun, apabila model AI serupa digunakan dalam sektor seperti penjagaan kesihatan, ia mengubah persamaan antara hidup dan mati. Bayangkan ini, jika model AI berhalusinasi dan menjana tindak balas kepada analisis data laporan pengimejan perubatan pesakit, ia secara tidak sengaja boleh melaporkan tumor jinak sebagai malignan, mengakibatkan penyelewengan kursus diagnosis dan rawatan individu.
Memahami Contoh Halusinasi AI
Halusinasi AI adalah pelbagai jenis. Mari kita fahami beberapa yang paling menonjol.
Maklum balas yang sebenarnya tidak betul
- Respons positif palsu seperti menandakan tatabahasa yang betul dalam teks sebagai salah
- Respons negatif palsu seperti mengabaikan kesilapan yang jelas dan menyatakannya sebagai tulen
- Penciptaan fakta yang tidak wujud
- Sumber atau pengubahan petikan yang salah
- Terlalu yakin dalam menjawab dengan jawapan yang salah. Contoh: Siapakah yang menyanyikan Here Comes Sun? Metallica.
- Mencampurkan konsep, nama, tempat atau kejadian
- Respons pelik atau menakutkan seperti ketawa autonomi syaitan popular Alexa dan banyak lagi
Mencegah Halusinasi AI
Maklumat salah yang dihasilkan oleh AI dalam apa jua jenis boleh dikesan dan diperbaiki. Itulah keistimewaan bekerja dengan AI. Kami menciptanya dan kami boleh memperbaikinya. Berikut adalah beberapa cara kami boleh melakukannya.
Mengehadkan Respons
Mereka mengatakan tidak kira berapa banyak bahasa yang kita tuturkan. Kita perlu tahu bila hendak berhenti bercakap dalam kesemuanya. Ini terpakai kepada model AI dan responsnya juga. Dalam konteks ini, kita boleh menyekat keupayaan model untuk menjana respons kepada volum tertentu dan mengurangkan kemungkinan ia menghasilkan hasil yang pelik. Ini dipanggil Regularization dan ia juga melibatkan menghukum model AI kerana membuat hasil yang melampau dan meregangkan kepada gesaan.
Sumber Berkaitan & Kedap Udara Untuk Memetik Dan Mengekstrak Respons
Apabila kami melatih model AI, kami juga boleh mengehadkan sumber yang boleh dirujuk dan mengekstrak maklumat daripada model kepada sumber yang sah dan boleh dipercayai. Sebagai contoh, model AI penjagaan kesihatan seperti satu contoh yang kami bincangkan sebelum ini boleh merujuk hanya kepada sumber yang boleh dipercayai dalam maklumat yang dimuatkan dengan imej perubatan dan teknologi pengimejan. Ini menghalang mesin daripada mencari dan mengaitkan corak daripada sumber bipolar dan menjana tindak balas.
Menentukan Tujuan Model AI
Model AI adalah pelajar yang cepat dan mereka hanya perlu diberitahu dengan tepat apa yang patut mereka lakukan. Dengan mentakrifkan tujuan model dengan tepat, kami boleh melatih model untuk memahami keupayaan dan batasan mereka sendiri. Ini akan membolehkan mereka mengesahkan respons mereka secara autonomi dengan menjajarkan respons yang dijana kepada gesaan pengguna dan tujuan mereka untuk menyampaikan hasil yang bersih.
Pengawasan Manusia Dalam AI
Melatih sistem AI adalah sama pentingnya dengan mengajar kanak-kanak berenang atau berbasikal buat kali pertama. Ia memerlukan pengawasan orang dewasa, kesederhanaan, campur tangan, dan pegangan tangan. Kebanyakan halusinasi AI berlaku disebabkan oleh kecuaian manusia dalam pelbagai peringkat pembangunan AI. Dengan mengerahkan pakar yang betul dan memastikan aliran kerja manusia-dalam-gelung untuk mengesahkan dan meneliti respons AI, hasil yang berkualiti boleh dicapai. Selain itu, model boleh diperhalusi lagi untuk ketepatan dan ketepatan.
Shaip Dan Peranan Kami Dalam Mencegah Halusinasi AI
Salah satu sumber halusinasi terbesar yang lain ialah data latihan AI yang lemah. Apa yang anda berikan, itulah yang anda dapat. Itulah sebabnya Shaip mengambil langkah proaktif untuk memastikan penyampaian data berkualiti tinggi untuk keperluan latihan AI generatif anda.
Protokol jaminan kualiti kami yang ketat dan set data yang diperoleh secara beretika adalah sesuai untuk visi AI anda dalam memberikan hasil yang bersih. Walaupun gangguan teknikal dapat diselesaikan, adalah penting bahawa kebimbangan mengenai kualiti data latihan ditangani di peringkat akar umbi untuk mengelakkan kerja semula pembangunan model dari awal. Inilah sebabnya mengapa fasa latihan AI dan LLM anda harus bermula dengan set data daripada Shaip.
