Penjanaan Pertambahan Pengambilan (RAG)

definisi

Retrieval-Augmented Generation (RAG) ialah teknik yang menggabungkan model generatif dengan sistem pencarian maklumat. Ia mengasaskan output dalam sumber luaran untuk meningkatkan ketepatan fakta.

Tujuan

Tujuannya adalah untuk mengurangkan halusinasi dalam AI generatif dengan menambah respons dengan dokumen yang diambil. Ia amat berguna dalam menjawab soalan dan tugasan berintensif pengetahuan.

kepentingan

• Meningkatkan ketepatan fakta dalam output LLM.
• Membolehkan penyepaduan pengetahuan khusus domain.
• Memerlukan sistem perolehan semula yang boleh dipercayai.
• Berkaitan dengan carian hibrid dan QA domain terbuka.

Langkah-langkah untuk Copytrade

1. Pengguna menyediakan pertanyaan atau gesaan.
2. Sistem perolehan mengambil dokumen yang berkaitan.
3. Dokumen dihantar ke model generatif.
4. Model menjana respons berdasarkan kandungan yang diperoleh semula.
5. Gelung maklum balas meningkatkan prestasi masa hadapan.

Contoh (Dunia Sebenar)

• OpenAI ChatGPT dengan pemalam menyemak imbas atau mendapatkan semula.
• Model Meta RAG: penyelidikan tentang LLM berasaskan pengambilan semula.
• AI Perplexity: carian perbualan ditambah perolehan.

Rujukan / Bacaan Lanjut

• Lewis et al. "Generasi Dipertingkatkan Pendapatan untuk NLP Intensif Pengetahuan." NeuroIPS 2020.
• Pelaksanaan RAG Berpeluk Wajah.
• Stanford HAI Research on Retrieval Methods.
• Apa itu RAFT? RAG + Penalaan Halus