Membangun knowledge base yang retrieve-nya bagus

Jawaban RAG hanya sebaik chunk yang Anda tarik. Beri model bagian yang salah dan ia akan menjawab dengan percaya diri dari bagian yang salah. Jadi pekerjaan nyata RAG bukan prompt-nya, melainkan membuat retrieval andal menemukan hal yang benar. Lesson ini tentang keahlian itu.

Siapkan dokumennya

Bersihkan sumber dulu. Buang navigasi, boilerplate, dan duplikat. Pertahankan struktur nyata seperti heading dan tabel, karena struktur itu membawa makna. Lampirkan metadata ke tiap dokumen (produk, kategori, tanggal, sumber) supaya bisa Anda filter nanti. Input yang rapi adalah sebagian besar kualitas retrieval.

Chunking

Pecah dokumen jadi potongan yang cukup kecil untuk spesifik tapi cukup besar untuk berdiri sendiri. Potong pada batas alami, satu bagian, satu pasangan Q&A, satu klausa, bukan tiap N karakter di tengah kalimat. Tambahkan sedikit overlap antar chunk supaya ide yang melintasi batas tidak hilang. Chunking yang buruk adalah alasan paling umum RAG berkinerja rendah.

Retrieve lebih baik

• Vector search menemukan chunk berdasarkan makna; keyword search menangkap istilah persis seperti SKU dan nama.
• Hybrid search menjalankan keduanya dan menggabungkan, jadi Anda dapat makna dan presisi.
• Re-ranker menata ulang kandidat teratas berdasarkan relevansi sebenarnya sebelum sampai ke model.
• Filter metadata mempersempit ke subset yang tepat dulu (produk ini, bulan ini, cabang ini).

Tumpu dan kutip

Suruh model menjawab hanya dari chunk yang ditarik, mengatakan terus terang saat jawabannya tidak ada di situ, dan mengutip chunk mana yang dipakai. Kutipan bukan hiasan, ia membuat Anda dan pelanggan bisa memverifikasi jawaban, dan membuat jawaban salah mudah dilacak ke chunk yang buruk.

Ukur retrieval

Bangun satu set pertanyaan nyata, masing-masing dipasangkan dengan chunk yang seharusnya menjawabnya. Cek apakah retrieval mengembalikan chunk itu di hasil teratas. Kalau tidak, tidak ada prompt dan tidak ada model lebih besar yang bisa menyelamatkan jawaban, informasi yang benar tidak pernah sampai ke model. Perbaiki retrieval dulu, selalu.