《不要盲目再使用 DeepSeek R1 和 QWQ 這些推理模型做 RAG 了》
介紹
DeepSeek R1 在首次發佈時就展現出強大的推理能力。在這篇文章中,作者將詳細介紹使用 DeepSeek R1 構建針對法律文件的 RAG 系統的經驗。
作者之所以選擇法律文件,是因為法律專業人士經常面臨一項艱鉅的任務:瀏覽案例、法規和非正式法律評論庫。即使是最善意的研究也會因檢索正確的文件而陷入困境,更不用說準確地總結它們了。這正是 RAG 的絕佳應用場景!
作者基於 #大量法律文件數據集 構建了 RAG,具體技術棧如下:使用 #Qwen2嵌入技術進行檢索;#ChromaDB作為嵌入存儲和查詢的向量存儲; #DeepSeekR1生成最終答案。
透過將專用檢索器與強大的推理大模型結合,我們可以同時獲得「三全其美」的效果:高相關性文件檢索、推理豐富的文本生成、透過直接引用減少幻覺。


文章出處
https://mp.weixin.qq.com/s/_hMFNaRtCSBZSES2GXMcrA
作者開源了構建 RAG 的完整流程(地址在文末),並分享了一些來之不易的經驗——哪些有效,哪些無效。
1、https://github.com/skypilot-org/skypilot/tree/master/llm/rag
Felo檢索生成分析答案
https://felo.ai/search/24TL9wMWcZmbev5oFYgvRf……
2、https://blog.skypilot.co/deepseek-rag/
Felo生成分析答案