基於SiliconCloud快速體驗GraphRag.Net

mingupupup發表於2024-08-08

SiliconCloud介紹

SiliconCloud 基於優秀的開源基礎模型,提供高價效比的 GenAI 服務。

不同於多數大模型雲服務平臺只提供自家大模型 API,SiliconCloud上架了包括 Qwen、DeepSeek、GLM、Yi、Mistral、LLaMA 3、SDXL、InstantID 在內的多種開源大語言模型及圖片生成模型,使用者可自由切換適合不同應用場景的模型。

更重要的是,SiliconCloud 提供開箱即用的大模型推理加速服務,為您的 GenAI 應用帶來更高效的使用者體驗。

對開發者來說,透過 SiliconCloud 即可一鍵接入頂級開源大模型。擁有更好應用開發速度和體驗的同時,顯著降低應用開發的試錯成本。

官網地址:https://siliconflow.cn/zh-cn/siliconcloud

image-20240808145507737

GraphRag.Net介紹

微軟此前開源了graphrag程式碼,專案地址:https://github.com/microsoft/graphrag。

image-20240808145851224

GraphRag.Net是國內一位大佬參考GraphRag使用 Semantic Kernel 來實現的dotnet版本。

專案地址:https://github.com/AIDotNet/GraphRag.Net

不要忘了給大佬一個Star哦!

image-20240808150152462

對於想要學習GraphRag的同學,可以結合這兩個專案一起學習。

快速體驗GraphRag

git clone到本地,根據README的指引,進行配置:

image-20240808150425012

這裡我使用的是矽基流動提供的API:

image-20240808150648647

矽基流動不僅提供了對話模型還提供了嵌入模型,並且還相容了OpenAI的格式,因此接入GraphRag.Net非常方便。這裡對話模型使用的是Qwen/Qwen2-72B-Instruct,嵌入模型使用的是BAAI/bge-large-zh-v1.5。

啟動GraphRag.Net專案,輸入http://localhost:5000/進入GraphRag.Net頁面:

image-20240808151110497

準備了一篇關於嫦娥奔月的故事的txt文字,檢視控制檯:

image-20240808151451284

在生成知識圖譜中了,等待生成完成。

生成好知識圖譜之後,檢視知識圖譜:

image-20240808152253821

image-20240808152354247

檢視資料庫中存了什麼。

向量資料庫使用的是SQLite,裡面存了一些向量資料:

image-20240808154209620

檢視業務資料庫中的節點表:

image-20240808154306013

檢視邊界表:

image-20240808154337113

可能因為文字不是很多,其他表中沒有資訊。

然後就可以根據知識圖譜進行Rag了。

問一個問題,比如“嫦娥送什麼禮物給天帝?”:

image-20240808174146938

image-20240808174332279

回答正確。

如果體驗之後,確實對GraphRag感興趣,可以深入研究一下GraphRag的原理,兩個專案結合起來看一看。

相關文章