自從最近微軟開源Semantic-kernel (SK) 來幫助開發人員在其應用程式中使用AI大型語言模型(LLM)以來,Microsoft一直在忙於改進它,釋出了有關如何使用它的新指南併發布了5篇文章介紹他的功能。
開發人員可以使用Semantic-kernel (SK) 建立自然語言提示、生成響應、提取資訊、呼叫其他提示或執行可以用文字表示的其他任務。微軟在3月17日開源Semantic-kernel (SK)時,提示是專案描述的關鍵部分:“Semantic-kernel (SK)是一個輕量級SDK,可讓您將C#和Python等傳統程式語言與最新的大型語言模型(LLM)AI'提示'混合在一起,具有提示模板,連結和規劃功能。
微軟將更好的提示列為SK的四個關鍵優勢之一:
- 快速整合:SK旨在嵌入任何型別的應用程式中,使您可以輕鬆測試和執行LLM AI。
- 擴充套件:藉助 SK,您可以連線外部資料來源和服務,使其應用程式能夠將自然語言處理與實時資訊結合使用。
- 更好的提示:SK的模板化提示可讓您使用有用的抽象和機制快速設計語義函式,以釋放LLM AI的潛力。
- 新奇但熟悉:傳統程式語言程式碼始終可供您作為一流的合作伙伴,幫助您快速完成工程設計,可以兩全其美。
微軟(3月30日)釋出了一篇題為“Semantic-kernel 規劃器:嵌入和語義記憶的改進”[1]文章,詳細介紹了該專案規劃器技能的[2]改進,允許使用者根據語義查詢建立和執行計劃。這篇文章解釋了最近的調整,使規劃器技能更加通用。
調整涉及將嵌入整合到 Planner 技能中,以增強其可用性和功能。嵌入[3]是數字向量或陣列,表示模型處理的令牌的含義和上下文。嵌入用於編碼和解碼輸入和輸出文字,可以幫助LLM理解令牌之間的關係並生成相關且連貫的文字。它們用於文字分類、摘要、翻譯和生成,包括影像和程式碼生成。
微軟在文章中說到:“隨著Semantic-kernel 在Alpha階段的發展,我們將優先考慮使用嵌入進行規劃建立的其他方法,這些方法將更加強大,” ,3月22日還有一篇文章“Semantic-kernel 嵌入和記憶:使用聊天UI探索GitHub Repos”[4] ,文章中進行了展示了嵌入,該文章解釋了他們如何幫助開發人員提出有關GitHub儲存庫的問題或使用自然語言查詢探索GitHub儲存庫。與嵌入一起,這是在SK儲存器[5](嵌入集合)的幫助下完成的,這有助於為提示(或SK世界中的ASK)提供更廣泛的上下文。
這篇文章重點介紹了一個示例應用程式GitHub Repo Q&A Bot[5],它展示了開發人員如何使用SK函式下載任何GitHub儲存庫,將其儲存在記憶體(嵌入集合)中,並使用聊天UI進行查詢。
微軟表示,該示例可用作儲存和查詢專案的指南,例如:
- 大型內部程式手冊
- 學生教育材料
- 公司合同
- 產品文件
微軟在週一還有一篇題為“如何在幾分鐘內將Semantic-kernel 部署到Azure” [6]的文章,這是透過Azure Function完成的,Azure Function是微軟的Serverless 計算服務,允許使用者在不管理伺服器或基礎設施的情況下執行程式碼。該演示使用的是 Visual Studio Code,需要安裝 Azure Tools [7]擴充套件。
如果你一直在關注Semantic-kernel 的GitHub倉庫 :https://github.com/microsoft/semantic-kernel/ [8],可以看到自從開源以來,star的增長非常快,目前已經有3717個star,並且各項功能的開發也在緊鑼密鼓的進行之中,正在新增對其他LLM 模型支援,例如例子 https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9],這也是第一個Python語言的例子 ,還有更多的語言支援在進行當中。
相關連結:
- [1] Semantic-kernel 規劃器:嵌入和語義記憶的改進: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-planner-improvements-with-embeddings-and-semantic-memory/
- [2]規劃器技能 :https://learn.microsoft.com/en-us/semantic-kernel/concepts-sk/planner
- [3]嵌入:https://learn.microsoft.com/en-us/semantic-kernel/concepts-ai/embeddings
- [4]Semantic-kernel 嵌入和記憶:使用聊天UI探索GitHub Repos: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-embeddings-and-memories-explore-github-repos-with-chat-ui/
- [5]GitHub Repo Q&A Bot:https://aka.ms/sk/repo/samples/github-repo-qa-bot
- [6]如何在幾分鐘內將Semantic-kernel 部署到Azure: https://devblogs.microsoft.com/semantic-kernel/how-to-deploy-semantic-kernel-to-azure-in-minutes/
- [7] Azure Tools: https://marketplace.visualstudio.com/items?itemName=ms-vscode.vscode-node-azure-pack
- [8]Semantic-kernel 的GitHub倉庫 :https://github.com/microsoft/semantic-kernel/
- [9]LLM模型 huggine-face: https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server