Microsoft.Extensions.AI是微軟出的一個用來整合調研各種大模型的中間平臺,說是為了方便開發人員的開發。
但是這個平臺貌似都只支援國外的一些大模型平臺,國內的都不支援。
OpenAI註冊了一下,但是可能沒有資費,呼叫不成功。
想測試一下能不能接入科大訊飛和阿里的千問,貌似也沒有成功。
所以相當於折騰了半天,還是沒有呼叫成功。
後續有機會再研究吧。
目前正在使用的大模型有兩個,一個科大訊飛的,一個是阿里的。
科大訊飛的有免費一年的使用期限,帶的Token數量個人使用覺得肯定沒啥問題。
提供了C#的呼叫示例,相當於是呼叫WebSocket互動的。基本上拿著官方的示例,換上自己的API Key就可以使用了。
也是最靠譜的一個,目前使用的最多。但是訊飛的介面不知道為什麼,返回的時候,會把所有的英文都轉換成小寫。不知道他們為啥這麼做。
另一個是阿里的千問,千萬沒有提供C#的SDK,前面客服主動聯絡過來,提了這事的時候,客服直接說了,C#不是主流的開發語言。
不過阿里提供了Python的示例,其實也比較簡單,換成自己的API就可以使用了。
前面C#應用要使用的時候,透過TCP等方式跟Python進行互動,來完成介面的呼叫。
平常幾個大模型,用得比較多的其實還是千問,千問的回答質量比較滿意。
不過千問好像要收費,按照流量來收費的。
而且這些平臺一個大毛病,一些收費的介面,跳來跳去要找個半天。不過因為就個人測試,其實也沒啥流量,就算有費用,一般也非常的少。
相關網址
- Introducing Microsoft.Extensions.AI Preview Unified AI Building Blocks for .NET .NET Blog
https://devblogs.microsoft.com/dotnet/introducing-microsoft-extensions-ai-preview/ - 適用於 .NET 的統一 AI 構建基塊 .NET Microsoft Learn
https://learn.microsoft.com/zh-cn/dotnet/ai/ai-extensions