不用部署，實現大模型切換自由！Token、算力免費薅！咱AI開發者今年整個秋天的奶茶都省出來了！

机器之心發表於2024-08-13
大模型AI
作為全公司產品做的最好的工程師，同時也是程式碼寫得最好的產品經理，你深刻地知道：搞個靠譜的 AI 應用需要靈感，而好的靈感則需要一個靠譜的 demo 來驗證。

然而……

當你已喝上了秋天的第一杯奶茶時，你的 demo 呼叫的卻還是隔壁工位的小胡今年春天部署的第一個大模型…我們都知道：不是小胡懶得更新，而是幫你的 demo 換個模型 API 真的有點麻煩……
圖片
首先，隨著模型檔案體積的不斷增大，僅下載這些檔案就需要花費個幾天時間；而當檔案下載完成後，又常常面臨儲存空間不足的問題，每增加一個新的模型版本，賬單基數就又跳個臺階在下個月等著你……
圖片
其次，嘗試部署一個全新的模型就像是開啟一個未知的盲盒，你永遠無法預測在跟隨教程部署過程中會遇到什麼樣的 bug……
圖片
最後，即便 API 終於執行起來，你卻發現它在實際應用到你的 demo 中時並不契合……

這些挑戰不僅耗費時間，更是對資源和創新精神的一大考驗。
圖片
作為懂你的老夥計，機器之心SOTA！模型社群和上海清湛智帆 AIFanSuper 算力平臺聯手來為你解決這些AIGC應用 demo 開發過程中頭疼的問題了~
  • 不用下載！實現模型試用自由！ 開源大模型實測頻道持續上新，線上隨便用、花樣試~
  • 不用部署！實現模型 API 切換自由！ 看上哪個模型立刻換，MaaS API 一鍵啟動 ~
  • 不用充值！實現DEMO開發token自由！ 免費算力「立等可薅」~
三大自由實現傳送門，立刻收藏！一鍵直達！
https://sota.jiqizhixin.com/xt-terminal

如何實現模型實測自由？

圖片 選擇模型
透過訪問 https://sota.jiqizhixin.com/xt-terminal 進入「小土同學」的首頁，即可檢索各種模型，並點選進入所選模型的實測頻道。

圖片

為了使老夥計們能夠儘快使用最新推出的尖端中文大模型，本週將逐步在「小土同學」上線的首批 10 個常用模型，後續我們還將持續從社群服務號的「今日開源」推送中選擇一些模型部署上線，並免費為老夥計們開放實測頻道和公共 API。這些模型不僅支援函式呼叫、擴充套件上下文等具體場景，還包括如 Llama 3.1 70B 等大引數量模型~
圖片圖片 進入頻道

進入實測頻道頁面後，老夥計們可以透過頁面底部的對話方塊對已處於啟動狀態的模型進行推理實測。如果頻道中暫時沒有處於啟動狀態的公共線路，您可以選擇心儀的線路並一鍵啟動。
圖片
如何實現模型 API 切換自由？

如所選模型實測頻道的免費公共線路已處於啟動狀態，使用者可在「小土同學」的實測頻道介面檢視該模型的推理 API 。點選「呼叫」按鈕後，使用者即可獲取該模型的OpenAI風格對話 API 呼叫金鑰。
圖片
如何實現 DEMO 開發Token、算力自由？

為了確保公共線路的穩定使用，我們對免費呼叫模型 API的頻率進行了限制。使用者可以透過開啟專屬線路來獲得無 Token 和呼叫頻次限制的專屬 API 。
圖片

上海清湛智帆算力平臺為所有透過機器之心賬號實名註冊的 AIFanSuper 使用者一次性發放 500 元免費算力券。老夥計們可以按照以下步驟領取和使用算力券，啟動由清湛智帆算力平臺提供的專屬線路服務：

圖片
以上能力的實現，都離開不了機器之心SOTA！模型社群的合作伙伴「清湛智帆」的大力支援~
上海清湛智帆從成立之初就旨在為AI開發者/研究人員提供高效、穩定、安全的智算算力平臺 AIFanSuper，助力科學智慧、具身智慧及垂類模型等領域的模型訓練與推理。
同時，上海清湛智帆算力平臺——AIFanSuper 也將陸續上線 400+ 常用模型和 200+ 資料集為基礎打包好的 40+ 預置映象，可在 AIFanSuper 平臺中實現一鍵部署，減少開發者對模型的配置時間。
為慶祝此次合作，AIFanSuper 官方還將為各位老夥計提供限時大額算力補貼！其中Tesla V系列的租用價格將低至5折；NVIDIA A100/A800限時7折 ！
老夥計們透過上述步驟獲得的 500 元的算力券在有效期內除了開啟清湛已有的模型API線路之外，也可用於直接購買AIFanSuper上的算力和儲存空間部署自己心儀的模型！
圖片
最後，再為各位老夥計重點介紹下咱們的戰略合作伙伴上海清湛智帆。

上海清湛智帆背靠清華大學人工智慧研究院雄厚的技術實力，為 AI 開發者/研究人員提供高效、穩定、安全的智算算力平臺 AIFanSuper，助力科學智慧、具身智慧及垂類模型等領域的模型訓練與推理。

AIFanSuper 將成為使用者友好、覆蓋全球開源模型與公共資料集三位一體的 AI 算力平臺，推動前沿科技的發展與創新。

相關文章