Sealos AI Proxy 釋出!一個平臺呼叫所有大模型,再也不用到處找 API 了

米开朗基杨發表於2024-12-09

你是一位開發者,你需要呼叫各類 AI 模型,每次呼叫模型,都要在不同的平臺間反覆橫跳,你大概會遇到以下問題:

  1. 獲取 API Key 流程繁瑣:需訪問多個廠商的官網,查閱各自的使用文件,並按照規定的步驟進行註冊和申請。
  2. 多平臺支付:在呼叫來自不同廠商的模型時,需要在這些廠商的計費平臺上進行支付。
  3. 缺乏集中管理:要在不同平臺上管理和監控 API 使用情況。

是不是覺得特別麻煩?

這就是目前的開發者們使用 AI 模型的真實寫照。

但是,如果有一個 “超級模型呼叫平臺”,能讓你在一個 App 裡呼叫所有 AI 模型,是不是很棒?

這正是我們開發 Sealos AI Proxy 的初衷 —— 一站式 AI 模型呼叫解決方案,讓你可以在同一個平臺中輕鬆呼叫各類 AI 模型

為什麼選擇 AI Proxy?

一鍵獲取多平臺 API Key

  • 告別繁瑣的多平臺註冊流程
  • 僅需註冊 Sealos 賬號,即可獲取主流 AI 模型的呼叫金鑰
  • 支援多家主流廠商的 AI 模型,持續擴充中

統一支付與計費

  • 告別多平臺充值的煩惱
  • 使用 Sealos 餘額統一結算,支援檢視詳細計費明細
  • 透明的計費規則,按實際使用量付費

集中化管理與監控

  • 在統一介面管理所有 API Key
  • 實時監控各模型的呼叫情況
  • 可以看到詳細的呼叫日誌

快速開始

AI Proxy 的使用非常簡單,首先瀏覽器進入 Sealos 桌面,然後開啟【AI Proxy】,點選【新建】按鈕開始新建 Key。

建立完成後會看到 API Endpoint 和需要呼叫的 API Key,直接點選複製進行使用。

接下來讓我們看一個具體的呼叫示例。以下是一段簡單的 JavaScript 程式碼:

async function main() {
  const apiKey = 'sk-oci8dELRkPA0P4rM55521a399b524d75Ba3f74D1790d7656'
  const apiUrl = 'https://aiproxy.hzh.sealos.run/v1/chat/completions'
  const prompt = '蔡徐坤的故事?'
  const response = await fetch(apiUrl, {
      method: 'POST',
      headers: { 'Content-Type': 'application/json', 'Authorization': `Bearer ${apiKey}`},
      body: JSON.stringify({
          model: 'Doubao-lite-4k',
          messages: [
              { role: 'system', content: 'You are a helpful assistant.' },
              { role: 'user', content: prompt }
          ],
          max_tokens: 2048,
          temperature: 0.7,
      }),
  })
  const data = await response.json()
  console.log(data.choices[0].message.content)
}
main() 

AI Proxy 還提供了完整的呼叫日誌和費用管理功能,在呼叫日誌介面中,您可以實時檢視每個模型的詳細呼叫記錄,包括呼叫時間、引數配置、響應結果等資訊,方便您進行使用情況分析和問題排查。

在計費方面,AI Proxy 採用與 Sealos 平臺統一的計費體系,直接使用 Sealos 餘額進行結算,無需額外充值。您可以在 Sealos 費用中心一目瞭然地檢視每個模型的具體呼叫費用,幫助您更好地控制成本和預算。

使用 Devbox 開發 AI 應用

下面我們來看一個完整的 AI 應用開發示例,直接使用 Sealos Devbox 和 Cursor 開發並部署一個完整的 AI 應用。

首先在 Sealos 桌面開啟 Devbox,這裡我選擇使用 Next.js 模板建立一個新的開發環境:

Devbox 會自動為我們配置好所需的開發環境,包括 Node.js 執行時、包管理器等。我們可以選擇使用 Cursor 作為開發工具。在操作選項中選擇使用 Cursor 連線:

首次開啟會提示安裝 Devbox 外掛,安裝後即可自動連線開發環境。

有了開發環境,我們就可以開始構建 AI 應用了。比如,我們可以建立一個簡單的 AI 虛擬女友

怎麼建立呢?當然是讓 Cursor 幫我們寫程式碼了。直接告訴它我的需求,就開始吭哧吭哧幫我們建立檔案寫程式碼了。

按下 Ctrl+I 可以開啟 Composer 皮膚。
按下 Ctrl+L 可以開啟對話皮膚。

如果你覺得不滿意,還可以讓 Cursor 繼續最佳化程式碼。最終開發完成後還需要開啟 Cursor 終端安裝一下依賴:

npm install

然後透過 npm run dev 啟動開發伺服器。

現在回到 Devbox 介面,進入開發環境的詳情頁面:

點選外網地址即可開啟應用。

這是個公網地址哦,團隊成員可以直接透過這個連結訪問和預覽應用,非常有利於團隊協作和開發除錯。

來看看最終的效果:

大家如果對這個 “女神蘇蘇” 專案比較感興趣,可以在評論區留言,如果留言數量足夠多,我會單獨寫一篇教程詳細介紹這個專案的開發過程 😁

總結

Sealos AI Proxy 為我們提供了穩定可靠的 AI 模型呼叫服務,支援各廠商的主流大模型,並提供統一的 API 介面。透過 AI Proxy,我們可以輕鬆實現 AI 應用所需的各種功能,無需擔心模型呼叫的穩定性和成本問題。

而 Sealos Devbox 則為我們提供了一個完整的雲開發環境,從程式碼編寫到應用部署,一站式解決方案讓開發者可以專注於業務邏輯的實現,不用再為環境配置而苦惱。

Sealos Devbox + AI Proxy 就是王炸,AI Proxy 解決了統一模型呼叫的難題,而 Devbox 則讓開發部署變得輕而易舉。

相關文章