吳恩達出手，開源最新Python包，一個介面呼叫OpenAI等模型

机器之心發表於2024-11-26
吳恩達PythonOpenAI模型

在構建應用程式時，與多個提供商整合很麻煩，現在 aisuite 給解決了。

用相同的程式碼方式呼叫 OpenAI、Anthropic、Google 等釋出的大模型，還能實現便捷的模型切換和對比測試。

剛剛，AI 著名學者、史丹佛大學教授吳恩達最新開源專案實現了。

圖片

吳恩達在推文中宣佈了這一好訊息開源新的 Python 包：aisuite！

這個工具可以讓開發者輕鬆使用來自多個提供商的大型語言模型。

在談到為何構建這個專案時，吳恩達表示構建應用時，發現與多個提供商整合非常麻煩。aisuite 正是為了解決這個問題而誕生的，使用者只需透過更改一個字串（如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等），即可選擇不同提供商的模型。

圖片

專案地址：https://github.com/andrewyng/aisuite

專案一上線，大家紛紛表示「這對開發人員來說非常有用。」

圖片

「超級方便！簡化整合總是有益的，非常好的研究！」

圖片

統一介面設計，支援多個 AI 提供商的模型

aisuite 使開發者能夠透過標準化的介面輕鬆使用多個 LLM。其介面與 OpenAI 的類似，aisuite 可以很容易地與最流行的 LLM 互動並比較結果。

aisuite 是一個輕量級的包裝器，它基於 Python 客戶端庫構建，允許使用者在不修改程式碼的情況下，輕鬆切換並測試來自不同 LLM 提供商的響應。

目前，這個專案主要集中在聊天補全功能，未來將擴充套件到更多使用場景。

當前，aisuite 支援的提供商包括：

  • OpenAI
  • Anthropic
  • Azure
  • Google
  • AWS
  • Groq
  • Mistral
  • HuggingFace
  • Ollama

為了確保穩定性，aisuite 使用 HTTP 端點或 SDK 來與提供商進行呼叫。

安裝

安裝過程有多種選擇。

下面是隻安裝基礎包，而不安裝任何提供商的 SDK。

pip install aisuite

帶 Anthropic 支援的安裝方式

pip install 'aisuite [anthropic]'

下面是將安裝所有特定於提供商的庫。

pip install 'aisuite [all]'

設定

開始使用時，你需要為打算使用的提供商獲取 API 金鑰。API 金鑰可以作為環境變數設定，具體的使用方式可以參考 aisuite 的 examples 資料夾。

如果大家還不是很明白，可以參考下面簡短的示例展示，即如何使用 aisuite 生成來自 GPT-4o 和 Claude-3-5-Sonnet 的聊天補全響應。

先設定 API 金鑰：

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"

使用 Python 客戶端：

import aisuite as ai
client = ai.Client ()

models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]

messages = [
    {"role": "system", "content": "Respond in Pirate English."},
    {"role": "user", "content": "Tell me a joke."},
]

for model in models:
    response = client.chat.completions.create (
        model=model,
        messages=messages,
        temperature=0.75
    )
    print (response.choices [0].message.content)

想要嘗試的讀者可以跟著原專案進行配置。如今，我們身處大模型時代，對於開發者而言，用一個統一的介面就能呼叫各種大模型，這給開發者們節省了大量的時間成本。

我們期待這種實用的開源專案越來越多，如果你有好的專案推薦，歡迎大家評論區留言。

相關文章