ChatGPT 開放 API ,輸出 100 萬詞只需 2.7 美金

SegmentFault思否發表於2023-03-02

3 月 2 日,OpenAI 在官方部落格宣佈,開放 ChatGPT 和 Whisper 的模型 API ,使用者可將其整合在應用程式等產品中。ChatGPT API 價格為 1k tokens/$0.002,等於每輸出 100 萬個單詞,價格才 2.7 美金(約 18 元人民幣),比已有的 GPT-3.5 模型便宜 10 倍。今天 Open AI 的宣佈可能會帶來大量應用,一股 AIGC 創業風潮不斷吹來。


ChatGPT 的模型 API 地址:https://platform.openai.com/docs/guides/chat

ChatGPT 和 Whisper 模型現已在我們的 API 上可用,使開發人員能夠使用尖端語言(不僅僅是聊天!)和語音轉文字功能。透過一系列系統範圍的最佳化,自去年 12 月以來,我們已將 ChatGPT 的成本降低了 90%;我們現在將這些節省的資金轉嫁給 API 使用者。開發人員現在可以在 API 中使用我們的開源 Whisper large-v2 模型,獲得更快且更具成本效益的結果。ChatGPT API 使用者可以期待持續的模型改進和選擇專用容量以更深入地控制模型的選項。我們還仔細聽取了開發人員的反饋並改進了我們的 API 服務條款以更好地滿足他們的需求。

ChatGPT 官方 API 基於 GPT-3.5-turbo 模型,是 GPT-3.5 系列中最快速、最便宜、最靈活的模型。開發者可以透過 OpenAI Playground 和 OpenAI Codex 來使用和測試 ChatGPT OpenAI。

此前一些公司已經率先接入 ChatGPT API,包括生鮮電商平臺 Instacart、跨境電商平臺 Shopify、照片分享應用 Snap、線上學習平臺 Quizlet 等,用於提高客戶服務、營銷、教育等效率及體驗。


ChatGPT API

Model : OpenAI 今天釋出的 ChatGPT 模型系列 gpt-3.5-turbo 與 ChatGPT 產品中使用的模型相同。它的售價為每 1000 個代幣 0.002 美元,比 OpenAI 現有的 GPT-3.5 型號便宜 10 倍。對於許多非聊天用例來說,它也是 OpenAI 最好的模型ーー OpenAI 已經看到早期的測試人員從 text-davinci-003 遷移到 gpt-3.5-turbo,只需要對提示進行少量調整。

API : 傳統上,GPT模型消耗非結構化的文字,這些文字在模型中被表示為一連串的 "標記"。而ChatGPT模型則消耗一連串的訊息和後設資料。(對於好奇的人來說:在引擎蓋下,輸入仍然被呈現為模型所要消費的 "標記 "序列。模型使用的原始格式是一種稱為聊天標記語言(Chat Markup Language,“ ChatML”)的新格式。)

ChatGPT 升級

OpenAI 正在不斷改進 ChatGPT 模型,並希望開發人員也可以使用這些增強。使用 gpt-3.5-turbo 模型的開發人員將始終獲得 OpenAI 推薦的穩定模型,同時仍然可以靈活地選擇特定的模型版本。例如,今天 OpenAI 釋出了 gpt-3.5-turbo-0301,它將至少支援到 6 月 1 日,OpenAI 將在 4 月份更新 gpt-3.5-turbo 到一個新的穩定版本。模型頁面將提供切換更新。

專用例項

OpenAI 現在還為那些希望對特定模型版本和系統效能進行更深入控制的使用者提供專用例項。預設情況下,請求在與其他使用者共享的計算基礎設施上執行,這些使用者按請求付費。OpenAI 的 API 執行在 Azure 上,對於專用例項,開發者將按時間段支付為服務他們的請求而保留的計算基礎設施的分配費用。

開發者可以完全控制例項的負載(更高的負載可以提高吞吐量,但會降低每個請求的速度)、啟用諸如更長上下文限制等特性的選項,以及固定模型快照的能力。

對於每天執行超過 450M 令牌的開發人員來說,專用例項具有經濟意義。此外,它可以根據硬體效能直接最佳化開發人員的工作負載,這可以顯著降低相對於共享基礎設施的成本。

Whisper API

Whisper,OpenAI 在 2022 年 9 月開源的語音到文字模型,得到了開發者社群的巨大讚譽,但也很難執行。Open AI現在已經透過 API 提供了大型 v2 模型,它提供了方便的按需訪問,價格為每分鐘 0.006 美元。此外,OpenAI高度最佳化的服務堆疊確保了比其他服務更快的效能。

Whisper API 可以透過 OpenAI 的轉錄(轉錄為源語言)或翻譯(轉錄為英語)端點獲得,並接受各種格式(m4a,mp3,mp4,mpeg,mpga,wav,webm) 

圖片

以開發者為中心

在收到大量開發者的反饋後,OpenAI 針對開發者方面也做了一些具體的調整。這些變化包括:

  • 除非組織同意,否則不得將透過 API 提交的資料用於服務改進,包括模型訓練。
  • 建立預設的 30 天資料保留策略,並根據使用者的需要選擇更嚴格的保留。
  • 改進其開發人員文件。
  • 簡化其服務條款和使用政策。
在過去的兩個月中,我們的正常執行時間沒有達到我們自己的期望,也沒有達到我們的使用者的期望。我們的工程團隊現在的首要任務是穩定生產用例ーー我們知道,要確保人工智慧造福全人類,就需要成為一個可靠的服務提供商。請讓我們為未來幾個月的正常執行時間的改善負責!我們相信,人工智慧可以為每個人提供難以置信的機會和經濟賦權,實現這一目標的最佳途徑是允許每個人利用人工智慧進行建設。我們希望,我們今天宣佈的變化將導致大量的應用程式,每個人都可以從中受益。開始構建由 ChatGPT & Whisper 驅動的下一代應用程式。

躍躍欲試了?
來 SegmentFault AIGC Hackathon 大展身手吧!
國內首場 AIGC 駭客馬拉松火熱報名中

SegmentFault 思否將在 4 月 15 - 16 日(週六、週日)兩天,在北京舉辦為期 2 天的線下駭客馬拉松大賽

我們鼓勵開發者大開腦洞,結合日常生活中的痛點需求、興趣愛好和專業方向,進行 Generative AI 應用的構建,例如:藝術品、音樂、漫畫頭像、求職簡歷生成器,智慧客服機器人,AI Code Review 工具,基於 AI 的資料視覺化平臺,醫療影像分析應用等等 —— 以上這些場景聯想由 ChatGPT 生成。當然,你也可以選擇任何你感興趣的方向。

比賽將持續 32 小時,參賽者在此時間內以小組為單位完成創意腦暴、產品設計、程式碼實現和 Demo 展示,大賽評審團將根據應用程式的創新性、技術難度、應用場景、使用者體驗和商業價值等因素進行評分。

獲獎團隊不僅會獲得大賽的高額獎金,還有機會獲得更廣泛的關注和投資。此外,大賽還將邀請人工智慧領域的技術大牛和社群領袖,為參賽者們提供專業的建議和支援,以促進這一領域的技術和應用的進一步發展。

檢視詳情SegmentFault AIGC Hackathon 2023 駭客馬拉松

相關文章