GPT-4o Mini深夜突發：即刻免費上線，API降價60%
机器之心發表於2024-07-19
剛剛，OpenAI 突然宣佈了「Mini」版本的 GPT-4o 模型。該公司表示，新的輕量級版本旨在讓更多公司和專案能夠獲得最先進的技術。
這款名為 GPT-4o mini 的新模型立即上線，它在 MMLU 上的得分為 82%，目前在 LMSYS 排行榜的聊天方面分數優於 GPT-4。除了立即在 ChatGPT 免費版、付費版上可用以外，GPT-4o mini 的商用價格是每百萬輸入 token 15 美分，每百萬輸出 token 60 美分 —— 比之前的 SOTA 模型便宜一個數量級，比 OpenAI 此前最便宜的 GPT-3.5 Turbo 還要便宜 60% 以上。
OpenAI CEO 山姆・奧特曼對此的形容是：通往智慧的成本已經「too cheap to meter」。
GPT-4o mini 憑藉其低成本和低延遲的效能實現了廣泛的任務，例如連結或並行化多個模型呼叫（如呼叫多個 API）的應用程式、將大量上下文傳遞給模型（如完整的程式碼庫或對話歷史記錄）或透過快速、實時的文字響應與人互動（例如客戶支援聊天機器人）。OpenAI 表示，目前 GPT-4o mini 在 API 中支援文字和視覺，很快也將支援文字、影像、影片和音訊輸入和輸出。該模型具有 128K token 的上下文視窗，知識截至 2023 年 10 月。得益於與 GPT-4o 共享的改進版 tokenizer，處理非英語文字能力也更加經濟高效。OpenAI 將新模型的推出描述為努力讓 AI「儘可能廣泛普及」計劃的一部分，但這也反映了 AI 技術供應商之間日益激烈的競爭，以及人們對小型和免費開源大模型的興趣。另有訊息稱，Meta 預計將於下週推出 Llama 3 的最大體量版本。在人們看來，GPT-4o mini 可以替代 GPT-3.5 Turbo，對標的是 Claude 3 Haiku 和 Gemini 1.5 Flash—— 作為後來者，GPT-4o mini 毫無疑問的比這兩者更便宜，效能也更好。「OpenAI 的全部意義在於安全地構建和分發 AI，並使其廣泛普及，」OpenAI 負責新模型的產品經理 Olivier Godement 表示。「以更低的成本提供智慧是我們實現目標的有效方法之一。」Godement 表示，該公司透過改進模型架構、最佳化訓練資料和訓練方案，開發出了 GPT-4o 的這個最新版本。它在幾個常見的基準測試中也優於市場上其他的「小體量」模型。GPT-4o mini 在文字智慧和多模態推理方面，在學術基準上超越了 GPT-3.5 Turbo 和其他小型模型，並支援與 GPT-4o 相同範圍的語言。GPT-4o mini 還在函式呼叫方面表現出強大的效能，使開發人員能夠構建應用程式，以獲取資料或執行操作。值得注意的是，與 GPT-3.5 Turbo 相比，GPT-4o mini 提高了長上下文效能。GPT-4o mini 已在多個關鍵基準測試中進行了評估，包括：- 推理任務：GPT-4o mini 在涉及文字和視覺的推理任務上優於其他小型模型，在文字智慧和推理基準 MMLU 上得分為 82.0%，而 Gemini Flash 為 77.9%，Claude Haiku 為 73.8%。
- 數學和編碼能力：GPT-4o mini 在數學推理和編碼任務方面表現出色，優於以前的小型模型。在 MGSM 上，對於數學推理任務，GPT-4o mini 得分為 87.0%，而 Gemini Flash 為 75.5%，Claude Haiku 為 71.7%。編碼效能方面，GPT-4o mini 在 HumanEvalji'zhun 上得分為 87.2%，而 Gemini Flash 的得分為 71.5%，Claude Haiku 的得分為 75.9%。
- 多模態推理：GPT-4o mini 在多模態推理評估 基準 MMMU 上表現出強勁的效能，得分為 59.4%，而 Gemini Flash 為 56.1%，Claude Haiku 為 50.2%。
作為模型開發過程的一部分，OpenAI 也與一些合作伙伴合作測試了 GPT-4o mini，發現 GPT-4o mini 在一些任務上明顯優於 GPT-3.5 Turbo，例如從收據檔案中提取結構化資料，或者生成高質量電子郵件回覆。從一開始，OpenAI 就在模型中內建了安全措施，並在開發過程中的每一步都加以強化。在前期訓練中，團隊會過濾掉他們不希望模型學習或輸出的資訊，如仇恨言論、成人內容、主要彙集個人資訊的網站和垃圾郵件。在後期訓練中，會使用 RLHF 等技術使模型的行為與自身策略保持一致，以提高模型響應的準確性和可靠性。GPT-4o mini 內建了與 GPT-4o 相同的安全緩解措施，OpenAI 根據 Preparedness Framework 和自願承諾，透過自動和人工評估對其進行了仔細評估。70 多名社會心理學和錯誤資訊等領域的外部專家對 GPT-4o 進行了測試，以確定潛在風險，這些問題的解決方法會在即將釋出的 GPT-4o system card 和 Preparedness 記分卡中分享。這些專家評估得出的見解有助於提高 GPT-4o 和 GPT-4o mini 的安全性。在這些經驗的基礎上，團隊還利用研究中獲得的新技術努力提高 GPT-4o mini 的安全性。API 中的 GPT-4o mini 是第一個應用指令分層 (instruction hierarchy) 方法的模型，該方法有助於提高模型抵禦越獄、提示注入和系統提示提取的能力。這使得模型的響應更加可靠，有助於在大規模應用中更安全地使用。OpenAI 表示，GPT-4o mini 現在可在 Assistant API、Chat Completions API 和 Batch API 中作為文字和視覺模型使用。每 100 萬輸入 token 價格為 15 美分，每 100 萬輸出 token（大約相當於一本標準書的 2500 頁）價格為 60 美分。
OpenAI 也計劃在未來幾天推出 GPT-4o mini 微調版本。在 ChatGPT 中，Free、Plus 和 Team 使用者今天起就能夠取代 GPT-3.5 Turbo 訪問 GPT-4o mini。從下週開始，企業使用者也將可以訪問。OpenAI 表示，在過去的幾年裡，人工智慧有了顯著進步，成本也大幅降低。例如，自 2022 年 OpenAI 推出功能較弱的模型 text-davinci-003 ，至如今的 GPT-4o mini ，每個 token 成本已下降了 99%。OpenAI 致力於降低成本同時增強模型能力。OpenAI 設想未來模型可以無縫整合到每個應用程式、每個網站中。GPT-4o mini 為開發人員更高效、更經濟地構建和擴充套件強大的 AI 應用程式鋪平了道路。https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/https://www.wired.com/story/openai-gpt-4o-mini/https://www.theverge.com/2024/7/18/24200714/openai-new-cheaper-smarter-model-gpt-4o-mini