追逐AGI！微軟AI副總裁、Phi小模型領導者Bubeck將加入OpenAI
机器之心發表於2024-10-15
微軟的頂級 AI 人才也在流失，還流向了近來離職潮不斷的 OpenAI。今日，據外媒 The Information 的訊息，微軟人工智慧副總裁和傑出科學家 Sebastien Bubeck 將從微軟離職，加入 OpenAI。根據領英資料顯示，Sebastien Bubeck 在 2014 年 7 月加入微軟，歷任研究員、高階研究員、首席研究員、合作伙伴研究經理、GenAI 研究副總裁到如今的 AI 副總裁兼傑出科學家。據瞭解，微軟發言人在一份宣告中表示，「Sebastien Bubeck 已決定離開微軟， 繼續致力於 AGI 的開發。我們感謝 Bubeck 對微軟做出的貢獻，並期待透過他在 OpenAI 的工作保持合作關係。」在微軟，Sebastien Bubeck 領導開發了 Phi-3 在內的 Phi 系列小模型（SLM），其中 Phi-3 mini 是一個擁有 38 億引數的語言模型，經過 3.3 萬億 token 的訓練，其整體效能在學術基準和內部測試上成績優異。Phi-3 mini 可以在最佳化後部署在手機上，它的效能能夠與 Mixtral 8x7B 和 GPT-3.5 等模型相媲美。論文地址：https://arxiv.org/abs/2404.14219目前還不清楚 Sebastien Bubeck 會在 OpenAI 擔任什麼職務。2010 年，Sebastien Bubeck 在法國里爾大學取得了數學博士學位。畢業以後，Sebastien Bubeck 曾先後擔任西班牙龐培法布拉大學的博士後研究員、加州大學伯克利分校的訪問科學家，還在普林斯頓大學做了近 3 年的助理教授。最後在 2014 年 7 月加入微軟。在其前 15 年的職業生涯中，Sebastien Bubeck 主要從事凸最佳化、線上演算法和機器學習中的對抗穩健性研究，並憑藉這些領域的工作獲得了多項最佳論文獎，包括 STOC 2023、NeurIPS 2018 和 2021 最佳論文、與 MSR 實習生合作獲得 ALT 2018 和 2023 最佳學生論文、以及 COLT 2016 最佳論文和 COLT 2009 最佳學生論文。在 Google Scholar 中，Sebastien Bubeck 的論文引用數已經超過了 23000，其中有 4 篇論文的引用數超過了 1000。目前，Sebastien Bubeck 更專注於理解智慧如何在大語言模型中出現，以及如何藉此來提高 LLM 的智慧，並可能朝著構建 AGI 的方向發展。這種方法被稱為「AGI 的物理學」， 試圖從不同的尺度（引數、神經元、神經元組、層、資料課程等）來揭示系統各個部分如何組合在一起以創造出大語言模型驚人且意想不到的行為。2023 年，Sebastien Bubeck 的一作論文《Sparks of artificial general intelligence: Early experiments with gpt-4》（《AGI 的火花》）爆火刷屏。該論文對 GPT-4 進行了全面評測，認為「鑑於 GPT-4 能力的廣度和深度，我們相信它應該被合理視作一個通用人工智慧（AGI）系統的早期（但仍不完整）版本。」論文的主要目標是對 GPT-4 的能力和侷限性進行探索，並相信 GPT-4 的智慧標誌著電腦科學及其他領域的真正正規化轉變。」論文地址：https://arxiv.org/pdf/2303.12712如今，Sebastien Bubeck 選擇加入 OpenAI，我們可以期待他在 AGI 方向上產出更多的成果。參考連結：https://www.theinformation.com/briefings/microsoft-ai-researcher-sebastien-bubeck-to-join-openai