文心一言外掛設計與開發

秃头的小白發表於2024-03-13

大規模語言模型相繼釋出,生成式人工智慧技術及產品的快速迭代重塑著千行百業,帶動了人工智慧產業的快速發展。外掛機制作為一種新的大模型應用形態,旨在擴充大模型能力邊界,更適應場景需要。

在大模型生態的建設過程中,高校學子是創新的重要力量。繁榮的外掛生態,是大模型應用生態的重要組成部分,開發者基於大模型打造的具有場景價值的外掛,能夠更具體地在某個領域產生價值。我們希望透過本命題,吸引並孵化更多高校學子開發具有落地價值的外掛,推動國產大模型生態的繁榮。

【公司背景】

百度是擁有強大網際網路基礎的領先AI公司,是全球為數不多的提供AI晶片、軟體架構和應用程式等全棧AI技術的公司之一,被國際機構評為全球四大AI公司之一。百度以“用科技讓複雜的世界更簡單”為使命,堅持技術創新,致力於“成為最懂使用者,並能幫助人們成長的全球頂級高科技公司”。百度以技術創新為信仰,在創新投入、研釋出局、人才引進方面均走在國際前列。2020年,百度核心研發費用佔收入比例達21.4%,研發投入強度位於中國大型科技網際網路公司前列。百度全球AI專利申請量已超過1萬件,其中中國專利9000多件,位列中國第一,並在深度學習技術、智慧語音、自然語言處理、自動駕駛、知識圖譜、智慧推薦等多個領域排名國內第一。

【業務背景】

如果說文心一言是一個智慧中樞大腦,外掛就是文心一言的耳、目、手。外掛將“文心一言”AI能力與外部應用相結合,既能豐富大模型的能力和應用場景,也能利用大模型的生成能力完成此前無法實現的任務。舉幾個例子:

(1)資訊增強

這類外掛可以幫助使用者獲取更具時效性和專業性的資訊,例如文心一言接入的百度搜尋外掛,使文心一言能夠搜尋全網的實時資訊;此外還有幫助使用者檢索專業領域資訊的外掛,找房、找車、找法條、找股票等。即你的外掛可以呼叫外部API的資訊。

(2)互動增強

幫助文心一言理解PDF、圖片、語音等多模態的輸入,幫助文心一言生成思維導圖、影片等多模態的輸出。例如,支援使用者上傳文件,並基於文件進行問答的外掛等。即你的外掛可以有較為全面的模態互動。

(3)服務增強

這類外掛可以幫助使用者自動化執行一些常見的任務,例如訂機票、發郵件、管理日程、建立調查問卷等;也可以是利用模型能力,大大提升現有服務的體驗,例如可以讓模型基於使用者的簡歷及崗位要求資訊,生成面試問題,結合TTS/ASR,為使用者打造一場真實而獨特的模擬面試。即你的外掛可以和外部的應用/API服務打通。

相關文章