Hugging News #0414: Attention 在多模態情景中的應用、Unity API 以及 Gradio 主題構建器

HuggingFace發表於2023-04-16

每一週,我們的同事都會向社群的成員們釋出一些關於 Hugging Face 相關的更新,包括我們的產品和平臺更新、社群活動、學習資源和內容更新、開源庫和模型更新等,我們將其稱之為「Hugging News」,本期 Hugging News 有哪些有趣的訊息,快來看看吧!

社群動向

Attention 在視覺領域的應用

注意力機制改變了許多學科的深度學習研究,從 NLP 開始擴充套件到視覺、語音等。注意力機制的使用在深度學習研究中變得越來越流行,理解和解釋注意力機制的內部工作是至關重要的。

我們釋出了一個教程,介紹了 Attention 在視覺和多模態情景中的應用,重點講解了如何理解和解釋注意力,包括使用注意力作為解釋、探究注意力的深度和廣度、探究跨注意力等方面以及一些最新研究成果和未來研究方向。

檢視示例和教程內容: https://hf.co/all-things-vits

Scikit-learn

我們正在聯合 Scikit-learn 共同舉辦社群衝刺活動,時間是 4 月 12 日 - 4 月 30 日。在這個社群衝刺活動中,我們將從 Scikit-learn 文件中構建互動式演示,並將這些演示直接貢獻給文件。我們會使用 Gradio 庫來建立前端應用,支援資料視覺化庫和 skops 整合,使用一行程式碼就能啟動分類或迴歸介面。應用構建完成後,我們將建立一個 Hugging Face Space,上傳應用檔案和 requirements.txt 就可以將應用部署。最後將應用 PR 回 scikit-learn 庫的原始文件。這是一個很好的貢獻開源的方式,快來參加吧!

檢視活動安排: https://github.com/huggingface/community-events/blob/main/sklearn-sprint/guidelines.md

開源庫更新

Gradio 主題構建器正式開源

Gradio 主題構建器 (Gradio Theme Builder) 是一個開源的機器學習應用的 GUI 工具,可以幫助使用者輕鬆構建機器學習應用的 UI 介面。只需升級版本,執行 gr.themes.builder() 即可。

Transformers 支援流式輸出

從 4.28 版本開始,? transformers 庫加入了 generate() 流式生成器,支援文字-文字、語音-文字或影像-文字模型的輸出流式傳輸。開發者可以透過新增 TextStreamer 類輕鬆實現文字輸出流,也可以根據需要建立自己的流式傳輸類。此外,? transformers 還計劃將此功能擴充套件到 beam search 方法、pipeline 類和 Gradio 等。

檢視文件: https://hf.co/docs/transformers/main/en/generation_strategies#streaming

學習資源 & 內容更新

新的學習資源頁面

我們將 NLP 課程和 RL 課程放在了一個新的學習資源頁面: hf.co/learn

Hugging Face Unity API

開源的 Hugging Face Unity API 釋出啦,它可以讓你更輕鬆地在 Unity 專案中使用 Hugging Face 推理 API。目前支援對話 API,未來會增加更多功能。

檢視應用示例: https://hf.co/spaces/dylanebert/unity-chat
檢視開原始碼: https://github.com/huggingface/unity-api

使用 Flower 在 IMDB 資料集上微調 distilBERT 進行序列分類

我們釋出了一篇部落格,介紹瞭如何使用 Hugging Face 和 Flower 在多端進行語言模型的聯邦訓練。以 IMDB 資料集為例,使用預訓練的 Transformer 模型(distilBERT)進行序列分類,最終目標是檢測電影評分是積極還是消極。

檢視這篇部落格文章: https://hf.co/blog/fl-with-flower

使用 Hugging Face 的 Docker Spaces 輕鬆構建機器學習應用程式

Docker 團隊釋出了一篇博文,介紹了 Hugging Face 團隊對 Docker Spaces 的支援——使用者可以透過編寫 Dockerfile 來建立任何自定義應用程式,並詳細介紹瞭如何建立 Docker Space 並編寫 FastAPI 應用程式進行文字生成。

檢視這篇文章: https://www.docker.com/blog/build-machine-learning-apps-with-hugging-faces-docker-spaces/


以上就是本週的 Hugging News,祝大家週末愉快!

相關文章