nebuly-ai/nebullvm:提高AI執行速度20倍的開源庫

banq發表於2022-03-23

Nebullvm是一個建立人工智慧模型優化版本的庫,其執行速度可達20倍。它確定了在特定硬體上執行模型的最佳方式,而不影響模型的準確性。
nebullvm目標是讓任何開發人員從深度學習 (DL) 編譯器中受益,而無需花費大量時間來理解、安裝、測試和除錯這項強大的技術。

支援的框架:
  • PyTorch
  • TensorFlow
  • Hugging Face



支援的深度學習編譯器:
  • OpenVINO
  • TensorRT
  • TVM
  • MLIR (Coming soon)


Nebullvm基於開源社群和主要硬體供應商在深度學習編譯器方面所做的傑出工作。目前nebullvm支援作為 AI 編譯器:


 點選標題

相關文章