如何選擇AI晶片？

效能表現：晶片的規格，這是基本;

微處理器的指令集架構：對於軟體與軟體的整合程度與特別運算至關重要; 實際影響，例如，較低位解析度的處理對於AI很有用，它可以提高效率，而不會顯著降低準確性；另外，邊緣計算的特別需求，例如：支援網路連線與異構計算的負載平衡；

是否有基準 (Benchmark) 的 AI 效能資料：例如 MLPerf，如果沒有則需自己實驗比較;

AI 用例適配：如前述，根據應用需求而異，主要分為訓練、推理、與實時持續學習 (RealTime Learning) 的情形;

軟體堆疊的成熟度：它必須提供對多種開發語言的支援。傳統上，晶片嵌入式應用程式支援 C / C ++，但 AI 應用程式需要支援的主要是 Python，將來 Julia 的地位會提高; 需有系列開發工具，供程式設計師編寫程式碼，建模，模擬，測試，對目標晶片上應用程式作除錯; 另外，該晶片與生態系統與工具集整合的程度 -- 對 AI 流行框架/庫的支援，例如：TensorFlow，MXNet 等 -- 這意味著應用開發人員無需學習新知識; 能支援異構計算方法 -- 應用程式可以在多個微處理器執行，以利用不同優勢，有開發環境無縫支援這些不同型別的處理器;

功耗 (Power) 要求：除了邊緣 AI 的應用需要極低能耗，資料中心的訓練晶片能耗也是重要成本因子;

記憶體效率：資料儲存單元與計算單元之間的傳輸效率已成 AI 計算的瓶頸，許多新的架構提出，以求降低這個傳輸時間，例如：Processor-in-Memory (PIM);

晶片連線：片上連線決定資料流動速度，稱為片上網路（NoC）的新型Bus 受關注。片外通訊在系統級別發揮作用，是 AI 晶片組的關鍵規格標準。DDR5 或 HBM 是流行的儲存器介面。與 CPU 溝通經常使用 PCI Express。OpenCAPI 則是 CPU 和加速器晶片之間的溝通。

演算法變更週期速度：硬連線的演算法部分越多，做改變要花費的時間就越長。改版需要不僅來自糾錯，也可能來自市場與環境變化，所以演算法需更新。所以這是一個重要因子。

晶片安全：安全已成為晶片使用中考慮因素中越來越重要的一部分。晶片需要至少與安全鏈的其他部分一樣強大。這可能涉及將安全憑證嵌入硬體。