如何開始定製你自己的大型語言模型

deephub發表於2024-03-28

2023年的大型語言模型領域經歷了許多快速的發展和創新,發展出了更大的模型規模並且獲得了更好的效能,那麼我們普通使用者是否可以定製我們需要的大型語言模型呢?

首先你需要有硬體的資源,對於硬體來說有2個路徑可以選。高效能和低效能,這裡的區別就是是功率,因為精度和訊息長度直接與引數計數和GPU功率成比例。

定製語言模型的目標應該是在功能和成本之間取得平衡。只有知道自己的需求和環境,才能夠選擇響應的方案。因為無論你計劃如何訓練、定製或使用語言模型,都是要花錢的。你能做的唯一免費的事情就是使用一個開源的語言模型。

https://avoid.overfit.cn/post/ebd03e3eb42942a8b13e246a82a3d079

相關文章