手把手教你本地執行Meta最新大模型:Llama3.1,可是它說自己是ChatGPT?

程序猿DD發表於2024-07-26

就在昨晚,Meta釋出了可以與OpenAI掰手腕的最新開源大模型:Llama 3.1。

該模型共有三個版本:

  • 8B
  • 70B
  • 405B

對於這次釋出,Meta已經在超過150個涵蓋廣泛語言範圍的基準資料集上評估了效能。此外,Meta還進行了廣泛的人工評估,在現實場景中將Llama 3.1與競爭模型進行比較。Meta的實驗評估表明:

405B版本的評估資料與目前最強的GPT-4、GPT-4o和Claude 3.5 Sonnet相比具有不錯的競爭力:

file

此外,8B和70B版本與具有相似引數規模的模型相比也有相同甚至更好的表現:

file

使用 ollama 執行 Llama3.1

下面就來嚐個鮮,手把手在本地把Llama3.1的8B版本跑起來。只要跟著下面的步驟做,你不需要有任何技術背景,也能完成。

  1. 安裝 ollama

前往官網下載最新的 Ollama:https://ollama.com/

file

  1. 下載完成之後,開啟安裝程式,並完成安裝步驟。

  2. 開啟終端,執行命令:ollama run llama3.1

等待模型下載完成

  1. 完成模型下載,如下圖所示:

file

已經彈出提示:Send a message,可以與AI進行互動了。

  1. 測試一下,嘗試讓他教我學習Java?

file

彩蛋

最後,常規操作,問一下你是誰:

file

啥情況?是ChatGPT?看到這裡的小夥伴也試試看,也是一樣的結果嗎?有朋友知道為什麼嗎?知道的評論區求解。

歡迎關注我的公眾號:程式猿DD。第一時間瞭解前沿行業訊息、分享深度技術乾貨、獲取優質學習資源

相關文章