LlamaCoder:一款基於Llama 3.1 405B的全新開源AI程式設計助手

techlead_krischang發表於2024-10-21

file

關注TechLead,復旦AI博士,分享AI領域全維度知識與研究。擁有10+年AI領域研究經驗、復旦機器人智慧實驗室成員,國家級大學生賽事評審專家,發表多篇SCI核心期刊學術論文,上億營收AI產品研發負責人。

在過去的幾個月中,AI驅動的程式設計助手領域發生了一些令人難以置信的發展。諸如Claude Artifacts、Claude Dev 和 Cursor AI 等工具,幫助數千名開發者甚至非開發者在幾分鐘內構建網路應用,無需編寫一行程式碼。

如今,Together AI 推出了一款名為 LlamaCoder 的全新AI程式設計助手,它能夠透過文字描述生成完整的應用程式。

為什麼LlamaCoder值得關注?它完全免費且開源。

什麼是LlamaCoder?

LlamaCoder 是 Together AI 推出的一款開源網路應用,它基於Meta最新的開源4050億引數語言模型 Llama 3.1 405B,透過文字提示生成完整的應用程式。
連結:https://github.com/Nutlope/llamacoder
file

Together AI 是一家位於舊金山的公司,專注於生成式人工智慧(AI)。它為構建、訓練和執行AI模型提供服務,包括私人資料處理和專用GPU叢集。

Meta 的 Llama 3.1 是一組多語言大規模語言模型(LLM),提供8B、70B和405B三種規模的預訓練和指令微調生成模型(文字輸入/文字輸出)。Llama 3.1 經過指令微調,特別適用於多語言對話場景,並且在許多行業基準測試中超越了許多現有的開源或閉源的聊天模型。

下圖展示了Llama 3.1與GPT-4、GPT-4o和Claude 3.5 Sonnet等競爭對手的對比:
file

自發布以來,LlamaCoder僅在一個多月內就獲得了超過3000個GitHub星標,數百名開發者克隆了其程式碼庫,生成了超過20萬個應用程式。

“我們的願景是將研究中的創新以最快的速度投入生產。基於我們領先的推理最佳化研究,Together 推理引擎利用了FlashAttention-3核心、基於RedPajama的自定義預測器以及市場上最準確的量化技術。”——El Mghari,Together AI負責開發者關係的軟體工程師

LlamaCoder 如何工作?

你可以在這裡免費試用LlamaCoder,連結:https://llamacoder.together.ai/

無需註冊賬號,你只需在提示框中描述你想要的應用並按下Enter鍵即可。
file

你還可以更改模型,啟用或禁用 Shadcn UI。

•	模型選項:可以選擇Llama 3.1 405B、Llama 3.1 70B或Gemma 2 27B。
•	Shadcn UI 是一個輕量級開源UI框架,幫助開發者建立自定義介面。建議啟用該功能。

我們來試一個簡單的例子。

提示:為我構建一個簡單的計算器應用

file

處理速度令人驚訝,這個例子只用了大約10秒鐘就完成了。生成的程式碼會實時顯示在儀表板左側。

file

你可以點選右下角的 “Open in sandbox” 按鈕,在CodeSandbox中開啟應用程式。

file

這樣你就可以根據需要進一步修改應用程式。

當然,你也可以讓AI對應用進行調整。比如,我們可以透過下面的提示將計算器升級為支援科學計算的版本:

提示:將計算器升級為支援複雜的科學計算

file

非常棒!你還可以將應用釋出為公開訪問。點選 “釋出應用” 按鈕,LlamaCoder會生成一個類似於 https://llamacoder.together.ai/share/SsXU8 的連結。

file

不過,目前似乎沒有一個頁面可以瀏覽所有透過LlamaCoder生成的公開共享的應用程式。

如果你想知道LlamaCoder與Claude的Artifacts的表現差異,我們可以用類似的提示測試一下。

提示:為我構建一個支援科學計算的計算器應用

file

結果看起來非常相似,但我個人更喜歡用Claude AI構建的應用外觀和手感。

LlamaCoder是開源的

如果你希望在本地執行LlamaCoder,可以先在HuggingFace下載模型權重:https://huggingface.co/meta-llama/Llama-3.1-405B/tree/main

LlamaCoder的技術棧如下:

•	Meta的 Llama 3.1 405B 語言模型
•	Together AI 提供的大規模語言模型推理
•	Sandpack 用於程式碼沙盒
•	Next.js 應用路由和Tailwind CSS
•	Helicone 用於可觀測性
•	Plausible 用於網站分析

要設定並執行LlamaCoder,只需從GitHub克隆專案,安裝依賴項,並按照以下步驟執行:

1.	克隆倉庫:git clone https://github.com/Nutlope/llamacoder](https://github.com/Nutlope/llamacoder
2.	建立 .env 檔案並新增你的 Together AI API金鑰:TOGETHER_API_KEY=
3.	執行 npm install 和 npm run dev 來安裝依賴項並在本地執行

你可以看到LlamaCoder在生成應用程式時的強大功能和高效表現。作為一款完全開源的AI程式設計助手,它為開發者提供了一個極具潛力的平臺,能夠極大地提高程式設計效率並擴充應用開發的可能性。

本文由部落格一文多發平臺 OpenWrite 釋出!

相關文章