Amazon Bedrock 可用於訪問 Anthropic 的最新款模型 Claude 2.1簡介

雲端計算頻道發表於2024-01-03

今天,我們宣佈 Claude 2.1基礎模型(FM)已經在  正式上線。上週,Anthropic 推出最新款模型 Claude 2.1,為企業提供非常關鍵的使用功能和服務,其中包括業界領先的 200,000個令牌上下文視窗(是   上下文視窗的 2 倍)、大幅度降低幻覺率、提高長文件的準確性、系統提示功能以及用於函式呼叫和工作流協調測試工具的使用功能。 隨著 Claude 2.1 在 Amazon Bedrock 中的正式推出,您可以使用 Anthropic 提供的人工智慧系統構建企業的生成式人工智慧 ( ) 應用。現在,您可以在    中使用訪問 Anthropic 的 Claude 2.1 模型。

螢幕截圖 2023-12-26 220844.png

以下是 Amazon Bedrock 推出的 Claude 2.1 模型的一些主要亮點:

200,000 個標記上下文視窗——企業應用程式在處理產品指南、技術文件、財務或法律宣告等長篇文件時,需要藉助更大的上下文視窗和更準確的輸出能力。Claude 2.1 可以支援 200,000 個標記,相當於大約 150,000 個單詞或超過 500 頁的文件數量。在向 Claude 上傳大量的資訊時,您可以同時進行彙總、問答、趨勢預測等操作,並對多個文件進行橫向比較和縱向對比,以便快速完成商業計劃書的起草,或者分析複雜的合同。

準確性大幅提升——與 Claude 2.0 相比, Claude 2.1 在誠實效能方面也取得顯著進步,幻覺率降低 2 倍,開放式對話和檔案問答中的幻覺減少 50%,與 Claude 2.0 相比,錯誤答案減少30%,錯誤斷定文件支援特定主張的比率降低 3-4 倍。Claude 可以快速準確地分辨資訊的真實性和準確定,從而幫助使用者解決潛在的問題。隨著準確性的提高,可以為企業和員工構建更加可靠的關鍵性應用程式。

系統提示功能——Claude 2.1 版可以提供系統提示功能服務,這項新功能可以透過多種方式提高 Claude 的表現,包括在角色扮演場景中提高角色深度和角色一致性,特別是在較長的對話中,以及更嚴格地遵守指南、規則和指令。這在本質上代表了結構上的變化,但與以前 Claude 的提示方式相比,並沒有太多內容變化。

用於函式呼叫和工作流協調的工具——作為測試版功能, Claude 2.1可以與現有內部流程、產品和應用程式介面整合通用,從而構建生成式人工智慧應用。Claude 2.1 可從其他知識源準確地檢索和處理資料,併為給定任務呼叫函式。Claude 2.1 可以透過使用專用的 API 和網路搜尋 API 檢索資料庫資源來回答問題,將自然語言請求翻譯成結構化 API 呼叫,或連線到產品資料集,以便提出建議並幫助客戶完成購買。該功能目前僅限於特定的早期訪問合作伙伴使用,計劃在不久的將來開放更多訪問許可權。如果您有興趣獲得早期訪問權,請聯絡您的亞馬遜雲科技客戶團隊。

如果您想要了解更多有關 Claude 2.1 功能和效能的資訊,請訪問   和  Amazon Bedrock documentation

實際執行中的Claude 2.1

當在 Amazon Bedrock 中使用 Claude 2.1時,請訪問  。在左下方窗格中選擇 “Model access”,然後在右上方選擇 “Manage model access”,提交使用者資訊並申請 Claude 模型的訪問許可權。在獲取模型訪問許可權時可能需要耐心等待幾分鐘時間。如果您已經擁有對 Claude 模型的訪問許可權,則無需單獨申請 Claude 2.1 的訪問許可權。

螢幕截圖 2023-12-26 221059.png

要在聊天模式下測試 Claude 2.1,請在左側選單窗格的  Playgrounds 下選擇  Text 或  Chat。然後選擇  Anthropic ,再選擇  Claude v2.1 。

螢幕截圖 2023-12-26 221154.png

透過選擇  View API request ,您還可以透過  Amazon Command Line Interface (Amazon CLI) 和 Amazon SDK 中的程式碼示例訪問模型。下面是 Amazon CLI 命令的參考示例:

image.png

將源資料和文件放在所有引用或使用內容的問題前面時,就可以使用 Claude 2.1 的模型方法來開啟系統提示。輸入的內容可以是自然語言文字、結構化文件或使用 document , papers , books , 或 code 標記的程式碼片段等。您還可以使用會話文字(例如聊天記錄)和檢索增強生成結果( RAG ,例如文件分塊)。

下面是一個系統提示示例,可供操作人員根據公司檔案回答客戶問題。

image.png

要了解有關 Amazon Bedrock 提示工程的更多資訊,請參閱 Amazon Bedrock 文件中的   。您可以瞭解適用於 Amazon Bedrock 文字模型(包括 Claude)的一般提示技術、適用模板和參考示例。

正式上線使用

Claude 2.1 今天在美國東部(弗吉尼亞州北部)和美國西部(俄勒岡州)地區正式上線。 您只需按使用數量付費,就使用時間而言無任何限制。對於文字生成模式,您需要為處理每個輸入標記和生成每個輸出標記付費。您也可以選擇  模式來滿足您應用程式的效能要求,此時使用時間有固定的套餐選擇。如果您想要了解更多資訊,請參閱 

快去   中試用 Anthropic Claude 2.1 吧,並將反饋傳送到   或透過您常用的亞馬遜雲科技支援聯絡人傳送即可。

— 

Amazon Bedrock 可用於訪問 Anthropic 的最新款模型 Claude 2.1簡介
作者 Channy Yun
Channy Yun 是亞馬遜雲科技的首席開發者倡導者,熱衷於幫助開發人員在最新的亞馬遜雲科技服務上構建現代應用程式。他是一名務實的開發人員和部落格作者,熱愛社群驅動的技術學習和分享,並因此將開發人員吸引到全球亞馬遜雲科技使用者組中。他的主要話題有開源、容器、儲存、網路與安全以及物聯網。請關注他的 Twitter 賬號:@channyun。


原文作者:亞馬遜雲開發者;連結:https://blog.itpub.net/31545808/viewspace-3002465/,如需轉載,請註明出處,否則將追究法律責任。

相關文章