構建生成式 AI 應用，現在只需要幾分鐘。
「生成式 AI 的半衰期只有六個月，」亞馬遜雲科技全球 AI 產品副總裁 Matt Wood 說道。
2024 開啟下半年，人們發現，生成式技術和落地之間的距離，已經不能用「遠」或「近」完全概括。
狂熱的百模大戰之後，即使生成式 AI 技術展現出了前所未有的能力，為何一部分企業還沒有投身到新技術的變革之中？技術門檻和高昂的研發投入、應用成本是它們保持謹慎態度的主要影響因素。
今天凌晨，亞馬遜雲科技給全世界帶來了解決方案。一系列生成式 AI 技術的重磅釋出，將全球最先進的大模型技術與千萬企業使用者的需求巧妙連線了起來。
從 2023 年到現在，不到兩年的時間裡，亞馬遜雲科技已經發布了多達 326 個生成式 AI 功能。橫向對比一下，過去十八個月，亞馬遜雲科技正式釋出的機器學習和生成式 AI 功能的數量是其他主要供應商總和的兩倍多，用一騎絕塵來形容也不為過。
在這其中，既有頂尖創業公司的基礎模型，也有能給非技術人員帶來大模型開發能力的實用工具。每款都是生成式 AI 落地應用中的神器。而且，這些模型和能力的數字還在不斷增加。
現在，很多複雜的企業級工作，僅用一段 Prompt，AI 就能自己完成了。
沒錯，這家長期以來為無數企業提供數字基礎設施的公司，讓生成式 AI 技術的應用門檻一降再降。企業使用者需要花在「學習使用大模型」上的時間，也越來越少了。
在這場亞馬遜雲科技紐約峰會上，從基礎設施層的 GPU 算力、基礎模型的工具層再到應用層，亞馬遜雲科技的三層生成式 AI 技術棧迎來了一次煥新升級。
大模型微調實現深層定製
Amazon Bedrock 全面升級
一直以來，為了實現基礎模型與企業使用者需求的「雙向奔赴」，亞馬遜雲科技透過基礎模型平臺 Amazon Bedrock 不斷地「做加法」，在模型能力、安全隱私、負責任的 AI 等方面向企業使用者靠攏。
迄今，Amazon Bedrock 支援的基礎模型數量已有 33 個，分別出自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 、Mistral AI 等全球頂級大模型廠商以及亞馬遜自己。鑑於 Amazon Bedrock 允許企業使用者透過微調來定製模型，強大的基礎模型有了自定義的加持，更能實現與企業使用者需求的緊密結合。
在今天這場年度峰會上，亞馬遜雲科技宣佈了最新成果：「Claude 3 Haiku 微調」釋出了預覽版。作為 Claude 3 系列模型中的「小杯」，Claude 3 Haiku 的速度最快、最緊湊，而 Amazon Bedrock 是第一個能讓使用者對 Claude 3 Haiku 模型進行微調的完全託管服務。
縱觀當前的大模型賽道，Claude 系列是對 OpenAI 旗下大模型追得最緊的競爭對手。基於亞馬遜雲科技與 Anthropic 的深度合作關係，企業使用者們可以期待在 Amazon Bedrock 上與更強大的 Claude 模型很快見面。
微調讓大模型更加靈活，而檢索增強生成（RAG）則能進一步使模型專業化和個性化。利用 RAG，企業使用者能夠使用未見過的資料對模型進行專業化和個性化設定，這些資料可以是機密資訊、最新資料、模型訓練後生成的資訊以及天氣等實時資料。
這時，提升將這些資料引入模型的能力變得至關重要。在這方面，亞馬遜雲科技的利器是 Amazon Bedrock 上的知識庫（Knowledge bases）。
過去數月，亞馬遜雲科技持續向知識庫加入嵌入模型、向量儲存和基礎模型。現在，知識庫有了 Expanded Data Connectors（預覽版）。除了 Amazon S3 物件儲存服務之外，企業使用者可以將自定義 web 域、Confluence、SharePoint、Salesforce 等作為資料來源連線到 RAG 應用，從而可以提供更相關、更準確、更定製的響應。
大模型除了好用、個性化，另一個人們關注的熱點話題是「安全」。Amazon Bedrock 平臺上的「Guardrails」正是為解決這一需求而設的。亞馬遜雲科技全球 AI 產品副總裁 Matt Wood 表示，Guardrails for Amazon Bedrock 可以阻止高達 85% 的有害內容。
如今，Guardrails for Amazon Bedrock 又迎來了兩項更新。
一個是「上下文基礎檢查」（Contextual Grounding Checks），它根據參考源和使用者查詢來檢測模型響應中的幻覺，最高可以過濾掉 75% 的 RAG 幻覺響應和摘要工作負載。
另一個是「Guardrails API」，企業使用者可以在任何基礎模型中使用 Guardrails，即使是 Amazon Bedrock 不支援的模型。這也意味著企業使用者還可以利用該 API 在生成式 AI 應用的不同階段獨立評估使用者輸入和模型響應，為應用開發提供更強的靈活性。
最後還有智慧體，Agents for Amazon Bedrock 能力也是本場峰會的焦點，它是生成式 AI 應用跨不同系統和資料來源執行多步驟任務的關鍵。
數月來，亞馬遜雲科技都在對 Agent 的建立和配置進行簡化，Agents for Amazon Bedrock 預覽版這次引入了兩個全新的功能。
第一個新功能是「Memory retention for Agents」，可以在多次互動中保留記憶。有了該功能， Agent 現在可以保留與每個使用者的對話摘要，並提供流暢、自適應的體驗。以後，對於預定航班或處理保險索賠這類複雜的多步驟任務，可以自動化高效地處理了。
第二個新功能是「Code interpretation for Agents」，它允許 Agent 在安全的沙盒環境中動態生成並執行程式碼片段，高效地解決資料分析、資料視覺化、文字處理、求解方程等複雜用例。同時為了使客戶使用起來更輕鬆，現在還可以直接將文件上傳給 Agent 了。
一番新功能看下來，Amazon Bedrock 已經構築起了從基礎模型、自定義、檢索增強、智慧體，到安全防護於一體的完整服務體系， 為接下來更深入的應用落地打好了基礎。
即刻起飛 —— 基於Amazon Bedrock 構建生成式 AI 應用
大模型應用開發速度，進入分鐘級
如果你有機會對比不同廠商的雲服務，就會發現亞馬遜雲科技對企業應用場景的劃分非常細緻，且非常注重提供定製化解決方案。
在實踐中，面對每個企業的需求之間並不存在通解，這意味著基礎設施供應商需要面對實際情況提供個性化的服務。另一方面，開發出能夠讓使用者簡單快捷地應用新技術打造應用的產品，也是一條重要的路。
在企業的運營中，通常會有一些面向具體業務的定製應用程式。打造這些應用程式的初衷是提供方案幫助企業解決問題，但隨之而來的是較高的開發及維護成本。在生成式 AI 時代到來之後，這項任務的成本有望大幅下降。
在這場峰會上，亞馬遜雲科技宣佈推出 Amazon App Studio 公開預覽版，一款精準 匹配 IT 專案經理、資料工程師和企業架構師等專業人員需求的生產力神器。
僅需要自然語言作為輸入，Amazon App Studio 幾分鐘就能建立出一款企業級應用程式，省去了傳統軟體開發的絕大部分流程 —— 這在此前至少需要幾天時間。某種意義上說，生成式 AI 技術讓傳統的「學習曲線」失效了，在真正的無程式碼工具面前，使用者只需要提升自己的專業知識即可。
注：出於演示目的，Demo 進行了加速。
Amazon App Studio 會按照提供的命令執行，使用定向資料來源，在幾分鐘內生成所需的應用程式之後，還會處理所有關鍵的編碼相關工作，比如從測試和部署到操作和維護。從整體設計來看，Amazon App Studio 不僅優於傳統開發工具，而且優於大多數低程式碼開發工具，畢竟後面兩者無法生成符合企業隱私和安全政策的應用程式。
這正好回應了人們對於大模型技術的期望：讓 AI 幫我們處理瑣碎勞動，讓人專注於專業內的事，才是正確的發展方向。
在亞馬遜雲科技的生成式 AI 技術棧中，Amazon Q 站在最頂層。從零技術經驗、擁有技術專長到具備專業開發經驗的企業使用者，Amazon Q 都提供了根據其需求量身打造的生產力工具，消解了企業使用複雜 AI 工具的最後技術壁壘。
此外，對於親自參與開發過程的技術人員，亞馬遜雲科技將此前推出的 Amazon Q Developer 的應用範圍進一步擴充，現在它同樣可以在 SageMaker Studio 中使用了。
使用者可以藉助聊天的方式，要求 Amazon Q Developer 推薦工具並建議用於構建機器學習模型的程式碼，避免了花費太多時間在尋找合適的工具、文件或方法上，讓複雜的機器學習模型開發過程變得相對簡化。
即使是沒有一丁點開發能力的使用者，也能透過 Amazon Q Apps 在幾秒或幾分鐘內建立自己的應用程式。作為 Amazon Q Business 的一項功能，Amazon Q Apps 現在已正式可用。
與此前的預覽版相比，亞馬遜雲科技又為 Amazon Q Apps 增加了「在卡片級別指定資料來源」的功能。使用者可以指定要從中生成輸出的資料來源，如果有需要，也可以不使用任何資料來源，而是將文字輸出卡配置為使用 LLM 知識。
生成式AI助手 Amazon Q 初體驗
衝刺生成式 AI 落地賽道
還得看亞馬遜雲科技
不到兩年時間，人工智慧技術的進展顛覆了全世界的認知。
最近一段時間，大模型領域熱度不減，不過人們談論它的話題已經逐漸從模型技術，轉向瞭解決方案。
這並不是一件比新技術突破更容易的事。要想實現新技術的大規模落地，人們面臨著一系列新的挑戰 —— 不僅需要大模型服務背後的 AI 演算法能力必須優秀，而且還是一場從算力到資料，框架到模型，開發到部署的全流程技術體系的考驗。
這份略顯「沉重」的壓力，最終還是被亞馬遜雲科技扛住了。
從 AI 基礎設施的角度看，如果說生成式 AI 時代，英偉達是賣鏟子公司裡最火的，亞馬遜雲科技就是使用英偉達晶片的基礎設施裡面效率最高的，高效率的應用為更多企業引入新技術開啟了大門。
從模型部署和應用開發的角度來看，能夠讓企業使用者感覺「面面俱到」的選擇其實並不多。亞馬遜雲科技提供的生成式 AI 體系因為擁有廣泛的部署實踐和成熟的生態，一直排名前列。有 Amazon Bedrock 的 30 多個頂尖大模型，企業使用者能以極地的試錯成本擴充業務賽道，有了 Amazon Q 這樣的 AI 助手和 320 多項生成式 AI 能力的加持，企業的生產力提升顯得「易如反掌」。
短短一年多時間，亞馬遜雲科技的三層技術棧已經「枝繁葉茂」。當然，這種從簡單到複雜的迅速成長，與大模型在各行各業的落地經驗反哺是分不開的。而在生成式 AI 技術棧持續迭代的基礎上，先進 AI 技術的潛力會被充分挖掘，最終轉化出的生產力，推動著各行各業向前走進價值增長的「快車道」。