開源專案推薦
Cog
Cog 是將機器學習模型打包到容器的工具。可透過配置將機器學習模型所需的環境和依賴，自動打包到容器裡方便部署，讓你不再為編寫 Docker 檔案和 CUDA 而痛苦，還能自動啟動 HTTP 介面服務方便呼叫。
KnowStreaming
KnowStreaming 是功能強大的 Kafka 叢集監控和運維管理平臺。
Opserver
Opserver 是一個採用 .Net 開發的輕量級監控系統，它可以監控包括伺服器、日誌、SQL Server 叢集、Redis 在內的多種服務，支援修改 JSON 配置檔案自定義儀表盤展示。
Litellm
Litellm 是簡化大模型 API 呼叫的工具。該專案能夠將各種 AI 大模型和服務的介面，統一轉換成 OpenAI 的格式，簡化了在不同 AI 服務/大模型切換和管理的工作。
文章推薦
使用 Docker 部署 ML 模型的分步指南
本文介紹瞭如何使用 Docker 部署機器學習模型，透過詳細步驟指導，包括設定環境、構建模型、建立依賴檔案、編寫 Dockerfile、構建 Docker 映象、執行容器以及將容器推送至 Docker Hub。使用 Docker 能確保模型在不同環境中執行的一致性和依賴關係的穩定性，使部署過程更加順暢和可擴充套件，同時消除了複雜環境設定的需求。
最佳化 Uber 的持續部署：大型 Monorepos 中的微服務自動化
Uber 在其最近的文章中分享瞭如何最佳化大規模單一倉庫（monorepo）中微服務的持續部署。面對由數千個服務構成的微服務架構，Uber 重新設計了其持續部署系統“Up CD”，以提高自動化和安全性。該系統與內部雲平臺及可觀測性工具緊密整合，透過引入統一的提交流程和各階段的安全檢查，實現了部署的標準化和可重複性。
自推出以來，自動部署的服務比例從不到 10%提升至近 70%，且每千次程式碼更改導致的生產事故率降低了 50%以上。Up CD 的成功在於其使用者友好的介面和對共享程式碼變化分階段部署的策略，有效應對了單一倉庫中的挑戰，顯著提升了部署的安全性、效率和透明度。
兩次轉型的故事：勞埃德銀行和摩根大通英國分行如何推動銀行業的變革
兩家歷史背景截然不同的英國銀行——歷史悠久的勞埃德銀行（Lloyds）和雲原生新秀 Chase UK，分享了它們推動數字化轉型的工具、技術和理念。勞埃德銀行作為擁有 259 年曆史的機構，正轉向雲優先策略，面臨複雜技術遺產的挑戰，透過構建內部開發者門戶（IDP）實現自服務和重用；而 Chase UK 自 2021 年成立起即採用雲原生，迅速積累兩百萬客戶，透過從工具中心向 SDLC 生態系統轉變，在六週內成功遷移 500 多個微服務，展現了從工具到生態系統的未來趨勢。
雲原生動態
Argo Workflows 3.6 釋出候選版本
Argo Workflows 3.6 版本作為候選釋出版現已推出，此版本新增 53 項功能、237 項修復、164 次文件更新，並吸引了 130 位貢獻者參與，其中 83 位為新晉貢獻者。主要更新包括 Cron Workflows 的多重計劃、停止策略及條件表示式，UI 介面的多項改進如顯示完整工作流名稱、時間顯示切換、Markdown 支援等，以及度量指標、控制器、外掛、儲存、效能最佳化等多方面的增強。使用者可透過 CLI 更新 Cron Workflows 等工作流模板，並享受更多便捷功能。
Kmesh v0.5 釋出！進擊的 Sidecarless 服務網格
Kmesh 專案組宣佈 Kmesh v0.5.0 版本正式釋出！
在 v0.5.0 版本中，我們實現了多項重大增強，具體包括：
- 引入了功能強大的命令列工具 kmeshctl，為使用者提供了更便捷的操作體驗。
- 實現了更全面的端到端測試覆蓋，確保系統功能的穩定性和可靠性。
- 對底層 eBPF 資訊的視覺化進行了顯著改進，提升了使用者的監控與除錯效率。
- 增強了可觀測性，幫助使用者更輕鬆地掌握系統執行狀態。
- 提供了完整的重啟支援，確保系統在意外中斷後能夠迅速恢復正常執行。
本文由部落格一文多發平臺 OpenWrite 釋出！