要取得SOA部署的成功，必須先建立起核心架構領導團隊，以確保付出的努力符合需求、並指導架構的發展。針對架構的最佳實踐可分為重用、資料管理等幾個不同的方面。
SOA的重用不僅僅是傳統的程式碼重用。它必須做到架構重用——建立一個可重用的架構框架，通過細緻的規劃、工程與管理來推動企業內各SOA專案的發展。
許多SOA實施關注於服務的實現(implementation)，而沒有對SOA的資料管理方面予以足夠重視。如此掉以輕心可能會造成資料管理不當、不可靠的資料、並威脅到資料完整性。許多專業人士仍以過去點對點式的資料需求來看問題。
根據經驗：著將資料實現為服務，有效的資訊後設資料管理與公用資訊模型(Common Information Model，CIM)的運用是成功的一個關鍵因素。使用CIMs，令你可以設立標準併為適用於所有介面、訊息、資料結構與資料轉換的資訊建立描述性後設資料，以支援重用，並由此加快開發速度。用模型驅動的方法把最佳實踐標準化，可以加快開發速度，並能夠在介面與資訊結構之間建立起更好的一致性。使用這種模型驅動的方法有助於減少對轉換(transformation)的需求，並使之更容易在需要時設計轉換。
在IT與業務之間的建立聯絡：
這需要通過有目的的工作，把IT與業務流程聯絡起來，並關注於未來的業務流程設計——也就是說，你在設想SOA方案時，應該著眼於業務流程應該如何執行，而不是目前如何執行。業務流程建模提供了一種跟蹤重要業務實體生命週期的有效辦法，由此獲得的業務流程模型不但簡單靈活，而且具有一致的任務粒度，這更易於在不同利益相關者(無論是業務級、還是IT級的)之間達成一致。
只有依靠紮實的方法學確保模型正確，這種建模方法才會有用。若高層業務流程模型不正確，那麼要把它細化為可執行的業務流程(executable business processes)就會變得困難而昂貴。
元件業務建模(CBM)以及面向服務的建模與架構(SOMA)都為以最佳實踐的方式來建模提供了支援。 CBM可以幫助你對企業進行分析：它首先將企業劃分為若干相對獨立、不相交的業務元件，然後再尋找革新或改良的機會。要建立一種面向服務的架構(SOA)，面向服務的建模(service oriented modeling)是必須的。其輸入是業務元件化分析(business componentization analysis)的結果、業務目標(business goals)以及關鍵業績指標(key performance indicators);其輸出是一個獨立於任何特定技術與模型的SOA。
要脫離一種筒倉式的(siloed )組織結構，這種組織結構往往只從各個專案內部進行考慮。假如沒有某種集中控制，要將大量專案按它們各自的日程整合起來，恐怕是難以實現且多半低效的。與此相關的最佳實踐是：設立一個有各技術相關利益者參與的權威機構來監管設計，並推進早期的架構決策。
要成功通過SOA獲得持續效益，另一個關鍵因素是SOA治理(SOA governance)。SOA治理令業務團隊與IT團隊可以更好地協作，以識別出那些對實現業務目標最有貢獻的專案。
應該在最初的SOA試點專案之中和首個重要SOA專案開始之前引入SOA治理。這令你們機構可以成功處理重要專案的複雜性，而不是像訓練任務一樣對待它。SOA治理也應當與你們機構的企業架構計劃一致。
為避免各個專案使用重疊、不一致的治理模型，造成混亂與阻礙，需要有企業級、跨專案的視野。
通常，SOA實施會涉及到許多彼此互動的服務。因此，對於SOA實施來說，可伸縮性、可靠性及高可用性(availability)是最重要的需求。儘量採用那些已知的方案以滿足可靠性與效能需求。然後，設計、測試、再測試，以確保效能、可伸縮性及互操作性需求得到了滿足。不要在尚未正確解決並測試這些非功能性需求的情況下就部署一個方案。
SOA成功的另一個關鍵因素是：確保運營的可視性及實施的可控制性：問題與事件管理系統，以及問題判定與檢修工具，應在架構的各個層次提供充足的可配置的資訊。同時，選擇那些簡化了SOA基礎設施管理的技術方案，將有助於限制複雜性。