近年來,隨著網際網路技術和影片技術的飛速發展,網際網路已逐步進入到大影片時代。影片業務和流量目前都在快速增長,無論影片業務走向多樣化,還是走向超高畫質化,這其實都將是運營商寬頻網路的承載能力帶來更嚴峻的挑戰。
目前,國內影片業務呈現出多元化的特點。OTT影片、網際網路自制劇、娛樂直播、秀場直播、UGC、短影片等業務百花齊放。優酷、愛奇藝和騰訊影片憑藉不同的業務優勢,市場份額逐年攀升,目前已經位居國內同行的前三名。
優酷和土豆正式合併後,已經佔據UGC模式的領先地位。騰訊影片除了獨家版權外,其社交網路對影片流量的強支撐作用日益顯現。愛奇藝則在付費會員方面成效顯著。芒果TV背靠湖南衛視,勢頭迅猛。樂視、搜狐影片、PPTV、暴風影音等逐漸形成自己的風格特色。總而言之,國內線上影片業務正處在風生水起的時代。
各類超高畫質影片終端已經步入千家萬戶,各類機頂盒已經全部支援4K(3840×2160)解析度,市場上4K制式的電視已經成為主流,8K電視正逐步開始大規模商用。以現在市場來看,國內整個大影片生態鏈已經非常完備,無論是影片內容、應用、處理終端、顯示終端、市場規模等均已經成熟,構成良性發展的產業生態圈。
在市場激烈競爭的態勢下,影片內容服務商迫切提升旗下影片業務質量感知,打造優質影片品牌的需求。為了緩解網際網路流量的增長壓力,三大運營商都在不停地擴容。目前中國電信已經在對骨幹163網實施第19次擴容,擴容後全國省際頻寬將在100Tbit/s以上。影片爆炸時代,到底是誰在支撐影片生態鏈的提升與執行?
早期我們使用的是傳統的流量協議SNMP流量監測協議。但是由於SNMP的資料採集是直接透過網路裝置埠採集資料流量,從而無法提供具體的點到點會話連線的資訊,因此對網路資料流量具體流向的統計方法實現起來較為複雜且不夠準確。基於SNMP的流量監測與分析系統存在著系統效能瓶頸,SNMP在大型網路中進行部署存在一定困難。
現如今影片流量爆炸增長,為克服現有網管系統對網路流量和流向分析功能的技術侷限性。需要一種成熟穩定的新技術對現有管理系統中管理資訊的採集和分析方式進行改造和升級。新的資訊採集和分析技術還需要對運營商的執行網路影響小,無需對網路拓撲進行改變就能平滑升級。而且新的資訊採集和分析技術應該可以對網路中各個鏈路的頻寬使用率進行統計,也可以對每條鏈路上傳輸不同型別業務的流量和流向進行分析和統計。同時應能適應中國寬頻網際網路網路規模迅速擴充套件,鏈路頻寬快速增長的實際狀況。可以根據需要支援採用資料採集的抽樣模式或對採集到的原始資料進行自動匯聚的方式,減少和壓縮網管中心管理伺服器需要處理的資料量,確保管理系統的處理能力能夠適應網路規模的增長。
以 NetFlow 為代表的Flow技術正是為響應這種挑戰而出現的新型解決途徑。
什麼是 Flow?
在最開始Flow是網路裝置廠商為了在網元裝置內部提高路由轉發速度而引入的一個技術概念。其本意是將高 CPU 消耗的路由表軟體查詢匹配作業部分轉移到硬體實現的快速轉發模組上(如Cisco的CEF模式)。在這種功能模式中,資料包將透過幾個給定的特徵定義歸併到特定的集合中,這個集合就是 Flow每個Flow的第一個資料包。除了促使該 Flow記錄的產生以外還要驅動網元三層模組完成路由查詢並將查詢結果。同期放入Flow記錄中而該Flow集合的後續資料包將直接在Flow的已有記錄中獲得路由轉發資訊,從而提高了網元裝置的路由轉發效率。
作為網元裝置內部路由機制最佳化的副產物,Flow記錄能夠提供傳統SNMP MIB無法比擬的豐富資訊,因此Flow資料被廣泛用於高階網路流量測量技術的支撐以提供網路監控流量圖式分析、應用業務定位、網路規劃、快速排錯、安全分析如(DDoS)、域間記賬等資料探勘功能。
相對於會話( Session )而言,Flow具備更細緻的標識特徵在傳統的TCP/IP5 元組的基礎上增加了一些新的域值至少包括以下幾個欄位 1.源IP地址2.目的IP地址3.源埠 4.目的埠5. IP層協議型別6 .ToS 服務型別7.輸入物理埠。以上7個欄位可以唯一地確定任意一個資料包屬於哪個特定的Flow,換而言之任何一個欄位出現了差異都意味著一個新Flow的發生。
NetFlow流量分析協議
NetFlow是IP網路專用的流交換協議,目前廣泛應用於網路上流量的統計分析。NetFlow採用三層體系結構,包括資料輸出裝置(NDE)、資料收集器(NFC)和資料分析器(NDA),分別用於流資料的採集、匯聚、輸出、接收、過濾、儲存、分析。
NetFlow中定義了從特定的源主機到目的主機的單向資料包集合,主要有以下7個引數標識:源IP地址、目的IP地址、協議型別、源傳輸層埠、目的傳輸層埠、業務型別TOS以及裝置的輸入介面。利用NetFlow可以統計流量流向及佔比大小等情況,包含5W1H等關鍵資訊,可以解決Who(源IP地址),When,Where(目的IP地址埠),What(協議型別),Why(正常閾值基線),How(情況、流量大小)等問題。
NetFlow由兩個核心元件組成:NetFlow 快取和NetFlow的資料傳輸機制。NetFlow快取用來儲存來自輸入介面採集的IP資料流資訊;NetFlow的資料輸機制主要根據預先定義的策略規則,將資料傳送到網路管理採集器,便於資料採集。
NetFlow流量分析系統組透過在省級核心路由器上旁掛部NetFlow流量分析系統即可對網路流量流向進行統計分析。綜上所述,利用NetFlow協議可以統計分析出某個時段訪問目的地流量的大小情況,即可以統計分析出影片內容服務商流量的大小情況。
如何將NetFlow協議的效果最大化?
首先在核心裝置上啟用NetFlow協議,透過NetFlow採集伺服器收集、分析、查詢出當前區域使用者訪問流量排名TOP的IP地址。再根據IP地址,用IP應用場景、DNS遍歷、線上工具、搜尋引擎、探測等手段獲取到真正影片內容服務商的資訊。最終利用系統獲取到當前網路下使用者訪問量最大的影片內容服務商資訊。
隨著Internet的迅速發展,不單單是影片行業,網際網路規模都在不斷擴張且環境日漸複雜。一個好的IP流量和流向分析統計方法,對運營商及時瞭解自身網路的負載狀況和重要業務的頻寬佔用率,骨幹網建設、擴容、升級,提高寬頻速度、流向分析統計都有巨大的作用。