系統介紹
xStream多(duō)通道流式數據處理(lǐ)系統是一個适用(yòng)于複雜應用(yòng)場景的高性能(néng)、高并發、高可(kě)靠性、高可(kě)伸縮性的分(fēn)布式實時數據處理(lǐ)系統。可(kě)以同時為(wèi)應用(yòng)于不同業務(wù)場景的邊緣計算設備提供點狀及流式數據的采集、存儲、分(fēn)析、計算等服務(wù)。隻需普通的、由廉價PC組成的計算集群,無需單獨購(gòu)買價格昂貴、性能(néng)優越的服務(wù)器,xStream針對邊緣計算設備的并發接入數量(集群)即可(kě)輕松達到十萬以上級,實時數據的處理(lǐ)能(néng)力(集群)達百萬級每秒(miǎo)。
系統特色
xStream中(zhōng)的“x”指代任意的應用(yòng)場景(無限),從環境在線(xiàn)監測到環境移動執法、環保用(yòng)電(diàn)監管,再到實時視頻監控、甚或其它非環境類的更為(wèi)複雜的場景均能(néng)任意擴展,任意配置——各業務(wù)場景間既可(kě)高度耦合,亦可(kě)松散耦合及至實現更為(wèi)嚴格的業務(wù)、數據隔離。Stream指代從邊緣計算設備到用(yòng)戶端流動的實時數據流:按時間序列采集的點狀數據以及音、視頻、圖片等流式數據。無論是點數據還是流式數據,xStream系統均根據事先制定的業務(wù)規則實時處理(lǐ),處理(lǐ)結果存入分(fēn)布式NoSQL數據庫。
xStream部署環境簡單,OS為(wèi)Linux CentOS 7及以上版本,至少三台普通PC,每台PC安(ān)裝(zhuāng)Cassandra數據庫及MySQL數據庫,建立數據庫集群。
系統優勢
1)低成本,高性能(néng)。無需購(gòu)買昂貴的服務(wù)器,隻需三台以上的普通PC,使用(yòng)開源、免費的linux服務(wù)器系統centOS組建計算集群即可(kě)獲得極佳的處理(lǐ)性能(néng)。
2)可(kě)伸縮性。系統建設初期接入設備較少時,集群節點三台即可(kě),當接入設備逐漸增多(duō),數據量極速增長(cháng)時,隻需繼續采購(gòu)PC,橫向增加集群節點即可(kě)大幅提升系統處理(lǐ)性能(néng),增加節點數量無上限。
3)高可(kě)靠性。當數據庫集群出現單個甚至多(duō)個節點宕機或者因磁盤故障出現數據損壞時,其它正常節點仍能(néng)提供可(kě)靠的數據存儲及訪問服務(wù),故障節點一旦被修複重新(xīn)加入集群,數據自動同步,無需人工(gōng)幹預。
4)完全自主知識産(chǎn)權的虛拟網絡容災系統。集群内所有(yǒu)網絡節點綁定同一個虛拟地址,當單個或多(duō)個網絡節點宕機時,系統自動切換網絡服務(wù)到正常節點,确保數據接入、WEB、APP等關鍵服務(wù)不受影響,實現7x24小(xiǎo)時無人值守。
5)完全自主知識産(chǎn)權的高性能(néng)實時庫。采用(yòng)高效的哈希存儲算法,有(yǒu)效降低碰撞率,百億條以上數據記錄的檢索時間穩定在微秒(miǎo)級。
6)高并發、多(duō)通道數據采集服務(wù)。系統采用(yòng)異步通訊架構,能(néng)夠充分(fēn)發揮CPU多(duō)核處理(lǐ)器的能(néng)力,TCP并發鏈接數達到十萬以上級。
7)多(duō)場景并發數據采集能(néng)力。系統可(kě)以提供任意多(duō)個、采用(yòng)不同通訊協議的通訊通道為(wèi)不同應用(yòng)場景下的邊緣計算設備提供數據接入服務(wù)。
8)分(fēn)布式日志(zhì)系統。登錄到任意一個集群節點均可(kě)實時查看xStream在整個集群内的整體(tǐ)運行狀态,系統管理(lǐ)員可(kě)據此監控并排查系統故障隐患,确保系統運行處于最佳狀态。