1 成果介紹

網(wǎng)絡(luò)存儲技術(shù)從誕生到現(xiàn)在，已經(jīng)經(jīng)歷了近二十年的歷程。在這個過程中，無論是計算技術(shù)、網(wǎng)絡(luò)通信技術(shù)還是信息儲存技術(shù)都發(fā)生了翻天覆地的變化。計算技術(shù)領(lǐng)域，基于開放操 作系統(tǒng)上的集群計算技術(shù)已經(jīng)取代大型機；網(wǎng)絡(luò)通信領(lǐng)域，開放架構(gòu)的 TCP／IP 通信已經(jīng)統(tǒng)治了一切；在信息存儲技術(shù)上，單塊磁盤的容量已經(jīng)從 G 級別進入 T 級別。 傳統(tǒng)的網(wǎng)絡(luò)存儲設(shè)備，無論是 FC SAN、 NAS 還是 IP SAN，都是采用以滿足單臺服務(wù)器存儲需要為目標(biāo)的體系設(shè)計，在共享能力、性能、可靠性、擴展性以及總體擁有成本上，已經(jīng)無法滿足企業(yè)新的應(yīng)用需求。如果 僅僅通過外圍手段來彌補，必將造成存儲架構(gòu)越來越復(fù)雜，用戶管理難度越來越大，總體擁有成本越來越高。 為了滿足 IT 技術(shù)發(fā)展的挑戰(zhàn)， LoongStore 集群存儲采用了代表計算技術(shù)、網(wǎng)絡(luò)通信技術(shù)以及文件 系統(tǒng)技術(shù)發(fā)展方向的體系架構(gòu)，提供給用戶跨平臺共享、高性能、高可靠、可平滑擴展、使用和維護簡單的高端存儲系統(tǒng)。系統(tǒng)以開放架構(gòu)平臺智能存儲服務(wù)器為基 本節(jié)點，通過在千兆以太網(wǎng)基礎(chǔ)上不受限制地添加節(jié)點，構(gòu)成了業(yè)界最高的性能、可靠性以及極低總體擁有成本的存儲集群。 LoongStore 為一種大規(guī)模的文件共享存儲系統(tǒng)，它面向海量數(shù)據(jù)、高并發(fā)訪問的環(huán)境。其產(chǎn)品架構(gòu)圖如圖所示：

 圖 1 LoongStore 產(chǎn)品架構(gòu) LoongStore 產(chǎn)品架構(gòu)支持：

• 單文件系統(tǒng) 100PB
• 支持 2000 個以上節(jié)點并發(fā)
• 支持超過 500 億文件
• 產(chǎn)品主要特點：產(chǎn)品架構(gòu)上：實現(xiàn)了橫向擴展。從原來的單節(jié)點增加 CPU、內(nèi)存、存儲等等的縱向擴展方案往增加節(jié)點數(shù)量的橫向擴展方案的轉(zhuǎn)變，使得容量擴展更加靈活、同時也實現(xiàn)了更低的起始投入成本；
• 產(chǎn)品工作流上：實現(xiàn)了更高效的數(shù)據(jù)讀寫方式。通過實現(xiàn)元數(shù)據(jù)與數(shù)據(jù)通道分離、將數(shù)據(jù)條帶化存儲在不同的存儲服務(wù)器上，從而高效實現(xiàn)數(shù)據(jù)的并行讀寫；
• 產(chǎn)品性能上：實現(xiàn)了高聚合帶寬。克服了以前文件集中式存儲的瓶頸，實現(xiàn)了文件切片分布式存儲方案，實現(xiàn)了高聚合帶寬；
• 產(chǎn)品性能上：實現(xiàn)了性能近線性增長。如：

（ 1）聚合帶寬隨著存儲集群規(guī)模擴大而線性增長， （ 2）充分發(fā)揮硬件性能，如網(wǎng)卡性能利用率達到了 80%， （ 3）擴展到 100GB/s 以上的聚合性能；

• 產(chǎn)品可靠性上：實現(xiàn)了無單點故障。通過

（ 1）為不同目錄的數(shù)據(jù)設(shè)置不同的冗余度， （ 2）自動故障探測與恢復(fù)， （ 3）設(shè)備恢復(fù)速度是 RAID 的 5 倍， 750GB SATA 盤恢復(fù)時間 15 分鐘， （ 4）元數(shù)據(jù)服務(wù)器每兩臺互備等，實現(xiàn)了產(chǎn)品的無單點故障；

• 在產(chǎn)品擴展性方面：實現(xiàn)了在線業(yè)務(wù)擴展容量。支持不停業(yè)務(wù)在線擴容，并自動遷移均衡數(shù)據(jù)。從而實現(xiàn)不需要關(guān)停業(yè)務(wù)的方式輕易擴展容量；
• 在產(chǎn)品管理方面：實現(xiàn)了單點配置管理。產(chǎn)品通過單點實現(xiàn)了所有的配置管理功能，通過內(nèi)置各種自動化處理流程，減少人為參與；
• 產(chǎn)品兼容性方面：兼容各種 X86 架構(gòu)的服務(wù)器和 IP 網(wǎng)絡(luò)，應(yīng)用服務(wù)器端支持Linux/Windows/Mac 等等。

2 應(yīng)用說明

LoongStore 大規(guī)模集群云存儲系統(tǒng)能夠幫助企業(yè)加速信息到價值的轉(zhuǎn)換，目前已經(jīng)在互聯(lián)網(wǎng)、廣電、能源、電信等數(shù)據(jù)密集型行業(yè)幫助企業(yè)實現(xiàn)了突破性的價值。 產(chǎn)品主要應(yīng)用行業(yè)與應(yīng)用案例有：（ 1）互聯(lián)網(wǎng)：視頻， SNS 等，例如中國國家網(wǎng)絡(luò)電視臺（ CNTV），人人網(wǎng)，搜狐；（ 2）能源：大慶油田，中石油勘探開發(fā)研究院總院；（ 3）動漫和廣電：中影集團，教育電視臺等，《建黨偉業(yè)》、《建國大業(yè)》、《孔子》等大片的后期制作就是采用該存儲系統(tǒng)；（ 4）教育及其（ 5）軍工，航天等等領(lǐng)域。

3 技術(shù)指標(biāo)

• 支持 PB 級的存儲容量規(guī)模，最大容量可超過 100PB；
• 可提供幾十甚至上百 GByte/s 的聚合數(shù)據(jù)讀寫帶寬，而且性能可隨存儲規(guī)模的擴展而線性提升；
• 可高效支持海量小文件的存儲和管理，單套系統(tǒng)可高效管理超過 500 億個文件，現(xiàn)有在線系統(tǒng)已經(jīng)超過百億級文件數(shù)量規(guī)模，而且每天仍然以 2000-5000 萬個新文件的速度遞增，每天的下載量為 10-20 億個文件；
• 可支持超過 2000 多個計算節(jié)點（或者應(yīng)用節(jié)點）同時高效并發(fā)訪問同一套存儲系統(tǒng)；
• 提供完全符合 POSIX 標(biāo)準(zhǔn)的文件級接口，支持全局共享訪問，無須加入第三方共享軟件。前端可同時部署 Linux、 Windows、 Mac 等異構(gòu)計算節(jié)點。所有應(yīng)用可不經(jīng)過任何修改和移植即可使用存儲服務(wù)；
• 支持在線擴展存儲容量，無需終止應(yīng)用的正常服務(wù)，新增容量即插即用。同時提供在線數(shù)據(jù)遷移功能，擴容后可均衡所有設(shè)備上的存儲負(fù)載；
• 內(nèi)置數(shù)據(jù)高可用機制，一旦發(fā)現(xiàn)硬件故障將自動進行數(shù)據(jù)恢復(fù)，無需停止服務(wù)。除了能夠冗余磁盤故障之外，即使整個存儲服務(wù)器或者磁盤陣列故障都不影響應(yīng)用正常服務(wù)也不會破壞應(yīng)用數(shù)據(jù)。傳統(tǒng)存儲只能冗余磁盤故障；
• 如果系統(tǒng)中正常設(shè)備上的空閑空間總和不少于故障設(shè)備上已經(jīng)使用的空間即可進行數(shù)據(jù)恢復(fù)，無須加入新的設(shè)備，傳統(tǒng)存儲采用 RAID 機制必須加入新的存儲設(shè)備才能進行恢復(fù)。確保了系統(tǒng)無間斷持續(xù)運行；l 在線控制存儲設(shè)備的負(fù)載。在觀察到某塊存儲設(shè)備有異常現(xiàn)象時，可以在線手動禁止這塊磁盤的空間分配，設(shè)置后系統(tǒng)不再往被禁止分配空間的磁盤內(nèi)寫入新的數(shù)據(jù)，原有的數(shù)據(jù)仍然可用。當(dāng)設(shè)備正常時即可在線放開；
• 提供主動數(shù)據(jù)遷移功能，方便硬件在線更換。當(dāng)某些設(shè)備使用時間超過一定年限，或者是發(fā)現(xiàn)設(shè)備有安全隱患時，可以主動將該設(shè)備上的數(shù)據(jù)遷移到其它存儲設(shè)備，遷移完成后即可將設(shè)備移除下線，不影響應(yīng)用的正常服務(wù)；
• 簡易管理，通過單一圖形化界面即可管理和監(jiān)控整個存儲系統(tǒng)；
• 高硬件兼容性，既可以采用傳統(tǒng)的 SAN 或者盤陣作為存儲單元，也可以采用通用的存儲服務(wù)器進行構(gòu)建，硬件選型范圍廣，成本低，適合用于構(gòu)建海量的云存儲系統(tǒng)。