測試環(huán)境
iSCSI 存儲設(shè)備:P42.0GHz CPU ,256MB DRAM, IBM DPSS318350 18G硬盤,Redhat Linux 9.0 操作系統(tǒng);LINUX 服務(wù)器:Pentium 42.66GHz ( FC2PGA) CPU ,256MB DRAM, 80GB UltraATA/ 1007 ,200rpm硬盤,Redhat Linux 9.0 操作系統(tǒng);WINDOWS服務(wù)器端:XEON 3.06GHz CPU ,512M DRAM 內(nèi)存,Smart Array6i (板載) 存儲控制器,Qlogic QLA2300 PCI FC Adapter 光纖適配器,IBM 36。4GB (32P0726) 10Krpm 硬盤,Microsoft Windows2003操作系統(tǒng);FC-RAID:NexStor 4000S ,CPU 600MHZ,512M SDRAM,10 ×ST314680FC 硬盤;普通NAS 存儲設(shè)備: P42.66GHz CPU ,512MB DDR ,Maxtor 160G硬盤,Redhat Linux 9.0 操作系統(tǒng)。
網(wǎng)絡(luò)連接:iSCSI 設(shè)備和普通NAS 設(shè)備都使用100M以太網(wǎng)卡Realtek RTL8139 ;Windows 服務(wù)器使用1000M 以太網(wǎng)卡HP NC7782 Gigabit Server Adapter ;Linux服務(wù)器使用1000M以太網(wǎng)卡。HPNC7782Gigabit Server Adapter。
功能測試
根據(jù)測試流程,功能測試包括三個方面的內(nèi)容: (2) 平臺的統(tǒng)一,即在Windows 下能通過單一目錄樹方式訪問多個存儲節(jié)點,功能與Linux 下的pvfs 相似; (2) 協(xié)議的統(tǒng)一,即通過Windows 的“計算機(jī)管理”和Initiator 發(fā)起端(iSCSI 客戶端) 可以管理FC-RAID 和iSCSI Target 及普通的NAS 設(shè)備,并利用“動態(tài)磁盤機(jī)制”實現(xiàn)多種冗余;設(shè)備的統(tǒng)一,即iSCSI Target 通過和initiator 配合,使得該Target 成為NAS 系統(tǒng)中的一個存儲設(shè)備。
性能測試
測試內(nèi)容
采用第三方的IOMETER 測試軟件進(jìn)行的測試。IOMETER是INTEL 公司專門開發(fā)的用于測試系統(tǒng)I/O 性能的測試程序。 它的測試參數(shù)比較全面,能非常全面的反映服務(wù)器的I/ O性能。為了說明USN 存儲系統(tǒng)的性能,在相同條件下測試以下項目進(jìn)行對比分析: (1) 對USN 服務(wù)器本地硬盤讀寫性能測試; (2) 100M以太網(wǎng)環(huán)境下FC-RAID 盤讀寫性能測試; (3)100M以太網(wǎng)環(huán)境下遠(yuǎn)程iSCSI 盤讀寫性能測試; (4) 100M 以太網(wǎng)環(huán)境下FC-RAID 盤和遠(yuǎn)程iSCSI 盤構(gòu)建的各級RAID 盤的讀寫性能測試; (5) 1000M以太網(wǎng)環(huán)境下遠(yuǎn)程iSCSI 盤讀寫性能測試; (6) 100M以太網(wǎng)環(huán)境下USN 系統(tǒng)的讀寫性能測試。
實驗結(jié)果比較
本地IDE 硬盤、100M iSCSI 硬盤、1000M iSCSI 硬盤、FC-RAID、FC-RAID 與iSCSI 構(gòu)成的RAID0 及USN 系統(tǒng)數(shù)據(jù)傳輸率性能比較如圖7 所示。
?
本地IDE 硬盤、100M iSCSI 硬盤、1000M iSCSI 硬盤、FC-RAID 及FC-RAID 與iSCSI 構(gòu)成的RAID0 ,以及USN 的IO/ s 性能比較如圖8 所示。
本地IDE 硬盤、100M iSCSI 硬盤、1000M iSCSI 硬盤、FC-RAID及FC-RAID 與iSCSI 構(gòu)成的RAID0 ,以及USN 的平均響應(yīng)時間性能比較如圖9 所示。
?
本地IDE 硬盤、100M iSCSI 硬盤、1000M iSCSI 硬盤、FC-RAID 及FC-RAID 與iSCSI 構(gòu)成的RAID0 ,以及USN 的CPU 占用率比較如圖10 所示。
?
實驗結(jié)果分析
請求文件或數(shù)據(jù)塊大小對存儲系統(tǒng)性能的影響從圖7、圖8 和圖9 中單條曲線的走勢可以看出,當(dāng)請求文件或數(shù)據(jù)塊較大時,從目的盤或系統(tǒng)上讀寫數(shù)據(jù)耗費(fèi)的時間長,通過網(wǎng)絡(luò)傳輸?shù)臅r間也相應(yīng)增加,所以:小包的平均響應(yīng)時間< 大包的平均響應(yīng)時間,小包的IOps > 大包的IOps。請求包大時,針對一個請求包所進(jìn)行的額外操作較請求包小時少,連續(xù)的讀寫所耗費(fèi)的時間小于小包讀寫所耗費(fèi)的時間,因此:小包的MBps < 大包的MBps。
服務(wù)器端iSCSI 盤的各項性能表現(xiàn)趨勢在100M以太網(wǎng)和千兆以太網(wǎng)環(huán)境中不同請求包大小的情況下符合上述規(guī)律,本地IDE 硬盤、FC-RAID 和USN 系統(tǒng)也符合上述述規(guī)律。
性能分析
從圖7、圖8 和圖9 可以看出, I/O 請求在1k~128kB 時,USN系統(tǒng)的I/O 請求響應(yīng)速度比本地IDE 硬盤、FC-RAID、100M遠(yuǎn)程iSCSI 硬盤和1000M iSCSI 硬盤快的多。 當(dāng)I/O 請求大于128kB 時,USN 系統(tǒng)的I/O 請求響應(yīng)速度比FC-RAID 的 I/ O 請求響應(yīng)速度略慢,比其它存儲子系統(tǒng)的速度快的多,最高速度可達(dá)45MB/ s。 其原因是我們在USN 的服務(wù)器端除加載了GMPFS(支持使用多種訪問協(xié)議用戶) 和ASA(提供服務(wù)器通道和附網(wǎng)高速通道) 的同時,還加載了我們實驗室以前開發(fā)的智能預(yù)取、硬盤緩存技術(shù)(DCD) 、負(fù)載均衡和零拷貝系統(tǒng)或軟件模塊,所以,不論是大I/O 請求還小I/O 請求,都能提供極好的I/O 請求響應(yīng)性能。 而FC-RAID 由于自身的數(shù)據(jù)校驗等時延等特性,對小的I/O 請求響應(yīng)速度較慢,對越大的I/O請求響應(yīng)速度越快。
對于USN 的iSCSI 盤存儲子系統(tǒng),從實驗結(jié)果可以看出,當(dāng)請求數(shù)據(jù)塊較小時,100M網(wǎng)絡(luò)環(huán)境下的性能和1000M網(wǎng)絡(luò)環(huán)境下的性能差別不明顯,隨著請求塊或文件逐步增大,兩者IOps 和MBps 的差距越來越大。請求數(shù)據(jù)塊為1024K時,僅更換網(wǎng)絡(luò)傳輸中的數(shù)據(jù)鏈路層和物理層,從100M 網(wǎng)絡(luò)環(huán)境提升到1000M網(wǎng)絡(luò)環(huán)境,磁盤數(shù)據(jù)傳輸率得到較大的提高,后者約是前者的3 倍。
從圖10 可以看出,100M的iSCSI 存儲子系統(tǒng)的CPU 占用率最高,原因是在響應(yīng)用戶的I/O 請求,要求服務(wù)器不斷的對iSCSI 的協(xié)議數(shù)據(jù)單元進(jìn)行封裝和解封裝。 本地的IED 硬盤CPU 占用率最低,USN 系統(tǒng)的服務(wù)器端CPU 占用率次之,原因是USN 系統(tǒng)中小的I/O 請求直接經(jīng)過服務(wù)器處理,而大的I/O 請求經(jīng)過附網(wǎng)高速通道由存儲設(shè)備自身處理。
結(jié)論和展望
我們提出、設(shè)計和實現(xiàn)的統(tǒng)一存儲網(wǎng)絡(luò)系統(tǒng),全部采用IP互聯(lián)設(shè)備,價格比光纖通道低得多,在管理軟件的開發(fā)實現(xiàn)上以及系統(tǒng)的使用維護(hù)上,都具有多得多的資源和經(jīng)驗。 并且,千兆以太網(wǎng)技術(shù)比光纖通道技術(shù)發(fā)展迅速,10Gbps 以太網(wǎng)交換機(jī)已經(jīng)推出并在市場上熱銷,其性能前景也比光纖通道交換機(jī)好得多。 所有這些為統(tǒng)一存儲網(wǎng)絡(luò)的產(chǎn)品化打下了堅實的基礎(chǔ)。
目前,我們已經(jīng)從理論、結(jié)構(gòu)和實踐上實現(xiàn)了統(tǒng)一存儲網(wǎng)絡(luò)原型系統(tǒng),現(xiàn)在,我們正在開發(fā)和完善多用戶、多功能、多種平臺支持的iSCSI 設(shè)備,設(shè)計和實現(xiàn)新的安全和高可用文件系統(tǒng),以便為統(tǒng)一存儲網(wǎng)絡(luò)系統(tǒng)產(chǎn)品化后能真正為廣大企業(yè),尤其是為廣大中小企業(yè)提供開放性、性能、可展性、性/ 價比都更好的海量存儲系統(tǒng)。
評論