DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开
DOITAPP
DOIT数据智能产业媒体与服务平台
立即打开

构造文化共享工程IPSAN存储解决方案

 

 

前言

"全国文化信息资源共享工程"(简称文化共享工程)是由文化部牵头、财政部共同组织实施的国家级文化公益工程,受到党中央国务院高度重视,同时也是国家"十一五"期间的重点公共文化工程。

此项工程是利用先进科技手段传播、建设先进文化的大型公益性文化网络工程,旨在整合全国文化信息资源,通过互联网、卫星宽带传输和光盘将数字化文化信息资源传输到群众身边,实现优秀文化信息资源在全国范围内的共建共享,满足广大人民群众日益增长的文化需求,整体提高文化资源的利用率。

文化共享工程开辟了一个不受地域、时空限制的崭新的文化传播渠道,对迅速扭转中国广大中西部地区,特别是贫困地区的信息匮乏和经济、文化落后的状况将起到极大的作用,对继承和发扬中华民族优秀文化,实施"科教兴国"的战略将产生深远的影响。

挑战

随着文化共享工程的深入建设,数据量、业务压力都随之高速增长,对于存储系统的建设也会提出更高的要求。对于文化共享工程的应用进行分析,主要的应用类型有如下几类:流媒体点播、数据库、文件共享、非线性编辑系统。根据各类应用的不同,可以将其分为两种不同的应用模型:大流量的数据读取,如流媒体、文件共享、非线性编辑等,而数据库属于大量小数据的并发读写。针对两种不同类型的业务,主要是通过对数据块大小、卷划分等方面进行性能的调优,即可针对不同业务实现较好的技术支撑。而对于备份、归档的需求,也需要根据各种应用的特点进行合理的规划。

在整个文化共享工程项目中,每个省级中心和每个县级中心需要规划存储容量来保存文化共享工程的有关视频、数字资料等数据。由于各省中心的维护力量有限,而各县级中心更是缺乏足够的技术维护力量,对于遍布全国各个县市的存储、服务器、网络等设备,要求尽量提供简便的管理维护工具,并且尽量提供快速周到的售后服务。

归纳起来,对存储系统的需求如下:

先进的存储架构

存储架构能够适应应用系统目前及未来存储容量的需求,又能够对存储资源进行集中化管理和利用,为适应应用系统提供一个集中、安全、可靠的存储环境。高性能的存储系统应用系统的所有数据需要集中的存储系统支持,即同时连接多台应用服务器,而且必须兼备很高的I/O性能。

易扩展的存储架构

存储数据量较大,且数据的增长速度较快。因此在建设存储架构时,应从长远的角度考虑,建设一个长期的存储架构,除了可以应对存储硬件设备的升级速度外,还必须考虑到对前期存储设备的投资保护,在保证不断提供功能和性能提高的同时,存储架构在较长的时间内能够保持相对稳定。

安全的数据保护措施

数据是应用系统核心应用的最终保障,不但要保证整套系统能够7×24运行,而且存储系统必须有高可用性,以保证应用系统对数据的随时存取。

可行性原则

对设计方案采用的技术和产品要进行严格的可行性论证,把风险降低到最低限度;设计的方案要系统、科学、正确、严谨且现实可行;采用的先进技术应是成熟的经过实践证明是成功的技术;选用的软硬件平台是信誉较高的大公司的名牌产品。

简单易用的管理工具

应用系统的核心是数据存储,所以存储设备的数据分类和管理功能十分重要。为了提高系统管理的效率,存储系统必须有便于使用的存储管理工具。

解决方案

在前述的分析当中,我们提到目前文化共享工程当中主要的应用类型,那么针对不同的应用类型,如何规划相应的存储系统及解决方案?

对于数据库等类型的应用,建议采用块级别的SAN存储,选择对IOPS有一定要求的存储系统,以满足大量用户并发调用数据库的压力。根据数据库系统数据容量、重要性的不同,建议在方案规划当中,一方面考虑到业务压力的支撑,另一方面对重要数据进行完善的数据保护。目前,在诸如电信运营商、金融系统内,高端FC存储的数据库应用较为成熟;而在企业、政府部门当中,由于其数据访问量适中,更关注安全性、管理性和投资成本问题,FC、IP SAN存储都有了相当多的应用。数据库一般来讲保存的都是比较重要的结构数据,读写操作频繁,对其数据的安全性、业务的连续性都有极高的要求。所以,对数据库系统的备份,建议进行CDP(连续数据保护)系统的建设。CDP对上层应用透明,借助领先的快照、复制等技术,保存数据卷的连续时间版本,一旦发生误删除等数据丢失事故,可以通过回溯到之前保存的任意时间版本,即可快速实现恢复,从根本上提供一整套完整的数据备份方案,并能够提供向未来容灾中心建设的升级扩展。

而对于文件共享、流媒体视频点播等业务,由于前端需要大量的服务器作为文件服务器、流媒体服务器等,调用后端的存储资源,为了提高存储的使用效率,一般会使用SAN存储来实现,而在大量服务器接入时,IP SAN的接入成本优势使得它成为较适合此业务的系统。对于这些数据的保护,更多的是归档的需求,将数据导出之后,进行归档、保存。

非线性编辑,对于多路视频数据的并发读写、修改,此应用对于存储系统的持续高带宽读写的要求较高,建议采用多链路绑定的IP存储或者高带宽的FC存储提供对非线性编辑系统的支撑。而非线性编辑系统当中,大多数数据都是调用的素材数据和产生的节目数据,一旦编辑完成后,都会送入媒体资源库当中进行归档,不会有大数据量的备份需求,所以对于非线性编辑系统当中,一般来说不会建设专门的数据备份系统,仅需考虑增加一台磁带机设备导出磁带即可。

根据文化共享工程当中的规划,在每个县级中心可以分别配制三台宝德服务器和一台宝德IP-SAN存储设备。IP-SAN存储设备和服务器之间通过网络交换机进行数据通讯。在本方案中宝德采用了最新推出一款高性能、高可靠GS-9940i IP SAN的存储架构,数据传输完全可以利用专用的IP网络进行,大大提高了传输的速度、降低拥有成本和设备的管理成本。

GS-9940i存储设备上的千兆主机端口分别与二层交换机的千兆口连接,同时八个千兆主机接口支持链路聚合和故障切换,可以根据数据流量进行设置,当数据传输量增大时可以通过链路的聚合提高传输的速度。

主要特性及优点

采用64位PowerPC 750GL 800MHz RISC CPU,每个控制器最大支持2GB Registered ECC DDR RAM;

提供热插拔磁盘驱动器和冗余电源:提供高级数据保护;

提供多种RAID级别:RAID 0,1(0+1),3,5,6,10,30,50,60 and NRAID;

全方位失败管理,提供更全面、更安全的数据存储环境:自动坏扇区重赋值;热插拔;后备磁盘操作 (支持全局后备磁盘/局部后备磁盘);后台重建 (包括优先权重建);支持文件写后校验,重写或设置RAID初值;

采用先进的SAS磁盘接口,支持SAS与SATA硬盘混装使用;

无线缆背板设计(Cable less);

大容量:单机容量可达16TB,可支持高到80TB的存储容量(单控制器);

最大支持32个逻辑盘,每逻辑盘最大可分为64个分区;

支持多种操作系统;

简单的互连特性提供卓越的存储扩展能力;

支持Lun Masking功能,可以把阵列划分成多个区,让不同的服务器独享某个区;

防震箱体设计提高磁盘稳定性和可靠性;

支持以太网交换Trunking功能;

支持Vlan功能;

高数据传输性能

支持并发访问请求,能完成从主机到硬盘的高速并行数据传输。为了达到最高的数据吞吐量, 阵列内部所有环节均采用LVD接口,包括并发I/O,命令队列特性等都已在控制器内部完成。控制器采用高性能的64位PowerPC 750GL 800MHz RISC CPU以使I/O任务智能化。高速缓存可以完成智能的read-ahead 和 write-back。有了高性能的设计,提供了一个基于网络接口计算机的广泛存储方案,以应用单用户工作站、高端PC服务器、UNIX中央主机等环境当中。

高运算性能

控制器的CPU采用0.18微米制作工艺的IBM PowerPC 750 GL CPU。IBM PowerPC 750 GL CPU采用了Supper Scalars架构(在一个时钟内执行多个指令),有效的提高MIPS速度,在实际系统应用中真正达到速度提升,同时在其CPU内部集成了1MB内部二级缓存,大大缩短了CPU与Cache的交互时间。PowerPC 750 GL CPU应用在繁重的RAID运算上,能有效地提升对I/O的处理速度,做到高速高效。

高数据容错能力

GS-9940i提供RAID 0,1(0+1),3,5,6,10,30,50,60 and NRAID可供选择. 这些RAID功能给用户数据的高可靠性提供了保证。例如自动侦测失效盘, 热备用硬盘, 坏盘数据重建, 在线更换硬盘, 后台自动重建等。GS-9940i在读写硬盘的时候,可以自动校验处理坏扇区,从同一逻辑盘中的其他硬盘获得坏盘数据,并对坏扇区重置。而所有这一切的操作对主机来说,都是透明的。

部署容易,切换容易

GS-9940i对安装的物理位置没有特殊要求,凡是有网口的地方就能安装。产品的所有功能在出厂前均已预置,只需插上网线电源即可投入使用,启动服务器上只需安装相应的协议,工作时iSCSI存储设备可以自由在安装iSCSI协议的服务器间切换。

通过iSCSI 技术,使用GS-9940i组建的存储系统可以实现对企业关键性任务数据的整合、管理、备份和修复;而所消耗的成本,无论在资本还是人力资源方面,都只相当于当今流行FC SAN 技术的一小部分。
一个典型的GS-9940i存储方案就是在主机与存储设备之间用iSCSI协议通过千兆或者万兆网连接。整个存储系统是开放式的结构,可以随时在原有的存储系统结构里增加、减少基本存储单元。GS-9940i存储系统允许虚拟存储池跨越多个平台和结构。GS-9940i存储系统支持了远程镜像、异地备份、数据快照、逻辑卷配置、数据备份、状态监控、存储池管理的功能。所有的管理操作都使用WEB方式的管理工具用来集中地进行。

宝德构建的iSCSI存储系统装备成本低廉,甚至可以分期投资。目前,iSCSI存储网的吞吐速度还不如FC SAN,但如果使用10Gb 以太网就完全可以与FC SAN在性能上一争高下,而且iSCSI升级非常容易只需更换网络接口设备即可。采用iSCSI存储区域网络,使数据存储更为稳固,共享了昂贵的存储资源,提高了存储设备的利用率,同时管理的复杂程度大大降低。使用一个可靠的存储池中集中管理,企业可以避免各个独立的直接存储带来的大量管理任务。

方便管理

GS-9940i提供的存储管理软件可以在本地或远程设置,管理,监测和调整盘阵的运行。友好的基于浏览器的图形用户界面充分描述盘阵的拓扑结构及运行状态,使发生的问题轻易得到处理,保障系统持续运行。
GS-9940i的管理软件提供了强大的自动优化功能,如自动磁盘间负载平衡、初始化和写入时校验确认、根据应用进行I/O优化等。自动呼叫功能提醒管理人员任何细微的异常情况,加上系统的S.E.S.(SCSI Enclosure Service)的7×24全程监控,将任何错误信息通过蜂鸣器报警、用户操作面板显式以及传呼、Email等方式通知系统管理员。

无单点故障

GS-9940i提供冗余控制器(双控)、电源、风扇与分布式热备用硬盘,所有的组件都是热插拔的;同时,可采用使用第三方多路径软件或卷管理软件管理服务器到存储之间的多数据路径,正常情况下可实现负载均衡提供IO性能,当一条路径出现故障时,便可以使用另一条通向控制器的路径,以保证应用程序正常运行。

展望

随着IP SAN技术成熟,不断发展,有三个无限:基于以太网没有速度限制;没有距离限制,可无缝连接,实现低价格的远程容灾;没有容量限制。基于IP网络的存储系统,以传统以太网的价格实现同等于光纤网络的性能,实现真正的即插即用Plug &Play,无需客户端软硬件升级、零维护成本、使用人员无需技术培训,降低企业的拥有成本与维护成本,而且升级扩容简单方便。

借助于宝德优势的服务器平台及整套的IP存储技术,能够构建起各种应用及数据资源平台,为构建文化资源共享平台实现坚实的技术基础。

未经允许不得转载:DOIT » 构造文化共享工程IPSAN存储解决方案