应用背景
遥感数据要成为有用的信息应用到下游应用当中,经过处理以后还需要经过高级的产品生产来与空间信息的提取。除了部分单位会建立从接收到高级产品生产的整套接收处理系统以外,一般情况下经过接收与初级产品处理系统生产以后的遥感数据在进入下游应用之前,一般会经过更进一步的处理与信息提取,而这部分工作往往由偏应用的单位来承担–遥感高级数据产品生产系统的主要任务就是进行高级产品与专题产品的生产。
遥感高级数据产品生产系统以遥感高级产品与专题产品的生产加工为主,面向用户与行业应用,提供高级产品,包括:
- 1. 几何精纠正产品(三级):几何精校正产品是用地面控制点修正传感器轨道与姿态数据,对图像进行几何精校正处理所得到的产品,如正射影像;
- 2. 地理重编码产品(四级):标准地理信息的图像产品,即对图像进行标记,找到地物与实际地物的对应关系;
- 3. 三维产品(五级):包括纹理图像和DEM高程数据,用于叠加构建三维虚拟场景,例如GOOGLE EARTH 所利用的基础数据;
- 4. 专题产品(六级):提供图像中的专题空间信息,如城市道路网络图,城市绿化图等。
- 5. 更高级产品:提供给领导进行决策支持的空间信息例如:森林火场过火面积与火势蔓延趋势,地震后塌方地点数目与灾情,堰塞湖容积估算,冰雪灾害监测与预报,国土资源土地调查,空间信息系统底图以及标注,城市规划新增建筑,海洋油污染监测,粮食估产,等等……
遥感高级产品生产系统对存储系统提出了非常高的要求:
- l 需要能支持生产线快速调度的柔性存储:遥感高级产品生产系统越来越呈现出向生产线化方式发展的趋势,这要求生产线具有灵活的伸缩性,扩充自如,能快速组织调度:在需要扩大生产能力的时候,能通过在简单地增加新的计算资源和存储资源,即可快速做到生产线的扩容,有效提高数据生产的速度与效率;在需要有紧急任务的时候能够快速整合调度紧急任务处理生产线。
- l 需要能支持生产流水化的文件共享存储:由于遥感高级产品生产需要较多的人工参与与互动,且由于遥感高级产品生产系统的"业务流水化"、"操作平台专门化"和"操作员分工专门化"的发展趋势对存储系统共享互联互通性等支撑遥感高级产品生产流水线化的存储属性提出了较高的要求。
- l 需要能支持实时应急反应的高性能存储:尤其是近年来自然灾害的发生,对遥感高级数据产品(尤其是能为领导提供决策支持高级产品)生产的实时性提出了新的要求,对存储系统在文件共享下的单机性能和聚合性能要求更加突现。
存储方案
本系列方案是根据系统规模推荐了大、中、小三种规模的方案。并假定按方案规模不同,冗余度需求也不同,在大规模的高端系统中采用双控制器标准存储设备、双冗余光纤网络、双冗余BWStor元数据控制器、N+1冗余BWStor I/O节点等多种冗余机制,充分保证系统运行可持续性;在小规模的普通系统中采用成本较低的冗余度设计来保证经济性。当然这种搭配仅是推荐方案,在实际情况中方案冗余度需求与方案规模没有必然联系,在实际方案中方案配置会根据用户实际需求来确定。
本系列方案从小规模系统可平滑升级为中规模系统直至大规模系统,做到系统与外部系统的全面协调可持续发展。
大规模遥感高级数据产品生产系统蓝鲸存储方案建议拓扑图
中规模遥感高级数据产品生产系统蓝鲸存储方案建议拓扑图
小规模遥感高级数据产品生产系统蓝鲸存储方案建议拓扑图
方案配置与特点说明
综合考虑目前各种存储结构,既支持光纤通道连接又支持以太网连接,既可以通过集群方式把标准化的存储设备整合到一起又可以提供文件级共享访问的蓝鲸集群存储系统BWStor无疑是遥感高级数据产品生产系统的最优选择。
- l 本系列方案在BWstor提供的统一文件命名空间下可以根据不同高级数据级别、不同空间分辨率、不同像素分辨率以及数据生产的不同步骤的存储特性来提供不同带宽、不同随机性、不同并发度特性的文件存储服务,例如:为数量较少的需要持续高带宽的工作站提供直接的光纤通道连接,为数量较多的需要低成本连接方式的普通工作站提供以太网连接;另外还可为存储空间信息的空间数据库层提供来自于存储区域网(SAN)的高性能卷,交由数据库自身附带的系统进行管理;本系列方案在BWstor提供的统一文件命名空间下实现存储容量的按需在线扩展,以处理生产规模扩大与设备投入的协调关系,能提供海量存储,支持在线扩展存储容量。当在使用的过程中,存储系统的容量与性能不足时,管理员可以透明的在线添加网络存储设备来增加存储容量和性能。充分满足生产线快速调度的柔性存储需求;
- l 本系列方案通过BWStor元数据控制器的总体控制把标准光纤通道存储集群化成为一个大的存储池来提供文件级共享存储,满足了非结构化数据存储需要,提供遥感数据的集中存储与文件级数据共享:将遥感数据生产的各个处理阶段中的数据,进行集中存储、统一管理,解决在传统应用模式中,数据分散在多个系统中的存储和处理模式,从而保证了数据的可靠性和数据的安全性(如敏感数据等),减化了数据处理的复杂环节与使用流程,并通过分布处理,减少数据的冗余,降低了管理的复杂度;且系统提供标准文件访问接口,实现不同连接方式不同异构系统平台的工作站都能访问同一个统一命名空间,满足高级数据生产流水线所带来的业务连续性需求;充分满足生产流水化的文件共享需求;
- l 本系列方案在BWstor提供的统一文件命名空间下满足遥感数据的高效率传输,实现单个设备提供数据传输高带宽,且随着设备增加,数据访问带宽线性扩展。有效地解决了在生产过程中,对存储系统的I/O带宽要求。当客户端增加时,不会因为客户端增加而出现性能急剧下降的情况,具有非常好的带宽平稳性和很高的多机聚合性能;充分满足生产线实时应急反应的需求;
- l 用户可以根据需求选配相应的管理系统,例如:有自动归档需求需选择配置数据归档系统,数据归档的一组系统将负责在在线、近线、离线存储设备上进行迁移。