大数据应用需要怎样的IT架构
2013年6月,中桥调研咨询对中国480家最终用户的 IT管理 者和专业人员,就 大数据 市场和技术发展趋势展开了调查。中桥结合对中国大数据市场的调研数据和分析,将分成四个系列对“中国大数据价值和趋势”进行解读。
在系列2里,中桥将就大数据分析对IT资源的需求,包括IT架构、计算节点以及 存储 技术等进行分析。
在 大数据时代 ,随着数据存储量的爆炸性增长以及分层网络架构的出现,IT复杂性达到了前所未有的高度,而大数据分析使得传统IT架构更是不堪重负。那么从 企业 角度来看,他们的大数据环境需要怎样的IT架构呢?中桥调查结果表明(图1),企业级用户(员工人数在1000人以上)主要选择的是“透明、经济、智能、 自动化 ”的IT架构(29.3%), 中小企业 (员工人数在1000人以下)则主要选择的是 一体机 方案 ( 服务器 、存储、网络、大数据分析软件)( 28 .9%)。企业级用户倾向于开放、异构、跨平台的IT架构,因为其用于大数据分析的IT架构发展较为成熟,如何继续提高 BI 效率是企业级用户选择IT架构的重点。中小企业尚处于IT架构发展初期,因此一体机的方案成为中小企业的首选。受访者的选择结果也体现了中国企业未来对IT架构的需求趋势,说明数据整合和ETL是中国企业的迫切需求,也是目前面临的最大问题之一。
图1. 大数据环境对IT架构的需求
大数据分析对计算技术的需求
再从大数据分析的计算方式来看(图2),21.6%和21.3%的企业级用户分别考虑 x86 虚拟化 和 小型机 来部署大数据分析方案,中小企业(23.8%)则主要考虑 刀片服务器 的计算方式。刀片服务器的高密度特点有利于提高计算能力、保持高IT密度。企业级的应用多数运行在小型机的平台上,这造成如果大数据分析是在现有基础上实现,则小型机就成为了企业级的首选;如果要选择在一个全新平台实现大数据分析,那么X86虚拟化就成为了企业级用户的第一选择。结合我们之前所分析的,目前中国市场的大数据分析速度和频率远低于欧美市场,这导致中国企业在数据分析,这个大数据通过IT创造价值,这一重要环节上比较薄弱。
图2.大数据分析对计算技术的需求
大数据分析对存储的需求
从大数据分析的第一个环节——数据收集和存储来看,大数据时代应用数量、应用数据量和使用者数量的增长,对存储IOPS以及OLTP和OLAP的要求越来越高,具体体现在存储不能满足业务关键型应用的需求。从中桥就企业支持当前数据分析和/或进程活动的存储类型分析来看(图3),FC SAN 是企业级用户(42.1%)和中型企业(34.0%)的首选,远高于其他存储类型的企业占比。这是因为FC SAN对OLTP和OLAP的性能稳定性优于其他存储技术。这一调查结果也体现了,目前中国用户大多处于大数据分析的第一阶段,存储和IT架构大多以集中式为主。随着 Hadoop 和MapReduce的不断普及,用户逐渐进入近实时和实时分析阶段,节点式存储的占比会随之逐渐增加。
图3.大数据分析对存储的需求
那么在大数据时代企业的存储能够满足需求呢(图4)?中桥调研结果显示,31.6%的用户计划在未来12个月部署新存储来满足业务关键型应用的需求,33.2%计划在未来12-24个月部署新存储。这表明传统存储越来越无法满足业务关键应用的性能需求。在未来24个月,64.8%的用户将会部署新存储来满足大数据时代,业务关键型应用对存储性能越来越高的需求。
图4 大数据分析时代存储的发展趋势
通过上述一系列大数据对IT资源的需求分析,中桥分析师认为,传统的IT架构、计算方式以及存储正成为中国用户通过大数据分析处理快速提高IT效率,挖掘数据价值的巨大阻碍。而统一、透明、智能的自动化IT架构管理、高密度下卓越的计算能力,以及能够满足存储IOPS与OLTP和OLAP的新型存储则能够为企业创造价值,实现通过IT突破创新来提升企业竞争力的目的。
(该系列报告的第一部分:参见 “未来两年大数据市场和技术趋势分析”)