大数据社会影响

大数据社会影响

大数据从概念兴起到应用落地,虚拟化技术、大规模分布式数据管理技术、分布式的并行编程模式、面向服务的应用组装及管理、前端展现及交互技术的发展日新月异,为数据的产生、存储、处理提供了技术支撑。

同时,互联网思维日益喧嚣,各路诸侯跃跃欲试。“互联网+”导致企业视野更广,手臂更长,企业将触及前所未有的海量数据,同时应用场景也将层出不穷。

大数据具有四个特点:

(1)规模性。从现在的TB/PB级体量,很快就将进入ZB时代;

(2)异构性。类型丰富,既包括结构化数据,还包括图片、声音、视频等非结构化数据;

(3)时效性。数据采集和处理即时性强,满足市场的瞬息万变;(4)价值性。针对实际应用场景,提出可落地的管理建议。

传统的数据,实质上是基于业务逻辑的小数据,来自企业信息系统,如零售商的进销存系统。在万物互联时代,大数据是由非结构化数据构成,这些数据比原来的结构化数据多得多,比如微信里的一张照片抵得上小型超市进销存系统一个月的数据量。

目前,无线网络、可穿戴设备、物联网的普及,在丰富数据来源的同时,大大降低了数据采集成本。

大数据的社会影响

进入大数据时代,工业时代产生的社会结构和政治形态,都将被重塑。在过去,基础设施包括铁路、公路、机场、港口,而今智能终端、云计算、宽带网络扩展了其内涵;

在过去,土地、劳动力、资本是核心生产要素,而今数据已成为最有价值的资产。在过去,基于产业链的分工体系和市场体系,存在着巨大限制,如资源、制造基地和市场在时空层面的隔离与不平衡,会产生高额成本,也会受到规模限制。而今,大数据推动了大规模协同与共享协作方式。

目前,大数据领域每年都会涌现出大量新的技术,成为大数据获取、存储、处理分析或可视化的有效手段。大数据技术能够将大规模数据中隐藏的信息和知识挖掘出来,为人类社会经济活动提供依据,提高各个领域的运行效率,甚至整个社会经济的集约化程度。

1.大数据生命周期

图1展示了一个典型的大数据技术栈。底层是基础设施,涵盖计算资源、内存与存储和网络互联,具体表现为计算节点、集群、机柜和数据中心。

在此之上是数据存储和管理,包括文件系统、数据库和类似YARN的资源管理系统。然后是计算处理层,如hadoop、MapReduce和Spark,以及在此之上的各种不同计算范式,如批处理、流处理和图计算等,包括衍生出编程模型的计算模型,如BSP、GAS 等。数据分析和可视化基于计算处理层。分析包括简单的查询分析、流分析以及更复杂的分析(如机器学习、图计算等)。查询分析多基于表结构和关系函数,流分析基于数据、事件流以及简单的统计分析,而复杂分析则基于更复杂的数据结构与方法,如图、矩阵、迭代计算和线性代数。

一般意义的可视化是对分析结果的展示。但是通过交互式可视化,还可以探索性地提问,使分析获得新的线索,形成迭代的分析和可视化。基于大规模数据的实时交互可视化分析以及在这个过程中引入自动化的因素是目前研究的热点。

有2个领域垂直打通了上述的各层,需要整体、协同地看待。一是编程和管理工具,方向是机器通过学习实现自动最优化、尽量无需编程、无需复杂的配置。另一个领域是数据安全,也是贯穿整个技术栈。

除了这两个领域垂直打通各层,还有一些技术方向是跨了多层的,例如“内存计算”事实上覆盖了整个技术栈。

2.大数据技术生态

大数据的基本处理流程与传统数据处理流程并无太大差异,主要区别在于:由于大数据要处理大量、非结构化的数据,所以在各处理环节中都可以采用并行处理。目前,Hadoop、MapReduce和Spark等分布式处理方式已经成为大数据处理各环节的通用处理方法。

Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。Hadoop 是一个数据管理系统,作为数据分析的核心,汇集了结构化和非结构化的数据,这些数据分布在传统的企业数据栈的每一层。

Hadoop也是一个大规模并行处理框架,拥有超级计算能力,定位于推动企业级应用的执行。Hadoop又是一个开源社区,主要为解决大数据的问题提供工具和软件。

虽然Hadoop提供了很多功能,但仍然应该把它归类为多个组件组成的Hadoop生态圈,这些组件包括数据存储、数据集成、数据处理和其他进行数据分析的专门工具。图2 展示了Hadoop 的生态系统,主要由HDFS、MapReduce、Hbase、Zookeeper、Oozie、Pig、Hive等核心组件构成,另外还包括Sqoop、Flume等框架,用来与其他企业融合。

同时,Hadoop 生态系统也在不断增长,新增Mahout、Ambari、Whirr、BigTop 等内容,以提供更新功能。

Tong, Peter