理论教育 深入探讨大数据的概念

深入探讨大数据的概念

时间:2023-06-16 理论教育 版权反馈
【摘要】:大数据需要特殊的技术,以有效地处理大量的容忍经过时间内的数据。这是大数据区别于传统数据挖掘的显著特征,如图1-18所示。

深入探讨大数据的概念

1.大数据的定义

大数据(Big data),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

随着云时代的来临,大数据(Big data)也吸引了越来越多的关注。分析师团队认为,大数据(Big data)通常用来形容一个公司创造的大量非结构化数据和半结构化数据,这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像Map Reduce一样的框架来向数十、数百或甚至数千的电脑分配工作。

大数据需要特殊的技术,以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术,包括大规模并行处理(MPP)数据库、数据挖掘、分布式文件系统分布式数据库、云计算平台、互联网和可扩展的存储系统。

2.大数据的特征

(1)数据量大(Volume)。包括采集、存储和计算的量都非常大。大数据的起始计量单位至少是P(1000个T)、E(100万个T)或Z(10亿个T)。

(2)类型繁多(Variety)。包括结构化、半结构化和非结构化数据,具体表现为网络日志、音频、视频、图片、地理位置信息等等,多类型的数据对数据的处理能力提出了更高的要求,如图1-17所示。(www.daowen.com)

(3)价值密度低(Value)。随着互联网以及物联网的广泛应用,信息感知无处不在,信息海量,但价值密度较低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒,但是具有很高的商业价值

(4)速度快时效高(Velocity)。数据增长速度快,处理速度也快,时效性要求高。比如搜索引擎要求几分钟前的新闻能够被用户查询到,个性化推荐算法尽可能要求实时完成推荐。这是大数据区别于传统数据挖掘的显著特征,如图1-18所示。

图1-17数据类型繁多

(5)数据是在线的(Online)。数据是永远在线的,是随时能调用和计算的,这是大数据区别于传统数据最大的特征。现在谈到的大数据不仅仅是大,更重要的是数据变得在线了,这是互联网高速发展背景下的特点。

图1-18数据处理速度快

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈