大数据时代数据分析面临的挑战

文 | Smartbi大数据百科 2021-06-04 阅读次数:5887 次浏览

商业智能BI产品更多介绍:https://www.smartbi.com.cn/

商业智能BI产品更多介绍:点击前往

    数据分析技术的挑战(一)数据噪音的增多

    数据量大并不一定意味着数据价值的增加,也有可能是意味着数据噪音的增多。

    因此,在数据分析之前必须进行数据清洗等预处理工作,但是预处理如此大量的数据,对于计算资源和处理算法来讲都是非常严峻的考验。

    数据分析技术的挑战(二)大数据时代的算法需要进行调整

    大数据的应用常常具有实时性的特点,算法准确率不再是大数据应用的最主要指标。很多时候,算法需要在处理实时性和准确率之间博得一个平衡点。

    其次,分布式并发计算系统是进行大数据处理的有力工具,这就要求很多算法必须做出调整以适应分布式并发的计算框架,算法需要变得具有可扩展性。许多传统的数据挖掘算法都是线性执行的,面对海量的数据很难在合理的时间内获取所需的结果。因此需要重新把这些算法实现成可以并发执行的算法,以便完成对大数据的处理。

    最后,在选择处理大数据的算法时必须谨慎,当数据量增长到一定规模以后,可以从少量数据中挖掘出有效信息的算法并非一定适用大数据。

    数据分析技术的挑战(三)数据结果的衡量标准

    对大数据进行分析并非易事,同样的,对大数据分析结果好坏如何衡量也是大数据时代数据分析面临的更大挑战之一。

    大数据时代的数据体量大、类型混杂、产生速度快,进行分析时如果没有对整个数据的分布特点了如指掌,无疑会导致在设计衡量的方法、指标时遇到困难。

申请试用 了解更多
Copyright© 广州思迈特软件有限公司  粤ICP备11104361号

电话咨询

售前咨询
400-878-3819 转1

售后咨询
400-878-3819 转2
服务时间:工作日9:00-18:00

sales邮箱

商务咨询请联系邮箱

邮箱地址:sales@smartbi.com.cn