本站分享:AI、大数据、数据分析师培训认证考试,包括:Python培训Excel培训Matlab培训SPSS培训SAS培训R语言培训Hadoop培训Amos培训Stata培训Eviews培训

数据分析的基本流程和方法_数据分析师

数据分析 cdadata 6079℃

数据分析的基本流程和方法

关键词:数据分析的流程数据分析方法数据分析流程图数据分析 、数据分析师

概论

在大数据时代,数据分析的重要性显得更加突出,但是数据分析是一个相对比较专业的领域。数据分析的目的性很强,数据收集、数据处理和数据建模都要围绕数据分析的目的展开;同时数据分析有对专业知识和技巧要求比较高,如概率统计、数学建模的等。本文将介绍数据分析的基本流程和方法,并以一个数据分析的具体实例来来揭开数据分析的神秘面纱。

某大型牙膏制造企业为了更好地拓展产品市场,有效地管理库存,公司董事会要求销售部门根据市场调查,找出公司生产的牙膏销售量与销售价格、广告投入等之间的关系,从而预测出在不同价格和广告费用下的销售量。

定义问题

明确数据分析目标是数据分析的出发点。明确数据分析目标就是要明确本次数据分析要研究的主要问题和预期的分析目标等,简单的说就是定义问题。

针对这个具体问题,最根本的目标是预测不同价格和广告费用下的销售量,而且也决定了途径,找出牙膏销售量与销售价格和广告投入之间的关系。所以预期的分析目标确定了,就是预测不同价格和广告费用下的销售量,主要问题如何找到牙膏销售量与销售价格和广告投入之间的关系。

当对研究对象的内在特性和各因素间的关系有比较充分的认识时,一般用机理分析方法进行数据分析,但是如果由于客观事物内部规律的复杂性及人们认识程度的限制,无法分析实际对象内在的因果关系,建立合乎机理规律的数学模型,那么通常的办法是搜集大量的数据,基于对数据的统计分析找到相关因素的关系。

预测牙膏销量的问题,是一个“灰箱”问题,无法准确地在已掌握市场运行规律的基础上去推理分析药膏销量与价格和广告投入之间的关系,再者,要考虑到市场中不只是只有一家牙膏公司。显然,整个问题是无法通过简单推理分析来确定销量与价格和广告投入之间的关系的。

收集数据

正确收集数据是指从分析目标出发,排除干扰因素,正确收集服务于既定分析目标的数据。正确的数据对于实现数据分析目的将起到关键性的作用。如何正确的收集数据呢?简单的说就是用恰当的数据收集方法收集正确的的数据。

总体上讲有三类原始数据收集的方法原始数据包括实验方法、调查方法、观察方法等,

实验研究是一种受控的观测方法,通过一个或多个自变量的变化来评估它对一个或多个因变量产生的效应。统计调查研究(survey research)已经广泛应用于各个领域,包括政治学、社会学、经济学、教育学和管理学科。它是以研究样本的数据为基础辨析总体状况的研究方法。实地研究(fieldresearch)是对自然状态下的研究对象进行直接观察,收集一段时期内若干变量的数据。实地研究(fieldresearch)是对自然状态下的研究对象进行直接观察,收集一段时期内若干变量的数据。每种数据收集的方法都有自己的优缺点和适用范围,这里不详谈。

针对这个问题将采用样本统计调查(sample survey)的方法,但是该收集那些数据呢?研究的主要问题就是发现本公司牙膏销量与牙膏价格和广告投入的关系。正确的数据肯定包含该公司各个销售周期的销售量、销售价格和广告投入。但是从上面的分析中可以看到,本公司的牙膏销量绝对和其他公司的牙膏价格有关系,因此把其他牙膏公司的销售价格也作为数据收集对象。

数据处理

在明确数据分析目标基础上收集到的数据,往往还需要进行必要的加工整理后才能真正用于分析建模。数据的加工整理通常包括数据缺失值处理、数据的分组、基本描述统计量的计算、基本统计图形的绘制、数据取值的转换、数据的正态化处理等,它能够帮助人们掌握数据的分布特征,是进一步深入分析和建模的基础。

回到具体问题,收集到的数据有该公司的每个销售周期的牙膏销售量、价格、广告投入、和其他牙膏公司的价格。其他牙膏公司的价格和各公司的牙膏销售量有关系,但是其他公司的药膏价格却是有很多统计变量组成的,但是这些变量的影响作用是具有同样的规律,可以把这些变量看做一个整体,于是可以对这些统计变量做个取均值的处理,这是对数据处理的第一步。

由于牙膏是生活必需品,对大多数顾客来说,在购买同类产品的牙膏时更多地会在意不同品牌之间的价格差异,而不是它们的价格本身因此,在研究各个因素对销售量的影响时,用价格差代替公司销售价格和其它厂家平均价格更为合适。这是对数据处理的第二步。

公司销售价格(元) 其他厂平均价格(元) 广告费用(百万元) 价格差 销售量(百万支)
3.85 3.8 5.5 -0.05 7.38
3.75 4 6.75 0.25 8.51
3.7 4.3 7.25 0.6 9.52
3.7 3.7 5.5 0 7.5
3.6 3.85 7 0.25 9.33
3.6 3.8 6.5 0.2 8.28
3.6 3.75 6.75 0.15 8.75
3.8 3.85 5.25 0.05 7.87
3.8 3.65 5.25 -0.15 7.1
3.85 4 6 0.15 8
3.9 4.1 6.5 0.2 7.89
3.9 4 6.25 0.1 8.15
3.7 4.1 7 0.4 9.1
3.75 4.2 6.9 0.45 8.86
3.75 4.1 6.8 0.35 8.9
3.8 4.1 6.8 0.3 8.87
3.7 4.2 7.1 0.5 9.26
3.8 4.3 7 0.5 9
3.7 4.1 6.8 0.4 8.75
3.8 3.75 6.5 -0.05 7.95
3.8 3.75 6.25 -0.05 7.65
3.75 3.65 6 -0.1 7.27
3.7 3.9 6.5 0.2 8
3.55 3.65 7 0.1 8.5
3.6 4.1 6.8 0.5 8.75
3.65 4.25 6.8 0.6 9.21
3.7 3.65 6.5 -0.05 8.27
3.75 3.75 5.75 0 7.67
3.8 3.85 5.8 0.05 7.93
3.7 4.25 6.8 0.55 9.26

记牙膏销售量为y,其它厂家平均价格与公司销售价格之差(价格差)为x1公司投入的广告费用为x2,其它厂家平均价格和公司销售价格分别为x3和x4, x1=x3-x4.

为了大致分析请y与x1和x2的关系,我们可以分别简单的绘制y对x1和x2的散点图。

数据分析的基本流程和方法_数据分析师

图 1 y对x1的散点图

从图1可以发现,随着x1的增加,y的值有比较明显的线性增长趋势,图中的直线是用线性模型。

数据分析的基本流程和方法_数据分析师

图 2 y对x2的散点图

当x2增大时,y有向上弯曲增加的趋势,图中的曲线使用二次函数拟合的,可以看到二者具有非线性关系。

数据建模

数据加工整理完成后一般就可以进行进一步的数据分析了。分析时应切忌滥用和误用统计分析方法。滥用和误用统计分析方法主要是由于对方法能解决哪类问题、方法适用的前提、方法对数据的要求不清等原因造成的。另外,统计软件的不断普及和应用中的不求甚解也会加重这种现象。因此,在数据分析中应避免盲目的”拿来主义”,否则,得到的分析结论可能会偏差较大甚至发生错误。

另外,选择几种统计分析方法对数据进行探索性的反复分析也是极为重要的。每一种统计分析方法都有自己的特点和局限,因此,一般需要选择几种方法反复印证分析,仅依据一种分析方法的结果就断然下结论是不科学的。

很对本问题,经过数据的简单处理和分析,已经可以看到销售量总体上和价格差成线性关系,销售量和广告投入上成非线性关系,因此可以建立一个回归模型,根据统计信息来求解模型,获得变量的系数,完成对模型的求解。

从图1可以发现,随着x1的增加,y的值有比较明显的线性增长趋势,可以得到公式1,

(1)

从图2中可以你发现,当x2增大时,y有向上弯曲增加的趋势,可以得到公式2,

(2)

根据以上分析可以建立如下回归模型(3)

(3)

其中和成为回归变量,,,,就是回归系数,影响的其它因素包含在随机误差中。

直接利用MATLAB中统计工具箱中的命令regress求解,使用格式为

[b,bint,r,rint,stats] = regress(y,x,alpha).其中,y为表中30个周期的销售量,长度为30的一向量,x为回归系数的数据矩阵[1,,,],是一个30*4的向量,b为回归系数向量的估计值,bint为其置信区间,r为残差向量,rint为残差向量的置信区间,stats为回归模型的检验统计量,包括三个变量,回归方程的决定系数,F统计变量值,与F统计变量值对应的概率p。

分析与结论

数据分析的直接结果是统计量和统计参数。正确理解它们的统计含义是一切分析结论的基础,它不仅能帮助人们有效避免毫无根据地随意引用统计数字的错误,同时也是证实分析结论正确性和可信性的依据,而这一切都取决于人们能否正确地把握统计分析方法的核心思想。

另外,将统计量和统计参数与实际问题相结合也是非常重要的。客观地说,统计方法仅仅是一种有用的数据分析工具,它绝不是万能的。统计方法是否能够正确地解决各学科的具体问题不仅取决于应用统计方法或工具的人能否正确地选择统计方法,还取决于他们是否具有深厚的应用背景。只有将各学科的专业知识与统计量和统计参数相结合,才能得出令人满意的分析结论。

本问题的计算结果如下:

参数 参数估计值 参数置信区间
β_0 17.3244 [5.7282,28.9206]
β_1 1.307 [0.6829,1.9311]
β_2 -3.6956 [-7.4989,0.1077]
β_3 0.3486 [0.0379,0.6594]

且=0.9054, F = 82.9409, p= 0

=0.9054表示销售量的90.54%可由上述模型确定,F值远超过F检验的临界值,p远小于0.05,因而从总体上看模型是可用的。

回归模型的一个重要应用是,对于给定的回归变量的取值,可以以一定的置信度预测因变量的取值范围,即预测区间。比如当x1=0.2,x2=6.5 时可以算出牙膏销售量的置信度为95的预测区间[7.8230,8.7636],它表明在将来的某个销售周期中,如公司维持产品的价格差为0.2元,并投入650万元的广告费用,那么可以有95%的把握保证牙膏的销售量在7.8230,8.7636百万支之间,实际操作时,预测上限可以用来作为库存管理的目标值,即公司可以生产(或库存)8.763百万支牙膏来满足该销售周期顾客的需求;预测下限则可以用

来较好地把握(或控制)公司的现金流,理由是公司对该周期销售7.8230  百万支

牙膏十分自信.这在实际中将具有非常大的作用。

转载请注明:数据分析 » 数据分析的基本流程和方法_数据分析师

喜欢 (5)or分享 (0)