數據分析的基本流程和方法
  • 作者:
  • 發表時間:2018-12-27 11:56
  • 來源:未知

關鍵詞:數據分析的流程數據分析流程圖數據分析 、數據分析師

概論

在大數據時代,數據分析的重要性顯得更加突出,但是數據分析是一個相對比較專業的領域。數據分析的目的性很強,數據收集、數據處理和數據建模都要圍繞數據分析的目的展開;同時數據分析有對專業知識和技巧要求比較高,如概率統計、數學建模的等。本文將介紹數據分析的基本流程和方法,並以一個數據分析的具體實例來來揭開數據分析的神秘麵紗。

某大型牙膏製造企業為了更好地拓展產品市場,有效地管理庫存,公司董事會要求銷售部門根據市場調查,找出公司生產的牙膏銷售量與銷售價格、廣告投入等之間的關係,從而預測出在不同價格和廣告費用下的銷售量。

定義問題

明確數據分析目標是數據分析的出發點。明確數據分析目標就是要明確本次數據分析要研究的主要問題和預期的分析目標等,簡單的說就是定義問題。

針對這個具體問題,最根本的目標是預測不同價格和廣告費用下的銷售量,而且也決定了途徑,找出牙膏銷售量與銷售價格和廣告投入之間的關係。所以預期的分析目標確定了,就是預測不同價格和廣告費用下的銷售量,主要問題如何找到牙膏銷售量與銷售價格和廣告投入之間的關係。

當對研究對象的內在特性和各因素間的關係有比較充分的認識時,一般用機理分析方法進行數據分析,但是如果由於客觀事物內部規律的複雜性及人們認識程度的限製,無法分析實際對象內在的因果關係,建立合乎機理規律的數學模型,那麽通常的辦法是搜集大量的數據,基於對數據的統計分析找到相關因素的關係。

預測牙膏銷量的問題,是一個“灰箱”問題,無法準確地在已掌握市場運行規律的基礎上去推理分析藥膏銷量與價格和廣告投入之間的關係,再者,要考慮到市場中不隻是隻有一家牙膏公司。顯然,整個問題是無法通過簡單推理分析來確定銷量與價格和廣告投入之間的關係的。

收集數據

正確收集數據是指從分析目標出發,排除幹擾因素,正確收集服務於既定分析目標的數據。正確的數據對於實現數據分析目的將起到關鍵性的作用。如何正確的收集數據呢?簡單的說就是用恰當的數據收集方法收集正確的的數據。

總體上講有三類原始數據收集的方法原始數據包括實驗方法、調查方法、觀察方法等,

實驗研究是一種受控的觀測方法,通過一個或多個自變量的變化來評估它對一個或多個因變量產生的效應。統計調查研究(survey research)已經廣泛應用於各個領域,包括政治學、社會學、經濟學、教育學和管理學科。它是以研究樣本的數據為基礎辨析總體狀況的研究方法。實地研究(fieldresearch)是對自然狀態下的研究對象進行直接觀察,收集一段時期內若幹變量的數據。實地研究(fieldresearch)是對自然狀態下的研究對象進行直接觀察,收集一段時期內若幹變量的數據。每種數據收集的方法都有自己的優缺點和適用範圍,這裏不詳談。

針對這個問題將采用樣本統計調查(sample survey)的方法,但是該收集那些數據呢?研究的主要問題就是發現本公司牙膏銷量與牙膏價格和廣告投入的關係。正確的數據肯定包含該公司各個銷售周期的銷售量、銷售價格和廣告投入。但是從上麵的分析中可以看到,本公司的牙膏銷量絕對和其他公司的牙膏價格有關係,因此把其他牙膏公司的銷售價格也作為數據收集對象。

數據處理

在明確數據分析目標基礎上收集到的數據,往往還需要進行必要的加工整理後才能真正用於分析建模。數據的加工整理通常包括數據缺失值處理、數據的分組、基本描述統計量的計算、基本統計圖形的繪製、數據取值的轉換、數據的正態化處理等,它能夠幫助人們掌握數據的分布特征,是進一步深入分析和建模的基礎。

回到具體問題,收集到的數據有該公司的每個銷售周期的牙膏銷售量、價格、廣告投入、和其他牙膏公司的價格。其他牙膏公司的價格和各公司的牙膏銷售量有關係,但是其他公司的藥膏價格卻是有很多統計變量組成的,但是這些變量的影響作用是具有同樣的規律,可以把這些變量看做一個整體,於是可以對這些統計變量做個取均值的處理,這是對數據處理的第一步。

由於牙膏是生活必需品,對大多數顧客來說,在購買同類產品的牙膏時更多地會在意不同品牌之間的價格差異,而不是它們的價格本身因此,在研究各個因素對銷售量的影響時,用價格差代替公司銷售價格和其它廠家平均價格更為合適。這是對數據處理的第二步。

公司銷售價格(元) 其他廠平均價格(元) 廣告費用(百萬元) 價格差 銷售量(百萬支)
3.85 3.8 5.5 -0.05 7.38
3.75 4 6.75 0.25 8.51
3.7 4.3 7.25 0.6 9.52
3.7 3.7 5.5 0 7.5
3.6 3.85 7 0.25 9.33
3.6 3.8 6.5 0.2 8.28
3.6 3.75 6.75 0.15 8.75
3.8 3.85 5.25 0.05 7.87
3.8 3.65 5.25 -0.15 7.1
3.85 4 6 0.15 8
3.9 4.1 6.5 0.2 7.89
3.9 4 6.25 0.1 8.15
3.7 4.1 7 0.4 9.1
3.75 4.2 6.9 0.45 8.86
3.75 4.1 6.8 0.35 8.9
3.8 4.1 6.8 0.3 8.87
3.7 4.2 7.1 0.5 9.26
3.8 4.3 7 0.5 9
3.7 4.1 6.8 0.4 8.75
3.8 3.75 6.5 -0.05 7.95
3.8 3.75 6.25 -0.05 7.65
3.75 3.65 6 -0.1 7.27
3.7 3.9 6.5 0.2 8
3.55 3.65 7 0.1 8.5
3.6 4.1 6.8 0.5 8.75
3.65 4.25 6.8 0.6 9.21
3.7 3.65 6.5 -0.05 8.27
3.75 3.75 5.75 0 7.67
3.8 3.85 5.8 0.05 7.93
3.7 4.25 6.8 0.55 9.26

記牙膏銷售量為y,其它廠家平均價格與公司銷售價格之差(價格差)為x1公司投入的廣告費用為x2,其它廠家平均價格和公司銷售價格分別為x3和x4, x1=x3-x4.

為了大致分析請y與x1和x2的關係,我們可以分別簡單的繪製y對x1和x2的散點圖。

數據分析的基本流程和方法_數據分析師

圖 1 y對x1的散點圖

從圖1可以發現,隨著x1的增加,y的值有比較明顯的線性增長趨勢,圖中的直線是用線性模型。

數據分析的基本流程和方法_數據分析師

圖 2 y對x2的散點圖

當x2增大時,y有向上彎曲增加的趨勢,圖中的曲線使用二次函數擬合的,可以看到二者具有非線性關係。

數據建模

數據加工整理完成後一般就可以進行進一步的數據分析了。分析時應切忌濫用和誤用統計分析方法。濫用和誤用統計分析方法主要是由於對方法能解決哪類問題、方法適用的前提、方法對數據的要求不清等原因造成的。另外,統計軟件的不斷普及和應用中的不求甚解也會加重這種現象。因此,在數據分析中應避免盲目的”拿來主義”,否則,得到的分析結論可能會偏差較大甚至發生錯誤。

另外,選擇幾種統計分析方法對數據進行探索性的反複分析也是極為重要的。每一種統計分析方法都有自己的特點和局限,因此,一般需要選擇幾種方法反複印證分析,僅依據一種分析方法的結果就斷然下結論是不科學的。

很對本問題,經過數據的簡單處理和分析,已經可以看到銷售量總體上和價格差成線性關係,銷售量和廣告投入上成非線性關係,因此可以建立一個回歸模型,根據統計信息來求解模型,獲得變量的係數,完成對模型的求解。

從圖1可以發現,隨著x1的增加,y的值有比較明顯的線性增長趨勢,可以得到公式1,

(1)

從圖2中可以你發現,當x2增大時,y有向上彎曲增加的趨勢,可以得到公式2,

(2)

根據以上分析可以建立如下回歸模型(3)

(3)

其中和成為回歸變量,,,,就是回歸係數,影響的其它因素包含在隨機誤差中。

直接利用MATLAB中統計工具箱中的命令regress求解,使用格式為

[b,bint,r,rint,stats] = regress(y,x,alpha).其中,y為表中30個周期的銷售量,長度為30的一向量,x為回歸係數的數據矩陣[1,,,],是一個30*4的向量,b為回歸係數向量的估計值,bint為其置信區間,r為殘差向量,rint為殘差向量的置信區間,stats為回歸模型的檢驗統計量,包括三個變量,回歸方程的決定係數,F統計變量值,與F統計變量值對應的概率p。

分析與結論

數據分析的直接結果是統計量和統計參數。正確理解它們的統計含義是一切分析結論的基礎,它不僅能幫助人們有效避免毫無根據地隨意引用統計數字的錯誤,同時也是證實分析結論正確性和可信性的依據,而這一切都取決於人們能否正確地把握統計分析方法的核心思想。

另外,將統計量和統計參數與實際問題相結合也是非常重要的。客觀地說,統計方法僅僅是一種有用的數據分析工具,它絕不是萬能的。統計方法是否能夠正確地解決各學科的具體問題不僅取決於應用統計方法或工具的人能否正確地選擇統計方法,還取決於他們是否具有深厚的應用背景。隻有將各學科的專業知識與統計量和統計參數相結合,才能得出令人滿意的分析結論。

本問題的計算結果如下:

參數 參數估計值 參數置信區間
β_0 17.3244 [5.7282,28.9206]
β_1 1.307 [0.6829,1.9311]
β_2 -3.6956 [-7.4989,0.1077]
β_3 0.3486 [0.0379,0.6594]

且=0.9054, F = 82.9409, p= 0

=0.9054表示銷售量的90.54%可由上述模型確定,F值遠超過F檢驗的臨界值,p遠小於0.05,因而從總體上看模型是可用的。

回歸模型的一個重要應用是,對於給定的回歸變量的取值,可以以一定的置信度預測因變量的取值範圍,即預測區間。比如當x1=0.2,x2=6.5 時可以算出牙膏銷售量的置信度為95的預測區間[7.8230,8.7636],它表明在將來的某個銷售周期中,如公司維持產品的價格差為0.2元,並投入650萬元的廣告費用,那麽可以有95%的把握保證牙膏的銷售量在7.8230,8.7636百萬支之間,實際操作時,預測上限可以用來作為庫存管理的目標值,即公司可以生產(或庫存)8.763百萬支牙膏來滿足該銷售周期顧客的需求;預測下限則可以用

來較好地把握(或控製)公司的現金流,理由是公司對該周期銷售7.8230  百萬支

牙膏十分自信.這在實際中將具有非常大的作用。

轉載請注明:數據分析 » 數據分析的基本流程和方法_數據分析師

網站地圖:sitemap
网站地图:sitemap