數(shù)據(jù)挖掘是商務(wù)智能技術(shù)的重要組成部分,是一個新的重要的研究領(lǐng)域。本文介紹了商務(wù)智能技術(shù)應(yīng)用現(xiàn)狀和組成,闡述了數(shù)據(jù)挖掘技術(shù)在第三方物流企業(yè)的應(yīng)用。
在當(dāng)今競爭日益激烈的市場環(huán)境中,第三方物流企業(yè)都希望能夠從浩如煙海的商務(wù)數(shù)據(jù)以及其他相關(guān)的物流業(yè)務(wù)數(shù)據(jù)中發(fā)現(xiàn)帶來巨額利潤的商機。只有那些利用先進的信息技術(shù)成功地收集、分析、理解信息并依據(jù)信息進行決策的物流企業(yè)才能獲得競爭優(yōu)勢,才是物流市場的贏家。因此,越來越多的物流管理者開始借助商務(wù)智能技術(shù)來發(fā)現(xiàn)物流運營過程中存在的問題,找到有利的物流解決方案。
商務(wù)智能技術(shù)應(yīng)用現(xiàn)狀
我國加入了WTO,在許多領(lǐng)域,如金融、保險、物流等領(lǐng)域?qū)⒅鸩綄ν忾_放,這就意味著許多第三方物流企業(yè)將面臨來自國際大型跨國物流公司的巨大競爭壓力。國外發(fā)達(dá)國家各種企業(yè)采用商務(wù)智能的水平已經(jīng)遠(yuǎn)遠(yuǎn)超過了我國。美國Palo Alto 管理集團公司1999年對歐洲、北美和日本375家大中型企業(yè)的商務(wù)智能技術(shù)的采用情況進行了調(diào)查。結(jié)果顯示,在金融領(lǐng)域,商務(wù)智能技術(shù)的應(yīng)用水平已經(jīng)達(dá)到或接近70%,在營銷領(lǐng)域也達(dá)到50%,并且在其他應(yīng)用領(lǐng)域?qū)υ摷夹g(shù)的采納水平都提高約50%,F(xiàn)在,許多第三方物流企業(yè)都把數(shù)據(jù)看成寶貴的財富,紛紛利用商務(wù)智能發(fā)現(xiàn)其中隱藏的信息,借此獲得巨額的回報。
據(jù)IDC對歐洲和北美62家采用了商務(wù)智能技術(shù)的企業(yè)的調(diào)查分析發(fā)現(xiàn),這些企業(yè)的3年平均投資回報率為401%,其中25%的企業(yè)的投資回報率超過600%。調(diào)查結(jié)果還顯示,一個企業(yè)要想在復(fù)雜的環(huán)境中獲得成功,高層管理者必須能夠控制極其復(fù)雜的商業(yè)結(jié)構(gòu),若沒有詳實的事實和數(shù)據(jù)支持,是很難辦到的。因此,隨著數(shù)據(jù)挖掘技術(shù)的不斷改進和日益成熟,它必將被更多的第三方物流企業(yè)采用,使更多的物流管理者得到更多的商務(wù)智能。
商務(wù)智能技術(shù)的組成
具體地說,商務(wù)智能技術(shù)有數(shù)據(jù)倉庫(data warehousing)、聯(lián)機分析處理(on-line analytical processing,簡稱OLAP)、數(shù)據(jù)挖掘(data mining),包括這三者在內(nèi)的用于綜合、探察和分析商務(wù)數(shù)據(jù)的先進的信息技術(shù)的統(tǒng)稱就是商務(wù)智能技術(shù)。
數(shù)據(jù)倉庫是一個面向主題的、集成的、隨時間變化的主要用于決策支持的數(shù)據(jù)的集合。一般來說,大的物流公司或企業(yè)內(nèi)存在著各種各樣的信息系統(tǒng),這些應(yīng)用驅(qū)動的操作型信息系統(tǒng)為企業(yè)不同的物流業(yè)務(wù)系統(tǒng)服務(wù),具有不同接口和不同的數(shù)據(jù)表示方法,互相孤立。利用數(shù)據(jù)倉庫技術(shù)可以動態(tài)地將各個物流企業(yè)子系統(tǒng)中的數(shù)據(jù)抽取集成到一起,進行清洗、轉(zhuǎn)換等處理之后加載到數(shù)據(jù)倉庫中,通過周期性的刷新,為物流用戶提供一個統(tǒng)一的干凈的數(shù)據(jù)視圖,為數(shù)據(jù)分析提供一個高質(zhì)量的數(shù)據(jù)源。
對于數(shù)據(jù)倉庫中的數(shù)據(jù),可以使用一些增強的查詢和報表工具進行復(fù)雜的查詢和即時的報表制作,可以利用OLAP技術(shù)從多種角度對物流業(yè)務(wù)數(shù)據(jù)進行多方面的匯總、統(tǒng)計、計算,還可以利用數(shù)據(jù)挖掘技術(shù)自動發(fā)現(xiàn)其中隱含的有用的物流信息。
數(shù)據(jù)挖掘又稱知識發(fā)現(xiàn)(Knowledge Discovery in Database,簡稱KDD),是從大量數(shù)據(jù)中抽取有意義的、隱含的、以前未知的并有潛在使用價值的知識的過程。數(shù)據(jù)挖掘是一個多學(xué)科交叉性學(xué)科,它涉及統(tǒng)計學(xué)、數(shù)據(jù)庫、模式識別、可視化以及高性能計算等多個學(xué)科。利用數(shù)據(jù)挖掘技術(shù)可以分析各種類型的數(shù)據(jù),例如結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)以及非結(jié)構(gòu)化數(shù)據(jù)、靜態(tài)的歷史數(shù)據(jù)和動態(tài)數(shù)據(jù)流數(shù)據(jù)等。
數(shù)據(jù)挖掘技術(shù)在第三方物流企業(yè)的應(yīng)用分析
數(shù)據(jù)挖掘是從大量的、不完全的、模糊的、隨機的數(shù)據(jù)中提取隱含在其中的、人們事先不知道的、但又是潛在有用的數(shù)據(jù)中發(fā)現(xiàn)其潛在規(guī)律的技術(shù),是當(dāng)前計算機科學(xué)研究的熱點之一。隨著信息技術(shù)的高速發(fā)展,積累的有關(guān)物流行業(yè)的數(shù)據(jù)量劇增,如何從大量的物流數(shù)據(jù)中提取有用的知識成為第三方物流企業(yè)當(dāng)務(wù)之急。數(shù)據(jù)挖掘就是為順應(yīng)需要應(yīng)運而生發(fā)展起來的數(shù)據(jù)處理技術(shù)。 數(shù)據(jù)挖掘的對象
關(guān)系數(shù)據(jù)庫(relational database)中通常存儲和管理的是結(jié)構(gòu)化的數(shù)據(jù),它將一個實體的各方面信息通過離散的屬性進行描述。而文本數(shù)據(jù)庫(text database)或文檔數(shù)據(jù)庫(document database)則通常存儲和管理的是半結(jié)構(gòu)化的數(shù)據(jù),例如新聞稿件、研究論文、電子郵件、書籍以及WEB頁面等都屬于半結(jié)構(gòu)化數(shù)據(jù)?臻g數(shù)據(jù)庫、多媒體數(shù)據(jù)庫中存放的是非結(jié)構(gòu)化數(shù)據(jù),例如地圖、圖片、音頻、視頻等都屬于非結(jié)構(gòu)化數(shù)據(jù)。相對于半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)來說,針對結(jié)構(gòu)化數(shù)據(jù)的數(shù)據(jù)挖掘技術(shù)比較成熟,市場上有很多的商品軟件可以使用,用的較多的包括IBM Intelligent Miner、SAS Enterprise Miner、SGI MineSet、Clementine SPSS以及Microsoft SQL Server 2000等。關(guān)于半結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)挖掘軟件尚不多,相應(yīng)的算法相對還較少。從另一個角度來說,數(shù)據(jù)挖掘的分析對象分為兩種類型:靜態(tài)數(shù)據(jù)和數(shù)據(jù)流(data stream)數(shù)據(jù)。現(xiàn)在的多數(shù)數(shù)據(jù)挖掘算法是用于分析靜態(tài)數(shù)據(jù)的。
數(shù)據(jù)挖掘的分析
無論要分析的數(shù)據(jù)對象的類型如何,常用的數(shù)據(jù)挖掘分析包括關(guān)聯(lián)分析、序列分析、分類、預(yù)測、聚類分析以及時間序列分析等。
關(guān)聯(lián)分析 關(guān)聯(lián)分析是由Rakesh Apwal等人首先提出的。兩個或兩個以上變量的取值之間存在某種規(guī)律性,就稱為關(guān)聯(lián)。數(shù)據(jù)關(guān)聯(lián)是數(shù)據(jù)庫中存在的一類重要的、可被發(fā)現(xiàn)的知識。關(guān)聯(lián)分為簡單關(guān)聯(lián)、時序關(guān)聯(lián)和因果關(guān)聯(lián)。關(guān)聯(lián)分析的目的是找出數(shù)據(jù)庫中隱藏的關(guān)聯(lián)網(wǎng)。一般用支持度和可信度兩個閥值來度量關(guān)聯(lián)規(guī)則的相關(guān)性,還不斷引入興趣度、相關(guān)性等參數(shù),使得所挖掘的規(guī)則更符合需求。關(guān)聯(lián)分析主要用于發(fā)現(xiàn)不同事件之間的關(guān)聯(lián)性,即一個事件發(fā)生的同時,另一個事件也經(jīng)常發(fā)生。關(guān)聯(lián)分析的重點在于快速發(fā)現(xiàn)那些有實用價值的關(guān)聯(lián)發(fā)生的事件。其主要依據(jù)是事件發(fā)生的概率和條件概率應(yīng)該符合一定的統(tǒng)計意義。
對于結(jié)構(gòu)化的數(shù)據(jù),以物流客戶的采購習(xí)慣數(shù)據(jù)為例,利用關(guān)聯(lián)分析,可以發(fā)現(xiàn)物流客戶的關(guān)聯(lián)采購需要。例如,對于第三方物流企業(yè)來說,一個托運貨物的貨主很可能同時有貨物的包裝、流通加工等物流業(yè)務(wù)的需求。利用這種知識可以采取積極的物流運營策略,擴展物流客戶采購物流服務(wù)的范圍,吸引更多的物流客戶。通過調(diào)整服務(wù)的內(nèi)容便于物流顧客采購到各種物流服務(wù),或者通過降低一種物流業(yè)務(wù)的價格來促進另一種物流業(yè)務(wù)的銷售等。
分類分析
分類分析是通過分析具有類別的樣本的特點,得到?jīng)Q定樣本屬于各種類別的規(guī)則或方法。利用這些規(guī)則和方法對未知類別的樣本分類時應(yīng)該具有一定的準(zhǔn)確度。分類分析可以根據(jù)顧客的消費水平和基本特征對物流顧客進行分類,找出對第三方物流企業(yè)有較大利益貢獻的重要的物流客戶的特征,通過對其進行個性化物流服務(wù),提高他們的忠誠度。
聚類分析 聚類分析是根據(jù)物以類聚的原理,將本身沒有類別的樣本聚集成不同的組,并且對每一個這樣的組進行描述的過程。其主要依據(jù)是聚到同一個組中的樣本應(yīng)該彼此相似,而屬于不同組的樣本應(yīng)該足夠不相似。
以第三方物流企業(yè)的客戶關(guān)系管理為例,利用聚類分析,根據(jù)物流客戶的個人特征以及物流業(yè)務(wù)消費數(shù)據(jù),可以將客戶群體進行細(xì)分。例如,可以得到這樣的一個物流業(yè)務(wù)消費群體:生產(chǎn)企業(yè)對物流業(yè)務(wù)中運輸需求占41%,對物流業(yè)務(wù)中倉儲業(yè)務(wù)的需求占23%;商業(yè)企業(yè)對物流業(yè)務(wù)中運輸需求占59%,對物流業(yè)務(wù)中倉儲業(yè)務(wù)需求占77%。針對不同的客戶群,可以實施不同的物流服務(wù)方式,從而提高客戶的滿意度。
數(shù)據(jù)挖掘流程
定義問題:第三方物流企業(yè)首先清晰地定義出各種物流業(yè)務(wù)問題,確定數(shù)據(jù)挖掘的目的。
數(shù)據(jù)準(zhǔn)備:首先第三方物流企業(yè)在大型數(shù)據(jù)庫和數(shù)據(jù)倉庫目標(biāo)中提取數(shù)據(jù)挖掘的目標(biāo)數(shù)據(jù)集進行數(shù)據(jù)選擇;其次進行數(shù)據(jù)的預(yù)處理,包括檢查數(shù)據(jù)的完整性及數(shù)據(jù)的一致性、填補丟失的域,刪除無效數(shù)據(jù)等。
數(shù)據(jù)挖掘:第三方物流企業(yè)根據(jù)數(shù)據(jù)功能的類型和數(shù)據(jù)的特點選擇相應(yīng)的算法,在凈化和轉(zhuǎn)換過的數(shù)據(jù)集上進行數(shù)據(jù)挖掘。
結(jié)果分析:第三方物流企業(yè)對數(shù)據(jù)挖掘的結(jié)果進行解釋和評價,轉(zhuǎn)換成為能夠最終被理解的知識。 知識的運用:第三方物流企業(yè)將分析所得到的知識集成到物流業(yè)務(wù)信息系統(tǒng)的組織結(jié)構(gòu)中去。
評價數(shù)據(jù)挖掘軟件需要考慮的問題
越來越多的軟件供應(yīng)商加入了數(shù)據(jù)挖掘這一領(lǐng)域的競爭。第三方物流企業(yè)如何正確評價一個商業(yè)軟件,選擇合適的軟件成為數(shù)據(jù)挖掘成功應(yīng)用的關(guān)鍵。評價一個數(shù)據(jù)挖掘軟件主要應(yīng)從以下四個主要方面: 計算性能:如該軟件能否在不同的物流業(yè)務(wù)平臺運行;軟件的架構(gòu);能否連接不同的數(shù)據(jù)源;操作大數(shù)據(jù)集時,性能變化是線性的還是指數(shù)的;算的效率;是否基于組件結(jié)構(gòu)易于擴展;運行的穩(wěn)定性等;
功能性:如軟件是否提供足夠多樣的算法;能否避免挖掘過程黑箱化;軟件提供的算法能否應(yīng)用于多種類型的數(shù)據(jù);第三方物流企業(yè)能否調(diào)整算法和算法的參數(shù);軟件能否從數(shù)據(jù)集隨機抽取數(shù)據(jù)建立預(yù)挖掘模型;能否以不同的形式表現(xiàn)挖掘結(jié)果等。
可用性:如用戶界面是否友好;軟件是否易學(xué)易用;軟件面對的用戶是初學(xué)者、高級用戶還是專家;錯誤報告對用戶調(diào)試是否有很大幫助。
輔助功能:如是否允許第三方物流企業(yè)更改數(shù)據(jù)集中的錯誤值或進行數(shù)據(jù)清洗;是否允許值的全局替代;能否將連續(xù)數(shù)據(jù)離散化;能否根據(jù)用戶制定的規(guī)則從數(shù)據(jù)集中提取子集;能否將數(shù)據(jù)中的空值用某一適當(dāng)均值或用戶指定的值代替;能否將一次分析的結(jié)果反饋到另一次分析中等等。
數(shù)據(jù)挖掘技術(shù)是一個年輕且充滿希望的研究領(lǐng)域,利益的強大驅(qū)動力將會不停地促進它的發(fā)展。每年都有新的數(shù)據(jù)挖掘方法和模型問世,人們對它的研究正日益廣泛和深入。盡管如此,數(shù)據(jù)挖掘技術(shù)仍然面臨著許多問題和挑戰(zhàn):如數(shù)據(jù)挖掘方法的效率亟待提高,尤其是超大規(guī)模數(shù)據(jù)集中數(shù)據(jù)挖掘的效率;開發(fā)適應(yīng)多數(shù)據(jù)類型的挖掘方法,以解決異質(zhì)數(shù)據(jù)集的數(shù)據(jù)挖掘問題;動態(tài)數(shù)據(jù)和知識的數(shù)據(jù)挖掘;網(wǎng)絡(luò)與分布式環(huán)境下的數(shù)據(jù)挖掘等。 |