數(shù)據(jù)挖掘論文范文
時間:2023-04-05 01:35:37
導語:如何才能寫好一篇數(shù)據(jù)挖掘論文,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。
篇1
[關鍵詞]數(shù)據(jù)挖掘數(shù)據(jù)挖掘方法
隨著信息技術迅速發(fā)展,數(shù)據(jù)庫的規(guī)模不斷擴大,產(chǎn)生了大量的數(shù)據(jù)。但大量的數(shù)據(jù)往往無法辨別隱藏在其中的能對決策提供支持的信息,而傳統(tǒng)的查詢、報表工具無法滿足挖掘這些信息的需求。因此,需要一種新的數(shù)據(jù)分析技術處理大量數(shù)據(jù),并從中抽取有價值的潛在知識,數(shù)據(jù)挖掘(DataMining)技術由此應運而生。
一、數(shù)據(jù)挖掘的定義
數(shù)據(jù)挖掘是指從數(shù)據(jù)集合中自動抽取隱藏在數(shù)據(jù)中的那些有用信息的非平凡過程,這些信息的表現(xiàn)形式為:規(guī)則、概念、規(guī)律及模式等。它可幫助決策者分析歷史數(shù)據(jù)及當前數(shù)據(jù),并從中發(fā)現(xiàn)隱藏的關系和模式,進而預測未來可能發(fā)生的行為。數(shù)據(jù)挖掘的過程也叫知識發(fā)現(xiàn)的過程。
二、數(shù)據(jù)挖掘的方法
1.統(tǒng)計方法。傳統(tǒng)的統(tǒng)計學為數(shù)據(jù)挖掘提供了許多判別和回歸分析方法,常用的有貝葉斯推理、回歸分析、方差分析等技術。貝葉斯推理是在知道新的信息后修正數(shù)據(jù)集概率分布的基本工具,處理數(shù)據(jù)挖掘中的分類問題,回歸分析用來找到一個輸入變量和輸出變量關系的最佳模型,在回歸分析中有用來描述一個變量的變化趨勢和別的變量值的關系的線性回歸,還有用來為某些事件發(fā)生的概率建模為預測變量集的對數(shù)回歸、統(tǒng)計方法中的方差分析一般用于分析估計回歸直線的性能和自變量對最終回歸的影響,是許多挖掘應用中有力的工具之一。
2.關聯(lián)規(guī)則。關聯(lián)規(guī)則是一種簡單,實用的分析規(guī)則,它描述了一個事物中某些屬性同時出現(xiàn)的規(guī)律和模式,是數(shù)據(jù)挖掘中最成熟的主要技術之一。關聯(lián)規(guī)則在數(shù)據(jù)挖掘領域應用很廣泛適合于在大型數(shù)據(jù)集中發(fā)現(xiàn)數(shù)據(jù)之間的有意義關系,原因之一是它不受只選擇一個因變量的限制。大多數(shù)關聯(lián)規(guī)則挖掘算法能夠無遺漏發(fā)現(xiàn)隱藏在所挖掘數(shù)據(jù)中的所有關聯(lián)關系,但是,并不是所有通過關聯(lián)得到的屬性之間的關系都有實際應用價值,要對這些規(guī)則要進行有效的評價,篩選有意義的關聯(lián)規(guī)則。
3.聚類分析。聚類分析是根據(jù)所選樣本間關聯(lián)的標準將其劃分成幾個組,同組內的樣本具有較高的相似度,不同組的則相異,常用的技術有分裂算法,凝聚算法,劃分聚類和增量聚類。聚類方法適合于探討樣本間的內部關系,從而對樣本結構做出合理的評價,此外,聚類分析還用于對孤立點的檢測。并非由聚類分析算法得到的類對決策都有效,在運用某一個算法之前,一般要先對數(shù)據(jù)的聚類趨勢進行檢驗。
4.決策樹方法。決策樹學習是一種通過逼近離散值目標函數(shù)的方法,通過把實例從根結點排列到某個葉子結點來分類實例,葉子結點即為實例所屬的分類。樹上的每個結點說明了對實例的某個屬性的測試,該結點的每一個后繼分支對應于該屬性的一個可能值,分類實例的方法是從這棵樹的根結點開始,測試這個結點指定的屬性,然后按照給定實例的該屬性值對應的樹枝向下移動。決策樹方法是要應用于數(shù)據(jù)挖掘的分類方面。
5.神經(jīng)網(wǎng)絡。神經(jīng)網(wǎng)絡建立在自學習的數(shù)學模型基礎之上,能夠對大量復雜的數(shù)據(jù)進行分析,并可以完成對人腦或其他計算機來說極為復雜的模式抽取及趨勢分析,神經(jīng)網(wǎng)絡既可以表現(xiàn)為有指導的學習也可以是無指導聚類,無論哪種,輸入到神經(jīng)網(wǎng)絡中的值都是數(shù)值型的。人工神經(jīng)元網(wǎng)絡模擬人腦神經(jīng)元結構,建立三大類多種神經(jīng)元網(wǎng)絡,具有非線形映射特性、信息的分布存儲、并行處理和全局集體的作用、高度的自學習、自組織和自適應能力的種種優(yōu)點。
6.遺傳算法。遺傳算法是一種受生物進化啟發(fā)的學習方法,通過變異和重組當前己知的最好假設來生成后續(xù)的假設。每一步,通過使用目前適應性最高的假設的后代替代群體的某個部分,來更新當前群體的一組假設,來實現(xiàn)各個個體的適應性的提高。遺傳算法由三個基本過程組成:繁殖(選擇)是從一個舊種群(父代)選出生命力強的個體,產(chǎn)生新種群(后代)的過程;交叉〔重組)選擇兩個不同個體〔染色體)的部分(基因)進行交換,形成新個體的過程;變異(突變)是對某些個體的某些基因進行變異的過程。在數(shù)據(jù)挖掘中,可以被用作評估其他算法的適合度。
7.粗糙集。粗糙集能夠在缺少關于數(shù)據(jù)先驗知識的情況下,只以考察數(shù)據(jù)的分類能力為基礎,解決模糊或不確定數(shù)據(jù)的分析和處理問題。粗糙集用于從數(shù)據(jù)庫中發(fā)現(xiàn)分類規(guī)則的基本思想是將數(shù)據(jù)庫中的屬性分為條件屬性和結論屬性,對數(shù)據(jù)庫中的元組根據(jù)各個屬性不同的屬性值分成相應的子集,然后對條件屬性劃分的子集與結論屬性劃分的子集之間上下近似關系生成判定規(guī)則。所有相似對象的集合稱為初等集合,形成知識的基本成分。任何初等集合的并集稱為精確集,否則,一個集合就是粗糙的(不精確的)。每個粗糙集都具有邊界元素,也就是那些既不能確定為集合元素,也不能確定為集合補集元素的元素。粗糙集理論可以應用于數(shù)據(jù)挖掘中的分類、發(fā)現(xiàn)不準確數(shù)據(jù)或噪聲數(shù)據(jù)內在的結構聯(lián)系。
8.支持向量機。支持向量機(SVM)是在統(tǒng)計學習理論的基礎上發(fā)展出來的一種新的機器學習方法。它基于結構風險最小化原則上的,盡量提高學習機的泛化能力,具有良好的推廣性能和較好的分類精確性,能有效的解決過學習問題,現(xiàn)已成為訓練多層感知器、RBF神經(jīng)網(wǎng)絡和多項式神經(jīng)元網(wǎng)絡的替代性方法。另外,支持向量機算法是一個凸優(yōu)化問題,局部最優(yōu)解一定是全局最優(yōu)解,這些特點都是包括神經(jīng)元網(wǎng)絡在內的其他算法所不能及的。支持向量機可以應用于數(shù)據(jù)挖掘的分類、回歸、對未知事物的探索等方面。
事實上,任何一種挖掘工具往往是根據(jù)具體問題來選擇合適挖掘方法,很難說哪種方法好,那種方法劣,而是視具體問題而定。
三、結束語
目前,數(shù)據(jù)挖掘技術雖然得到了一定程度的應用,并取得了顯著成效,但仍存在著許多尚未解決的問題。隨著人們對數(shù)據(jù)挖掘技術的深人研究,數(shù)據(jù)挖掘技術必將在更加廣泛的領域得到應用,并取得更加顯著的效果。
篇2
近年來,我國的部隊管理體系已經(jīng)逐漸向著自動化方向發(fā)展,部隊中各個部門都建立了一定的管理體系,也逐漸脫離了人工管理模式,實現(xiàn)信息現(xiàn)代化模式,很大程度提高了部隊工作的效率,但是由于外界因素與經(jīng)濟發(fā)展的多樣化以及人們的思維模式也在不斷改變,從而出現(xiàn)了一些新問題,使得部隊管理體系存在著一定問題:第一、關聯(lián)性小、系統(tǒng)比較獨立?,F(xiàn)階段,部隊采購食品系統(tǒng)的作用以及目的比較簡單,思維面也比較窄,也就是說按照清單進行食品采購時,不能充分考慮到采購人員的健康、效率等問題,不能達到最優(yōu)化采購方式,因此就變得比較獨立;第二,數(shù)據(jù)功能簡單,可靠性不高?,F(xiàn)階段,部隊食品采購數(shù)據(jù)只是對采購的種類與過程進行簡單記錄,時間一久,就會被損壞或者丟失;第三,數(shù)據(jù)分散不集中?,F(xiàn)階段與部隊人員健康、起居飲食、訓練相關的數(shù)據(jù)分散在不同系統(tǒng)中,使得數(shù)據(jù)變得不一致、不完整,僅僅只能進行簡單查詢、匯總、統(tǒng)計等工作,不能對數(shù)據(jù)進行多角度分析、關聯(lián)等,不能為采購食品提供很好的政策支持。針對部隊采購存在的問題,可以利用數(shù)據(jù)倉庫以及數(shù)據(jù)挖掘技術建立多為數(shù)據(jù)庫,利用數(shù)據(jù)挖掘進技術對食品采購數(shù)據(jù)進行挖掘。依據(jù)現(xiàn)階段部隊的實際發(fā)展情況,建立一套新數(shù)據(jù)庫的成本代價比較高,因此,選用了目前社會上通用方法,對已經(jīng)存在的數(shù)據(jù)進行一定改革與拓展,合理優(yōu)化系統(tǒng)數(shù)據(jù),成為新的數(shù)據(jù)庫。并且選取對數(shù)據(jù)挖掘影響比較大的系統(tǒng)性分析,包括訓練系統(tǒng),食品采購系統(tǒng)、人員管理系統(tǒng)以及醫(yī)療衛(wèi)生系統(tǒng)。針對食品采購采購系統(tǒng)建立數(shù)據(jù)模型。
二、在部隊食品采購系統(tǒng)中的應用以及其價值評價
在部隊食品采購系統(tǒng)實際應用工程中,其實可以運用MicrosoftSQLServerAnalysisServices來對數(shù)據(jù)進行分析,并且在數(shù)據(jù)挖掘過程中對多維數(shù)據(jù)進行描述與查找起到一定作用。因為多維數(shù)據(jù)比較復雜,增長的也比較快,因此,進行手動查找是很困難的,數(shù)據(jù)挖掘技術提供的計算模式可以很好的對數(shù)據(jù)進行分析與查找。在建設部隊食品采購倉庫數(shù)據(jù)的時候,數(shù)據(jù)內容主要包括了人員的健康、兵員的飲食以及訓練等,進行數(shù)據(jù)挖掘主要包括以下內容:第一,把每個主題信息數(shù)據(jù)進行收集、匯總、分析等,對人員情況、健康、飲食、訓練等進行合理分析;第二,多維分析數(shù)據(jù)信息。根據(jù)部隊的實際情況,利用數(shù)據(jù)挖掘技術對部隊人員健康、飲食、訓練等數(shù)據(jù)信息進行多維分析,其中包含上鉆、切片、下鉆等;第三,挖掘健康與飲食之間的內在關系。根據(jù)數(shù)據(jù)庫中許多面向主題的歷史數(shù)據(jù),采用數(shù)據(jù)挖掘技術進行分析與演算得到部隊人員的訓練和健康情況與部隊飲食之間內在關系,以便于為部隊食品采購提供合理的、有效的保障,從而提高部隊整體人員的健康水平、身體素質以及訓練質量,對提高我國部隊戰(zhàn)斗力有著深遠的意義。
三、結束語
篇3
物聯(lián)網(wǎng)數(shù)據(jù)挖掘處理功能需要在Hadoop平臺和Map/Reduce模式基礎上進行,對此需要劃分2個不同層面的操作流程。
1.1Hadoop平臺的具體操作流程
(1)對物聯(lián)網(wǎng)中的RFID數(shù)據(jù)進行過濾、轉換、合并的處理,并在分布式系統(tǒng)HDFS中保存PML文件形式的數(shù)據(jù)。同時,可采取副本策略來處理PML文件,在同一機構的不同節(jié)點或不同機構的某一節(jié)點上保存PML文件中的2-3個副本,進而可實現(xiàn)對存儲、處理、節(jié)點失效問題的有效解決。
(2)在執(zhí)行任務過程中,創(chuàng)建和管理控制是Master(主控程序)的主要工作,當Worker處于空閑狀態(tài)時會接收到有關的分配任務,需與Map/Reduce互相合作實現(xiàn)操作處理,處理的最終結果由Master來歸并,同時將反饋結果傳送給用戶。
1.2Map/Reduce的具體操作流程
(1)根據(jù)參數(shù)在Map/Reduce思想指導下對輸入文件進行分割處理,使其細化為M塊(16-64M大小范圍)。
(2)Master、Worker、Map操作(M個)、Reduce操作(R個)是構成執(zhí)行程序的主要部分,其中Map/Reduce的處理任務會由Master伴隨物聯(lián)網(wǎng)的快速發(fā)展和廣泛應用,人們可以有效利用物聯(lián)網(wǎng)來實現(xiàn)信息交換和通信的目的,不過物聯(lián)網(wǎng)海量數(shù)據(jù)的日益增多大大降低了物聯(lián)網(wǎng)服務的質量。在此,對基于Apriori算法進行物聯(lián)網(wǎng)數(shù)據(jù)挖掘研究。摘要將其分配給空閑的Worker。
(3)在處理Map任務時,Worker會讀取處理中的數(shù)據(jù),并向Map函數(shù)傳送<key,value>,而后產(chǎn)生中間結果在內存中緩存且定時向本地硬盤傳送。此外,依據(jù)分區(qū)函數(shù)將中間結果分割為R塊區(qū),利用Master將本地硬盤接收到的數(shù)據(jù)位置信息傳送給Reduce函數(shù)。
(4)ReduceWorker根據(jù)Master所傳送的文件信息采用遠程讀取方式來操作,以在本地文件中找到對應的文件,對文件的中間key進行有序排列,并利用遠程發(fā)送信息給具體執(zhí)行的Reduce。
(5)ReduceWorker依據(jù)key排序后的中間數(shù)據(jù)向Reduce函數(shù)傳送與key對應的中間結果集,而最后的結果需采取最終輸出文件來進行編寫。
(6)當Map、Reduce的任務全部完成之后,MapReduce將回歸到用戶程序的調用點處,同時以Master對用戶程序進行激活。
2基于Apriori算法的物聯(lián)網(wǎng)數(shù)據(jù)挖掘
2.1Apriori數(shù)據(jù)挖掘原理和操作流程
Apriori是提升物聯(lián)網(wǎng)數(shù)據(jù)挖掘功能的一種最有效算法,其原理是在K項集中以逐層搜索迭代的方式來探索。具體的操作流程包括:
(1)掃描數(shù)據(jù)集以生成頻繁1-項集L1。
(2)通過L1來探索頻繁項集L2,采用不斷迭代的方式來持續(xù)探索,直至頻繁項集是空集。
2.2K次循環(huán)搜索后的數(shù)據(jù)挖掘流程
當已完成了K次循環(huán)搜索時,還需要進行2個數(shù)據(jù)挖掘的操作流程:(1)在LK-1生成CK(候選集)之后,開展JOIN操作。(2)支持度統(tǒng)計和剪枝的操作依據(jù)Apriori性質來進行,而后使得CK生成LK(頻繁集)。為提高物聯(lián)網(wǎng)數(shù)據(jù)挖掘的效率,節(jié)省系統(tǒng)的時間和內存消耗,在Apriori算法基礎上還需要借鑒和移植云計算平臺的分布式并行計算性質。如此以實現(xiàn)Hadoop架構的建立,在掃描數(shù)據(jù)庫查找頻繁項集中得到的并聯(lián)規(guī)則需要存儲在Hadoop架構中。同時,為取得各個計算節(jié)點上的局部頻繁項集,各個DataNode節(jié)點需要經(jīng)歷并行操作的掃描處理,并使用Master來統(tǒng)計和確定實際全局的支持度、頻繁項集。
2.3Apriori算法Map/Reduce化的處理流程
上述提及基于Apriori算法的物聯(lián)網(wǎng)數(shù)據(jù)挖掘需借助于Map/Reduce模式,其數(shù)據(jù)挖掘功能的實現(xiàn)還應Map/Reduce化Apriori算法。主要的處理流程包括:
(1)用戶提出挖掘服務的請求,且由用戶來設置Apriori所需的數(shù)據(jù),如最小支持度、置信度。
(2)當Master接收到請求后,通過NameNode來進行PML文件的申請,而后逐步完成訪問空閑節(jié)點列表、向空閑的DataNode分配任務、調度和并行處理各個DataNode需要的存儲節(jié)點算法。
(3)運用Map函數(shù)來處理每個DataNode的<key,value>對映射、新鍵值對,以CnK(用1表示每一個CnK的支持度)來表示所產(chǎn)生的一個局部候選頻繁K項集。
(4)通過Reduce函數(shù)來實現(xiàn)調用計算,對每個DataNode節(jié)點上相同候選項集的支持度進行累加,以產(chǎn)生一個實際的支持度,將其與最小支持度(用戶申請時所設置)進行比較,進而用LnK表示所生成的局部頻繁K項集的集合。
(5)對所有的處理結果進行合并,從而實現(xiàn)全局頻繁K項集LK的生成。
3結論
篇4
合肥市是安徽省省會,土地面積1.14萬km,常住人口755萬,其中城鎮(zhèn)人口486萬,農村人口266萬人。依據(jù)合肥市主城區(qū)用地規(guī)劃圖以及合肥市2014年遙感影像圖,確定本文研究區(qū)為合肥市市轄區(qū)、功能區(qū)以及肥西、肥東縣的副城區(qū)。根據(jù)Voronoi圖的理論,在ArcGIS中生成現(xiàn)有研究區(qū)范圍避難場所的責任區(qū)劃分。其中,老城區(qū)的責任區(qū)分布較為均勻,而其他區(qū)域由于應急避難場所數(shù)量少且較為分散,均出現(xiàn)較大面積的多邊形,且形變劇烈,說明某些應急避難場所分擔的服務范圍較大,分配不合理,需要進一步合理規(guī)劃。
2空間數(shù)據(jù)挖掘應用模型的實現(xiàn)
2.1模型設計
城市空間布局及發(fā)展具有規(guī)范性,因此,對避難場所進行選址需要遵循城市發(fā)展戰(zhàn)略及人口增長規(guī)律。
1)數(shù)據(jù)挖掘預處理。對研究區(qū)各行政區(qū)劃的人口數(shù)據(jù)、面積、土地利用類型、已建應急避難場所等數(shù)據(jù)進行統(tǒng)計,建立txt文本,進行空間數(shù)據(jù)挖掘,創(chuàng)建數(shù)據(jù)字典。
2)數(shù)據(jù)矢量化。在ArcGIS10平臺中,以合肥市地圖為底圖,對行政區(qū)劃進行數(shù)字化,并結合合肥市最新規(guī)劃圖及遙感影像圖,對元數(shù)據(jù)進行矢量化,并編輯地物的屬性,形成ShapeFile文件。
3)建立數(shù)據(jù)庫。將空間數(shù)據(jù)中的屬性信息錄入屬性數(shù)據(jù)庫。
4)空間分析。結合矢量化的人口密度專題圖和現(xiàn)有場地點狀分布圖,重點對服務區(qū)覆蓋范圍外人口進行分析,通過對空間數(shù)據(jù)進行緩沖區(qū)分析、柵格分析、重分類、疊加分析、地圖運算等過程,確定應急避難場所綜合評價方案,最終確定新場所地址。
5)可視化。根據(jù)最終新場所的ShapeFile文件,結合人口密度分布圖,制作新場所分布圖。
2.2文本及地理信息數(shù)據(jù)挖掘
1)地理空間特征提取。依據(jù)《安徽省應急避難場所分級技術標準(試行)》的場所分級和選址要求[1,2],從紙質地圖、規(guī)劃圖、統(tǒng)計數(shù)據(jù)等地理文本中抽取符合條件的元數(shù)據(jù)。
2)地理數(shù)據(jù)分類。從挖掘后的地理空間數(shù)據(jù)中提取道路、土地利用類型、人口密度、新居民地等地物數(shù)據(jù)及各類地物的空間特征信息。
3)空間數(shù)據(jù)挖掘:對空間特征信息進行評價,將符合選址條件的用地數(shù)據(jù)以及影響避難場所選址的主要因素進行分類、提取,建立相應的空間位置、屬性信息,并繪制矢量圖層。
3數(shù)據(jù)庫的設計與實現(xiàn)
研究模型的數(shù)據(jù)庫由空間數(shù)據(jù)庫和屬性數(shù)據(jù)庫組成,統(tǒng)一存放在關系數(shù)據(jù)庫中,實現(xiàn)數(shù)據(jù)的統(tǒng)一管理。
1)空間數(shù)據(jù)庫的設計與實現(xiàn)。將要矢量化的合肥市地圖進行掃描,加載到ArcMap中,打開ArcCatalog,在目標文件夾下新建ShapeFile文件。通過對需要矢量化的地物進行分析,將現(xiàn)有應急避難場所歸為點圖層,將城市主、次干道、斷裂歸為線圖層,將土地利用類型、河流、湖泊、人口密度、現(xiàn)有居民地等要素歸為面圖層。
2)屬性數(shù)據(jù)庫的設計與實現(xiàn)。在ArcMap中打開表,進行地物屬性庫的編輯,對照空間屬性庫表,分別添加地物的屬性字段,并輸入屬性信息。
4應急避難場所的空間優(yōu)化和選取
4.1影響選址的主要因素
本文依據(jù)《地震應急避難場所選址及配套設施要求》,對影響選址的主要因素進行分類、量化。
4.1.1場地的安全性
選址應具有地質、水文及自然環(huán)境方面的抗震安全保障。新建場地距離斷層必須有一定的距離,利用GIS的緩沖區(qū)分析,建立斷層的6層緩沖區(qū),分別賦予不同的評價指標。
4.1.2現(xiàn)有避難場地
按照安徽省地震應急避難場所及配套設施要求,地震應急避難場所分為3類,其服務范圍分別為5km、1km、0.5km。以此為標準,對研究區(qū)現(xiàn)有27個應急避難場所進行類型劃分,并建立服務范圍屬性表。應用ArcMap的緩沖區(qū)分析功能,分別建立以5km、1km、0.5km為服務半徑的緩沖區(qū),生成服務范圍矢量圖,并轉換為柵格圖像,進行重分類。
4.1.3土地利用現(xiàn)狀
新選址的區(qū)域覆蓋合肥市主、副城區(qū)范圍,城市區(qū)域用地多數(shù)被建設用地覆蓋,其中有些地塊不適于建造避難場地,例如工業(yè)用地。土地利用現(xiàn)狀評價指標
4.1.4現(xiàn)有居民點空間分布
避難場地的位置距離居民點有距離限制。以居民點為研究對象,進行鄰近區(qū)分析。對合肥市居民點進行以100m為層次的緩沖區(qū)分析,并把矢量數(shù)據(jù)轉為柵格數(shù)據(jù)。
4.2空間數(shù)據(jù)挖掘結果的可視化
篇5
現(xiàn)在的網(wǎng)絡購物深受廣大網(wǎng)民的喜愛,它有著非常廣泛的群眾基礎,在進行網(wǎng)購時一般有下面幾方面的特點:
①有大量的成員,
②顧客可以在網(wǎng)絡上對購買的商品發(fā)表看法從而影響到其他網(wǎng)民的看法,
③大量的購買數(shù)據(jù)也會為網(wǎng)民指明那個時間斷的購物趨勢,
④對于較好的商品,為了省事大多數(shù)網(wǎng)民會進行購買。而數(shù)據(jù)挖掘對于網(wǎng)絡購物有著重要的意義,網(wǎng)絡購物數(shù)據(jù)庫儲存了大量的數(shù)據(jù)信息,而這些數(shù)據(jù)信息依靠傳統(tǒng)的統(tǒng)計分析方法很難做出準確的分析,但是通過網(wǎng)絡數(shù)據(jù)挖掘我們可以對海量的數(shù)據(jù)信息進行科學的分析,他能同時搜索發(fā)現(xiàn)多種模式的信息,揭示隱藏的、不明顯的、預料以外的數(shù)據(jù),通過評估數(shù)據(jù)的特征、特性和規(guī)則,我們可以發(fā)現(xiàn)其中有意義的聯(lián)系與趨勢。這樣對于網(wǎng)民在網(wǎng)購時做出準確的判斷很有意義。
二、數(shù)據(jù)挖掘的網(wǎng)絡購物現(xiàn)狀
21世紀互聯(lián)網(wǎng)成為了人們的聯(lián)系溝通的重要工具,網(wǎng)絡購物越來越流行,而想要在充滿虛假的網(wǎng)絡上面進行購物,就要有合適的方法與手段進行甄別。數(shù)據(jù)挖掘可以在一定的程度上發(fā)現(xiàn)網(wǎng)民購買商品數(shù)據(jù)的聯(lián)系,找到它們之間的關聯(lián)性,然后買家可以根據(jù)此來進行購買商品。在我國,數(shù)據(jù)挖掘應用于網(wǎng)絡購物還處于試驗的階段,將它的理論基礎轉化為實踐是具有一定的難度的,在進行數(shù)據(jù)挖掘時會遇到種種的困難,比如:網(wǎng)絡購物數(shù)據(jù)庫內的數(shù)據(jù)沒有及時的更新,數(shù)據(jù)庫中的信息不夠完善,數(shù)據(jù)的利用率不足,人們對于數(shù)據(jù)挖掘技術的不信任等等。而且網(wǎng)絡購物數(shù)據(jù)挖掘技術,它要么是對數(shù)據(jù)進行分析,要么是對網(wǎng)絡關系進行分析,很少將二者綜合起來進行全面的分析,這樣也會影響到數(shù)據(jù)挖掘技術所分析出來的信息的準確性,很難對于網(wǎng)絡購物的買家產(chǎn)生說服力。由于網(wǎng)絡不能使用卡,以及網(wǎng)絡宣傳是的資質證明的可欺騙性及不完整,導致許多消費者的購買行為和網(wǎng)絡購買欲望受限。對企業(yè)而言,資質證明是網(wǎng)上合法性和安全性的基本保障,資質證明的標示既有利于監(jiān)管部門監(jiān)督管理,又有利于消費者判別和選擇。由于我國已有法律法規(guī)中沒有明確規(guī)定在網(wǎng)頁上必須標明表示哪些資質合法有效的證明,也沒有明確規(guī)定這些證明應當標示于何種位置、以何種方式標示,而卡的使用是硬性的問題,可以推薦卡實施與支付寶相關的業(yè)務,為消費者提供更多的方便。應對已經(jīng)消費了的顧客要進行有效的售后回訪,在消費者確認收獲的同時對消費者進行回訪,試問對品的滿意程度,在一段時間后對消費者提供使用回訪,給消費者最滿意的服務,讓消費者成為網(wǎng)店的永久性顧客,同時讓消費者周邊的潛在消費者相信網(wǎng)絡的可靠性。而且,據(jù)調查,目前大部分網(wǎng)上客服均采用QQ聯(lián)系的方式設置客服體系,亦有部分網(wǎng)上建立了網(wǎng)頁對話模式,但是消費者和師無法面對面溝通的問題就導致很多的消費者對于急需的問題無法解決,賣家可以設置關鍵字的自動回復設置,只要消費者輸入相應的關鍵字就能得到相應病況的治療品,而且對該情況的也有相對應的健康小常識介紹,這樣就部分解決消費者的需求。如果可以設置“如果有消費者瀏覽網(wǎng)頁,客服人員就能與其主動聯(lián)系”這樣的服務系統(tǒng),即是消費者首先與客服人員聯(lián)系,這樣就能大大的增加消費者的數(shù)量,而客服人員無法及時發(fā)現(xiàn)消費者,這也就使網(wǎng)上提供學服務有所欠缺。例如:在網(wǎng)絡上銷售年輕人信任度高的品品牌,對網(wǎng)頁的設計偏向于年輕、有個性、有活力的網(wǎng)頁版面,設計簡單的購物環(huán)節(jié),將繁瑣的購物環(huán)節(jié)都省略,設計簡單、快捷的購物渠道。并且根據(jù)消費者的心理進行簡單的消費促銷,但要嚴格保證不減退消費者的對與的信任度。
三、總結
篇6
根據(jù)網(wǎng)絡規(guī)劃的要求,利用大數(shù)據(jù)可以從覆蓋評估,干擾評估和價值評估三個維度建立基于大數(shù)據(jù)挖掘的LTE網(wǎng)絡規(guī)劃體系,通過對現(xiàn)網(wǎng)問題的全面、準確分析定位,預知LTE網(wǎng)絡規(guī)劃存在的問題,提升LTE網(wǎng)絡規(guī)劃的準確性。
1.1覆蓋評估分析
良好的覆蓋是網(wǎng)絡建設的最基本要求,基站站間距過大,基站覆蓋過遠會造成部分地點盲覆蓋或者室內深度覆蓋不足;而站間距過小,重疊覆蓋會帶來較大干擾,同樣影響用戶感受,同時不必要的重復建站將會加大投資成本。理想的蜂窩網(wǎng)絡結構應該在保證用戶移動性的前提下使小區(qū)間的交疊區(qū)域處在一個較低的水平借助現(xiàn)網(wǎng)2G/3G實測數(shù)據(jù),參考工參,掃頻及MR等大數(shù)據(jù),利用奧村-哈塔傳播方程矩陣理論運算,根據(jù)不同頻段自由空間傳播模型損耗、模擬仿真覆蓋及損耗矩陣,評估規(guī)劃LTE網(wǎng)絡的覆蓋情況;同時構建貼合現(xiàn)網(wǎng)實際的小區(qū)傳播路損模型,有效識別LTE網(wǎng)絡的弱覆蓋和過覆蓋區(qū)域,實現(xiàn)“點、線、面”聯(lián)合校準驗證,獲取真實、準確和全面的小區(qū)覆蓋規(guī)劃數(shù)據(jù)。
1.2干擾評估分析
干擾是影響LTE網(wǎng)絡質量的關鍵因素,我們引入干擾貢獻系數(shù)來評估無線網(wǎng)絡重疊覆蓋度。定義干擾鄰區(qū)的能量之和與主小區(qū)的總能量的比值為干擾貢獻系數(shù),用其來評估主小區(qū)A,系數(shù)越大,說明該小區(qū)對外的干擾越大,需要整改的優(yōu)先級越高。
1.3價值評估分析
傳統(tǒng)規(guī)劃主要從覆蓋與干擾兩個維度分析,不能完全識別出高價值站點,導致網(wǎng)絡部署后出現(xiàn)建設偏離業(yè)務熱點,超閑小區(qū)較多等問題。而基于大數(shù)據(jù)挖掘的LTE網(wǎng)絡規(guī)劃可基于話務熱點、用戶/終端及價值業(yè)務等多維度進行關聯(lián)性分析。首先梳理出數(shù)據(jù)及話務熱點、智能終端/數(shù)據(jù)卡滲透高區(qū)域,判定流量價值高的區(qū)域;其次發(fā)掘出數(shù)據(jù)業(yè)務使用率高,但實際速率低,話務需求被壓制的區(qū)域;再次利用VIP/投拆用戶列表導出數(shù)據(jù)業(yè)務投訴用戶和VIP用戶區(qū)域,更直觀、有效的體現(xiàn)網(wǎng)絡熱點投訴、流量變化較大的重點小區(qū)數(shù)據(jù),定位重要客戶的高價值流量區(qū)域,聚焦影響用戶感知的重要問題,發(fā)掘LTE潛在高價值區(qū)域,有效指導LTE網(wǎng)絡規(guī)劃效益,降低網(wǎng)絡資源的管理成本。利用基于柵格的多維度價值得分評估體系,通過高流量小區(qū)選擇,實現(xiàn)用戶分布地理化關聯(lián),進行多維度地理化綜合分析,得到多個小區(qū)構成的柵格的價值得分,得出高優(yōu)先級建站區(qū)域。
1)統(tǒng)計各柵格流量、用戶使用TD-SCDMA的速率、用戶數(shù)量、終端分布、業(yè)務流量分布等數(shù)據(jù),當某個柵格點上指標值大于全網(wǎng)柵格該指標平均值的k倍,即賦予該柵格價值點相應的分值。
2)柵格價值點相應的分值:柵格內指標值/(全網(wǎng)柵格點該指標平均值×k),k值建議為1.2,意義為在此柵格點的其中某一項因素大于該項因素的平均值的1.2倍,才會進行價值得分分析,小于該值則該柵格點的該項因素的價值得分為0。
3)單個柵格總得分=權重1×熱點得分+權重2×速率得分+權重3×終端得分+權重4×業(yè)務得分…。
4)統(tǒng)計基站覆蓋范圍內包含的柵格數(shù)量以及各個柵格上的分值,最終輸出規(guī)劃基站的總柵格得分排序,排序高低反映了該基站的價值高低。
1.4評估分析流程
評估分析一般在待建站點資源收集后,按照價值高低,基于基站覆蓋范圍和受干擾影響程度,選擇建站順序。根據(jù)實際情況,可一方面利用2/3G舊站址,一方面建議增加符合合理網(wǎng)絡結構的新站點,達到良好規(guī)劃的目的。
2大數(shù)據(jù)處理思路
LTE規(guī)劃過程利用收集到的大量數(shù)據(jù),包括工參數(shù)據(jù)、性能數(shù)據(jù)、經(jīng)分口數(shù)據(jù)、MC口數(shù)據(jù)、投訴數(shù)據(jù)、測試數(shù)據(jù)等六大項13類數(shù)據(jù),從中提取有用信息進行分析。
2.1基于大數(shù)據(jù)的打包清洗
根據(jù)大數(shù)據(jù)刪冗去錯機制進行數(shù)據(jù)清洗(見圖7),保持數(shù)據(jù)的準確性。在規(guī)劃中首先實現(xiàn)數(shù)據(jù)去冗,對話統(tǒng)過期數(shù)據(jù)、工參多余字段集中去除;其次是數(shù)據(jù)去重,去除相同路段多次測試的數(shù)據(jù),排除話統(tǒng)及性能相同的數(shù)據(jù),保證數(shù)據(jù)唯一性;再次是數(shù)據(jù)糾錯,結合數(shù)據(jù)特性,對統(tǒng)計異常、工參錯誤等數(shù)據(jù)進行糾錯,保證數(shù)據(jù)區(qū)間在合理范圍。
2.2基于大數(shù)據(jù)的關聯(lián)聚合
根據(jù)數(shù)據(jù)的特征、變量等進行“數(shù)據(jù)降維”,從覆蓋,干擾和價值維度對數(shù)據(jù)進行投影降維,簡化分析數(shù)據(jù)的復雜度。同時運用強關聯(lián)聚合、相近聚合、相關聚合等聚合模型進行“關聯(lián)聚合”,比如在覆蓋評估中將道路測試、路測掃頻、用戶測量報告等信息按照關聯(lián)強弱聚合,在價值評估中將業(yè)務分布、用戶分布、終端分布等信息按照比例進行關聯(lián)聚合。具體來講,以用戶的地理位置為索引,關聯(lián)其所在位置的信號強度,干擾情況,終端支持類型信息,業(yè)務信息以及所在位置的周圍基站分布情況,周圍環(huán)境情況,人群流動情況等等,建立基于時間、位置、用戶、終端、應用等多維度的用戶行為聚合模型。根據(jù)用戶行為模型,分析篩選得到絕對靜態(tài)用戶數(shù)(靜態(tài)用戶定義為單用戶在某小區(qū)有5天產(chǎn)生流量且每天在該小區(qū)產(chǎn)生流量占當天該用戶總流量的70%以上,且產(chǎn)生的流量大于10MB/周)全省共計3.8萬人,涉及5798個小區(qū)。根據(jù)用戶在占用靜態(tài)小區(qū)時上報的用戶自身所在位置的經(jīng)緯信息(理論上精度平均誤差在55m)結合基站位置關聯(lián),發(fā)現(xiàn)定位2G/3G數(shù)據(jù)業(yè)務成熟度高的區(qū)域。通過精確定位不同用戶上網(wǎng)的地理位置,同時關聯(lián)靜態(tài)用戶終端網(wǎng)絡制式信息,用戶上網(wǎng)習慣和用戶流量,引導4G站點規(guī)劃,指導指導定向推送4G營銷業(yè)務。
3應用情況
基于大數(shù)據(jù)挖掘的LTE網(wǎng)絡規(guī)劃研究在山東公司LTE網(wǎng)絡一期網(wǎng)絡規(guī)劃中得到了廣泛應用。通過高價值區(qū)域定位、干擾問題分析、覆蓋評估等維度綜合關聯(lián)性分析,借助2G/3G現(xiàn)網(wǎng)實測數(shù)據(jù)實現(xiàn)了“點、線、面”聯(lián)合評估,真實、準確、全面地對4G網(wǎng)絡的價值流量、重疊覆蓋干擾、弱覆蓋等進行了評估,同時輸出了LTE工參信息、站址建設優(yōu)先級,站址地理化呈現(xiàn)等一系列規(guī)劃結果。通過黑、灰、白名單規(guī)則判斷,輸出了LTE網(wǎng)絡不建議規(guī)劃的黑名單小區(qū)、通過相關優(yōu)化調整后可規(guī)劃灰名單小區(qū)、直接可共址建設的白名單小區(qū),共評估一期工程規(guī)劃小區(qū)60653個,發(fā)現(xiàn)低價值用戶流量少的黑小區(qū)3433個;易產(chǎn)生干擾黑色小區(qū)5021個,灰色站點1265個;覆蓋問題黑色小區(qū)543個,灰色小區(qū)3501個。通過規(guī)劃質量的提高,降低了后續(xù)優(yōu)化調整的難度,共計節(jié)約資金11766×0.3=3530萬(注:每個基站年優(yōu)化費用約0.3萬),而且原來人工規(guī)劃、勘察基站的效率大大提升,解放人力成本帶來的直接經(jīng)濟效益75×10=750萬(注:人力成本節(jié)約75人,含外包,年人均成本10萬),降低了全省網(wǎng)絡規(guī)劃優(yōu)化的管理成本。通過TD-LTE的大數(shù)據(jù)網(wǎng)絡規(guī)劃分析,有效指導了4G網(wǎng)絡規(guī)劃,按照以終為始、聚焦價值、提高投資收益、建設精品網(wǎng)絡的目標,提升了4G網(wǎng)絡規(guī)劃的準確性、合理性。
4結語
篇7
對原燃料結算方式進行數(shù)據(jù)挖掘的目的是為了控制結算成本,采用的方法是根據(jù)超出我方檢斤檢質結算量屬性對原燃料進行分類,構建原燃料結算控制模型。
2數(shù)據(jù)準備
數(shù)據(jù)收集:需要嚴格控制我方檢斤檢質的過程以作為判斷的依據(jù),同時盡可能多的從事物數(shù)據(jù)庫中收集各種原燃料按不同結算方式所得到的結算量屬性值。數(shù)據(jù)預處理:首先根據(jù)經(jīng)驗去掉明顯有誤的數(shù)據(jù);其次根據(jù)原燃料結算方式,選擇與數(shù)據(jù)挖掘相關的屬性。數(shù)據(jù)變換:對數(shù)據(jù)進行相應的變換,從初始特征中找出真正有用的特征。在本次數(shù)據(jù)挖掘中原燃料屬性主要包括:原燃料種類,供方檢斤檢質結算量,我方檢斤檢質結算量,供方檢斤檢質與我方檢斤檢質之間的結算量差別。然后根據(jù)我方檢斤檢質結算量與供方檢斤檢質結算量之間的差別作為分類的依據(jù),對上述屬性進行歸一化[1],得到表1、表2數(shù)據(jù)。SupQty表示供方量,SupH2O表示供方水分,Qty表示我方量,H2O表示我方水分,SupInsQty表示供方檢斤檢質量,in-sQty表示我方檢斤檢質量,calculQty表示供方檢斤檢質量與我方檢斤檢質量之間的差值。
3數(shù)據(jù)挖掘
通過編程實現(xiàn)K均值聚類方法[6]來處理表2數(shù)據(jù)。此K-均值算法是發(fā)現(xiàn)給定數(shù)據(jù)集的k個簇的算法,每個簇通過其質心(centroid),即簇中所有點的中心來描述。首先,隨機確定k個初始點作為質心,然后將數(shù)據(jù)集中的每個點分配到一個簇中,具體來講,就是為每個點找距其最近的質心,并將其分配給該質心所對應的簇。這一步完成之后,每個簇的質心更新為該簇所有點的平均值。根據(jù)實際情況,本文K均值法采用3個初始點作為質心,按歸一化我方檢斤檢質和歸一化超出我方檢斤檢質量作為分類屬性,得到3個類的質心坐標,結果如表3,同時得到每種原燃料的分類圖,如圖1。
4結果解釋和評估
篇8
執(zhí)行記錄屬于軟件工程中的挖掘領域,其主要任務是針對執(zhí)行記錄的挖掘主要針對程序執(zhí)行路徑進行分析,進而找出與程序代碼所具有的必然聯(lián)系,以實現(xiàn)軟件系統(tǒng)程序與模塊代碼相結合共同發(fā)生作用的目的,對程序的整體起到維護、驗證和了解的作用[2]。究其工作的實質,就是以執(zhí)行路徑為線索實現(xiàn)逆向建模,有助于軟件工程系統(tǒng)各個環(huán)節(jié)的理解、維護、跟蹤以及驗證。
2檢測軟件漏洞
作為軟件工程領域需要協(xié)助的軟件工程目標之一,針對軟件漏洞的檢測固然是挖掘數(shù)據(jù)技術系統(tǒng)中不可或缺的一環(huán)。檢測的對象和任務主要包括:軟件測試的具體項目,對軟件系統(tǒng)漏洞庫數(shù)據(jù)信息的收集、轉換和清理,信息系統(tǒng)數(shù)據(jù)的采集與抽取,選擇合適的軟件系統(tǒng)數(shù)據(jù)挖掘信息并對其展開驗證、整合與訓練,對軟件數(shù)據(jù)系統(tǒng)中存在的缺陷漏洞進行整體的分類、定位與具體描述,以及廣泛應用于軟件測試項目中的各種工程活動。究其最終目的,就是找出軟件系統(tǒng)在開發(fā)與應用的具體過程中存在的問題、謬誤與漏洞,對業(yè)已搜索出的問題和漏洞進行及時的矯正與修復。確保軟件系統(tǒng)的有效運作與安然運行。
3版本控制信息
版本控制的挖掘屬于軟件工程領域中的挖掘對象技術之一,這種軟件系統(tǒng)的駕馭手段具有與上述兩種應用截然不同的獨特作用:有效確保軟件工程項目編程人員所編輯與制作的檔案得到十分有效的管理,進而對系統(tǒng)全局的更新提供穩(wěn)定的基礎與平臺。版本控制信息的技能價值看似“默默無聞”,地位實則非常重要,是所有軟件工程項目開發(fā)必須采用的一門技術,否則任何軟件工程項目的開發(fā)都無從談及與運作。這門技術功能經(jīng)過不斷的發(fā)展更新,多以應用版本控制系統(tǒng)實施軟件開發(fā)工作的保護或者管理的方式著稱于世。
4開源軟件挖掘
開源軟件的挖掘,其項目的開發(fā)環(huán)境優(yōu)勢可謂得天獨厚,主要體現(xiàn)在開放性、全局性、動態(tài)性三個特征層面上。既然具有別具一格的開放手段與應用方式,所以對該類軟件的開發(fā)管理,也要采取與與其他傳統(tǒng)軟件和異類軟件截然不同的原則與策略,形成“具體問題具體分析”的思想實踐思路。針對其開放性的特征,需要工作人員的頻繁流動與變更;針對其動態(tài)性的特征,開源項目必須達到優(yōu)質管理的水平;針對其全局性的特征,有需要開發(fā)人員在開發(fā)活動與應用軟件的過程中保持一個比較完整的記錄,以便于廣泛的社會網(wǎng)絡的生成。
5結語
篇9
目前計算機網(wǎng)絡教學的模式可以分為如下幾種:
1)網(wǎng)絡教學:包含異步學習模式與同步學習模式,泛指教師與學生都不用到傳統(tǒng)的教室去上課,只要上網(wǎng)到網(wǎng)絡教室中就可以進行許多教與學的活動。
2)遠程教室:在各大專院校設立有許多遠程教學同步視頻教室。在該教室中建置了許多視頻影音的設備,用來進行課程的實時轉播工作。
3)網(wǎng)絡同步教室:網(wǎng)絡教學活動可以區(qū)分為異步與同步的教學活動,其區(qū)別在于是否實時。教師和同學在約定的同一時間,通過Inter-net網(wǎng)絡進行在線實時的課程教授的教學環(huán)境,就可稱之為網(wǎng)絡同步教室。在網(wǎng)絡同步教室中提供許多教學相關的輔助工具及互動相關的功能,以協(xié)助課程的進行。研究者希望通過數(shù)據(jù)挖掘的方法,來分析教師對于網(wǎng)絡教學環(huán)境的觀念,并提供教師在網(wǎng)絡同步教室中類似傳統(tǒng)教學環(huán)境的教學模式,以增加教師采用網(wǎng)絡教學的意愿。本研究將先就“傳統(tǒng)教學”、“遠程教學”及“網(wǎng)絡同步教學”的環(huán)境因素、教學方式、師生互動、學習成效等構面進行分析比較,來區(qū)分出這三種教學環(huán)境的優(yōu)缺點及差異,并將依據(jù)目前教師在傳統(tǒng)教學中的教學模式,實際應用在網(wǎng)絡同步教室中來施行,讓參與網(wǎng)絡教學的教師可以了解如何運用網(wǎng)絡同步教室來經(jīng)營一門高質量的課程。首先將推行計算機網(wǎng)絡教學遇到的問題,大致上區(qū)分成以下幾個主要因素:
1)數(shù)字教材的制作或取得不易:學校對于數(shù)字教材的取得感到憂心,大多要求學校教師自行制作,對教師而言會增加額外的負擔,導致教師對網(wǎng)絡教學產(chǎn)生抗拒的心理。
2)教師對網(wǎng)絡教學的成效產(chǎn)生質疑:教師普遍認為網(wǎng)絡教學環(huán)境的教學效果沒有辦法像傳統(tǒng)教學環(huán)境一樣,可以和學生有高度的互動,不認為網(wǎng)絡學習會比較有教學成效。
3)教師對參與網(wǎng)絡教學的意愿低落:教師必須花費許多時間和學生互動,比往常還需要花費更多的時間去回答學生的問題、關心學生的學習狀況,教師普遍認為網(wǎng)絡學習對教師來說不會比較輕松。將此主要因素做成調查問卷,對數(shù)據(jù)進行聚類分析,則可以找到主要的影響因素,獲得教師對于網(wǎng)絡教學環(huán)境的態(tài)度,進而選擇更加有效的授課形式,以此提供類似傳統(tǒng)教學環(huán)境的教學模式,以提高教師采用網(wǎng)絡教學的意愿。
二、總結
篇10
關鍵字:數(shù)據(jù)挖掘金融數(shù)據(jù)
金融部門每天的業(yè)務都會產(chǎn)生大量數(shù)據(jù),利用目前的數(shù)據(jù)庫系統(tǒng)可以有效地實現(xiàn)數(shù)據(jù)的錄入、查詢、統(tǒng)計等功能,但無法發(fā)現(xiàn)數(shù)據(jù)中存在的關系和規(guī)則,無法根據(jù)現(xiàn)有的數(shù)據(jù)預測未來的發(fā)展趨勢。缺乏挖掘數(shù)據(jù)背后隱藏的知識的手段,導致了數(shù)據(jù)爆炸但知識貧乏”的現(xiàn)象。與此同時,金融機構的運作必然存在金融風險,風險管理是每一個金融機構的重要工作。利用數(shù)據(jù)挖掘技術不但可以從這海量的數(shù)據(jù)中發(fā)現(xiàn)隱藏在其后的規(guī)律,而且可以很好地降低金融機構存在的風險。學習和應用數(shù)扼挖掘技術對我國的金融機構有重要意義。
一、數(shù)據(jù)挖掘概述
1.數(shù)據(jù)挖掘的定義對于數(shù)據(jù)挖掘,一種比較公認的定義是W.J.Frawley,G.PiatetskShapiro等人提出的。數(shù)據(jù)挖掘就是從大型數(shù)據(jù)庫的數(shù)據(jù)中提取人們感興趣的知識、這些知識是隱含的、事先未知的、潛在有用的信息,提取的知識表示為概念(Concepts),規(guī)則(Rules)、規(guī)律(Regularities)、模式(Patterns)等形式。這個定義把數(shù)據(jù)挖掘的對象定義為數(shù)據(jù)庫。
隨著數(shù)據(jù)挖掘技術的不斷發(fā)展,其應用領域也不斷拓廣。數(shù)據(jù)挖掘的對象已不再僅是數(shù)據(jù)庫,也可以是文件系統(tǒng),或組織在一起的數(shù)據(jù)集合,還可以是數(shù)據(jù)倉庫。與此同時,數(shù)據(jù)挖掘也有了越來越多不同的定義,但這些定義盡管表達方式不同,其本質都是近似的,概括起來主要是從技術角度和商業(yè)角度給出數(shù)據(jù)挖掘的定義。
從技術角度看,數(shù)據(jù)挖掘就是從大量的、不完全的、有噪聲的、模糊的、隨機的實際應用數(shù)據(jù)中,提取隱含在其中的、人們事先不知道的、但又是潛在的和有用的信息和知識的過程。它是一門廣義的交叉學科,涉及數(shù)據(jù)庫技術、人工智能、機器學習、神經(jīng)網(wǎng)絡、統(tǒng)計學、模式識別、知識庫系統(tǒng)、知識獲取、信息檢索、高性能計算和數(shù)據(jù)可視化等多學科領域且本身還在不斷發(fā)展。目前有許多富有挑戰(zhàn)的領域如文本數(shù)據(jù)挖掘、Web信息挖掘、空間數(shù)據(jù)挖掘等。
從商業(yè)角度看,數(shù)據(jù)挖掘是一種深層次的商業(yè)信息分析技術。它按照企業(yè)既定業(yè)務目標,對大量的企業(yè)數(shù)據(jù)進行探索和分析,揭示隱藏的、未知的或驗證已知的規(guī)律性并進一步將其模型化,從而自動地提取出用以輔助商業(yè)決策的相關商業(yè)模式。
2.數(shù)據(jù)挖掘方法
數(shù)據(jù)挖掘技術是數(shù)據(jù)庫技術、統(tǒng)計技術和人工智能技術發(fā)展的產(chǎn)物。從使用的技術角度,主要的數(shù)據(jù)挖掘方法包括:
2.1決策樹方法:利用樹形結構來表示決策集合,這些決策集合通過對數(shù)據(jù)集的分類產(chǎn)生規(guī)則。國際上最有影響和最早的決策樹方法是ID3方法,后來又發(fā)展了其它的決策樹方法。
2.2規(guī)則歸納方法:通過統(tǒng)計方法歸納,提取有價值的if-then規(guī)則。規(guī)則歸納技術在數(shù)據(jù)挖掘中被廣泛使用,其中以關聯(lián)規(guī)則挖掘的研究開展得較為積極和深入。
2.3神經(jīng)網(wǎng)絡方法:從結構上模擬生物神經(jīng)網(wǎng)絡,以模型和學習規(guī)則為基礎,建立3種神經(jīng)網(wǎng)絡模型:前饋式網(wǎng)絡、反饋式網(wǎng)絡和自組織網(wǎng)絡。這種方法通過訓練來學習的非線性預測模型,可以完成分類、聚類和特征挖掘等多種數(shù)據(jù)挖掘任務。
2.4遺傳算法:模擬生物進化過程的算法,由繁殖(選擇)、交叉(重組)、變異(突變)三個基本算子組成。為了應用遺傳算法,需要將數(shù)據(jù)挖掘任務表達為一種搜索問題,從而發(fā)揮遺傳算法的優(yōu)化搜索能力。
2.5粗糙集(RoughSet)方法:Rough集理論是由波蘭數(shù)學家Pawlak在八十年代初提出的一種處理模糊和不精確性問題的新型數(shù)學工具。它特別適合于數(shù)據(jù)簡化,數(shù)據(jù)相關性的發(fā)現(xiàn),發(fā)現(xiàn)數(shù)據(jù)意義,發(fā)現(xiàn)數(shù)據(jù)的相似或差別,發(fā)現(xiàn)數(shù)據(jù)模式和數(shù)據(jù)的近似分類等,近年來已被成功地應用在數(shù)據(jù)挖掘和知識發(fā)現(xiàn)研究領域中。
2.6K2最鄰近技術:這種技術通過K個最相近的歷史記錄的組合來辨別新的記錄。這種技術可以作為聚類和偏差分析等挖掘任務。
2.7可視化技術:將信息模式、數(shù)據(jù)的關聯(lián)或趨勢等以直觀的圖形方式表示,決策者可以通過可視化技術交互地分析數(shù)據(jù)關系??梢暬瘮?shù)據(jù)分析技術拓寬了傳統(tǒng)的圖表功能,使用戶對數(shù)據(jù)的剖析更清楚。
二、數(shù)據(jù)挖掘在金融行業(yè)中的應用數(shù)據(jù)挖掘已經(jīng)被廣泛應用于銀行和商業(yè)中,有以下的典型應用:
1.對目標市場(targetedmarketing)客戶的分類與聚類。例如,可以將具有相同儲蓄和貨款償還行為的客戶分為一組。有效的聚類和協(xié)同過濾(collaborativefiltering)方法有助于識別客戶組,以及推動目標市場。
2..客戶價值分析。
在客戶價值分析之前一般先使用客戶分類,在實施分類之后根據(jù)“二八原則”,找出重點客戶,即對給銀行創(chuàng)造了80%價值的20%客戶實施最優(yōu)質的服務。重點客戶的發(fā)現(xiàn)通常采用一系列數(shù)據(jù)處理、轉換過程、AI人工智能等數(shù)據(jù)挖掘技術來實現(xiàn)。通過分析客戶對金融產(chǎn)品的應用頻率、持續(xù)性等指標來判別客戶的忠誠度;通過對交易數(shù)據(jù)的詳細分析來鑒別哪些是銀行希望保持的客戶;通過挖掘找到流失的客戶的共同特征,就可以在那些具有相似特征的客戶還未流失之前進行針對性的彌補。
3.客戶行為分析。
找到重點客戶之后,可對其進行客戶行為分析,發(fā)現(xiàn)客戶的行為偏好,為客戶貼身定制特色服務。客戶行為分析又分為整體行為分析和群體行為分析。整體行為分析用來發(fā)現(xiàn)企業(yè)現(xiàn)有客戶的行為規(guī)律。同時,通過對不同客戶群組之間的交叉挖掘分析,可以發(fā)現(xiàn)客戶群體間的變化規(guī)律,并可通過數(shù)據(jù)倉庫的數(shù)據(jù)清潔與集中過程,將客戶對市場的反饋自動輸人到數(shù)據(jù)倉庫中。通過對客戶的理解和客戶行為規(guī)律的發(fā)現(xiàn),企業(yè)可以制定相應的市場策略。
4.為多維數(shù)據(jù)分析和數(shù)據(jù)挖掘設計和構造數(shù)據(jù)倉庫。例如,人們可能希望按月、按地區(qū)、按部門、以及按其他因素查看負債和收入的變化情況,同時希望能提供諸如最大、最小、總和、平均和其他等統(tǒng)計信息。數(shù)據(jù)倉庫、數(shù)據(jù)立方體、多特征和發(fā)現(xiàn)驅動數(shù)據(jù)立方體,特征和比較分析,以及孤立點分析等,都會在金融數(shù)據(jù)分析和挖掘中發(fā)揮重要作用。
5.貨款償還預測和客戶信用政策分析。有很多因素會對貨款償還效能和客戶信用等級計算產(chǎn)生不同程度的影響。數(shù)據(jù)挖掘的方法,如特征選擇和屬性相關性計算,有助于識別重要的因素,別除非相關因素。例如,與貨款償還風險相關的因素包括貨款率、資款期限、負債率、償還與收入(payment——to——income)比率、客戶收入水平、受教育程度、居住地區(qū)、信用歷史,等等。而其中償還與收入比率是主導因素,受教育水平和負債率則不是。銀行可以據(jù)此調整貨款發(fā)放政策,以便將貨款發(fā)放給那些以前曾被拒絕,但根據(jù)關鍵因素分析,其基本信息顯示是相對低風險的申請。
6.業(yè)務關聯(lián)分析。通過關聯(lián)分析可找出數(shù)據(jù)庫中隱藏的關聯(lián)網(wǎng),銀行存儲了大量的客戶交易信息,可對客戶的收人水平、消費習慣、購買物種等指標進行挖掘分析,找出客戶的潛在需求;通過挖掘對公客戶信息,銀行可以作為廠商和消費者之間的中介,與廠商聯(lián)手,在掌握消費者需求的基礎上,發(fā)展中間業(yè)務,更好地為客戶服務。
7.洗黑錢和其他金融犯罪的偵破。要偵破洗黑錢和其他金融犯罪,重要的一點是要把多個數(shù)據(jù)庫的信息集成起來,然后采用多種數(shù)據(jù)分析工具找出異常模式,如在某段時間內,通過某一組人發(fā)生大量現(xiàn)金流量等,再運用數(shù)據(jù)可視化工具、分類工具、聯(lián)接工具、孤立點分析工具、序列模式分析工具等,發(fā)現(xiàn)可疑線索,做出進一步的處理。
數(shù)據(jù)挖掘技術可以用來發(fā)現(xiàn)數(shù)據(jù)庫中對象演變特征或對象變化趨勢,這些信息對于決策或規(guī)劃是有用的,金融
行業(yè)數(shù)據(jù)的挖掘有助于根據(jù)顧客的流量安排工作人員。可以挖掘股票交易數(shù)據(jù),發(fā)現(xiàn)可能幫助你制定投資策略的趨勢數(shù)據(jù)。挖掘給企業(yè)帶來的潛在的投資回報幾乎是無止境的。當然,數(shù)據(jù)挖掘中得到的模式必須要在現(xiàn)實生活中進行驗證。
參考文獻:
丁秋林,力士奇.客戶關系管理.第1版.北京:清華人學出版社,2002
張玉春.數(shù)據(jù)挖掘在金融分析中的應用.華南金融電腦.2004