自2011年本書第2版出版以來，數(shù)據(jù)挖掘領(lǐng)域取得了很大的進(jìn)展。大數(shù)據(jù)(Big Data)這個(gè)術(shù)語被引入并被廣泛接受，用來描述收集、分析和使用大量不同數(shù)據(jù)的數(shù)量和速度。建立新的數(shù)據(jù)科學(xué)領(lǐng)域，可以描述先進(jìn)工具和方法的所有多學(xué)科方面，可以從大數(shù)據(jù)中提取有用的和可操作的信息。本書的第3版總結(jié)了快速變化的數(shù)據(jù)挖掘領(lǐng)域的這些新發(fā)展，并介紹了在學(xué)術(shù)環(huán)境和高級(jí)應(yīng)用程序部署中系統(tǒng)方法所需的數(shù)據(jù)挖掘原則。
雖然第3版對(duì)核心內(nèi)容保持不變，但本版中重要的變化和補(bǔ)充突出了該領(lǐng)域的動(dòng)態(tài)，其中包括：
● 大數(shù)據(jù)、數(shù)據(jù)科學(xué)、深度學(xué)習(xí)等新課題；
● 新方法包括強(qiáng)化學(xué)習(xí)、云計(jì)算和MapReduce框架；
● 對(duì)不平衡數(shù)據(jù)、數(shù)據(jù)挖掘模型的公平性和聚類驗(yàn)證的主觀性進(jìn)行了新的強(qiáng)調(diào)；
● 附加的高級(jí)算法，如卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks，CNN)，半虛擬支持向量機(jī)(Semisupervised Support Vector Machines，S3VM)，Q學(xué)習(xí)，隨機(jī)森林，非平衡數(shù)據(jù)建模的SMOTE算法；
● 每個(gè)章節(jié)都增加了額外的示例和練習(xí)，以及參考書目、供進(jìn)一步閱讀的參考資料，另外還更新了附錄。
我要感謝路易斯維爾大學(xué)計(jì)算機(jī)工程與計(jì)算機(jī)科學(xué)系數(shù)據(jù)挖掘?qū)嶒?yàn)室的在校生和往屆學(xué)生，感謝他們?yōu)榈?版的編寫所做的貢獻(xiàn)。Tegjyot Singh Sethi和Elaheh Arabmakki根據(jù)他們的助教經(jīng)驗(yàn)，為數(shù)據(jù)挖掘課程提供了以前版本的教材，并提供了評(píng)論和建議。Lingyu Lyu 和Mehmet Akif Gulum幫我校對(duì)了新版，并對(duì)該書附錄進(jìn)行了大量的修改和更新。特別感謝Hanqing Hu，他幫助我準(zhǔn)備了文本的終版本以及第3版中所有額外的圖表。本書的新版本是許多同事將以前的版本作為教材積極教學(xué)的結(jié)果。他們提供了經(jīng)驗(yàn)和建議，我要感謝他們?cè)诨I備第3版的編寫過程中對(duì)我的支持和鼓勵(lì)。
希望讀者能通過這本新書，加深對(duì)現(xiàn)代數(shù)據(jù)挖掘技術(shù)及其應(yīng)用的理解，并認(rèn)識(shí)到該領(lǐng)域近面臨的挑戰(zhàn)。本書應(yīng)該作為數(shù)據(jù)挖掘領(lǐng)域的指南，為高年級(jí)本科生或研究生、年輕的研究人員和實(shí)踐者服務(wù)。雖然每一章大致遵循一個(gè)標(biāo)準(zhǔn)的教育模板，但本書的前幾章更注重介紹基本概念，而后幾章則建立在這些章節(jié)的基礎(chǔ)之上，逐步介紹數(shù)據(jù)挖掘的重要的技術(shù)和方法。本書提供了基本的構(gòu)建塊，將使讀者成為數(shù)據(jù)科學(xué)社區(qū)的一部分，并參與構(gòu)建未來杰出的數(shù)據(jù)挖掘應(yīng)用程序。
請(qǐng)掃描封底二維碼獲取本書參考文獻(xiàn)。

第2版前言

從本書第1版出版以來的7年中，數(shù)據(jù)挖掘領(lǐng)域在開發(fā)新技術(shù)和擴(kuò)展其應(yīng)用范圍方面有了長(zhǎng)足的進(jìn)步。正是數(shù)據(jù)挖掘領(lǐng)域中的這些變化，令筆者下定決心修訂本書的第1版，出版第2版。本版的核心內(nèi)容并沒有改變，但匯總了這個(gè)快速變化的領(lǐng)域中的進(jìn)展，呈現(xiàn)了數(shù)據(jù)挖掘在學(xué)術(shù)研究和商業(yè)應(yīng)用領(lǐng)域的尖端技術(shù)。與第1版相比，顯著的變化是添加了如下內(nèi)容：
● 一些新主題，例如集成學(xué)習(xí)、圖表挖掘、時(shí)態(tài)、空間、分布式和隱私保護(hù)等的數(shù)據(jù)挖掘；
● 一些新算法，例如分類遞歸樹(CART)、DBSCAN (Density-Based Spatial Clustering of Applications with Noise)、BIRCH(Balanced and Iterative Reducing and Clustering Using Hierarchies)、PageRank、AdaBoost、支持向量機(jī)(Support Vector Machines，SVM)、Kohonen自組織映射(Self-Organizing Maps，SOM)和潛在語義索引(Latent Semantic Indexing，LSI)；
● 詳細(xì)介紹數(shù)據(jù)挖掘過程的實(shí)用方面和商用理解，討論驗(yàn)證、部署、數(shù)據(jù)理解、因果關(guān)系、安全和隱私等重要問題；
● 比較數(shù)據(jù)挖掘模型的一些量化方式方法，例如ROC曲線、增益圖、ROI圖、McNemar測(cè)試和K折交叉驗(yàn)證成對(duì)t測(cè)試。
本書是一本教材，因此還增加了一些新習(xí)題。這一版也更新了附錄中的內(nèi)容，包含了近幾年的新成果，還反映了某個(gè)新主題得到人們的重視時(shí)所發(fā)生的變化。
筆者感謝在課堂上使用本書第1版的所有同行，以及支持我、鼓勵(lì)我和提出建議的所有人，并在新版中也采納了這些建議。筆者真誠地感謝數(shù)據(jù)挖掘?qū)嶒?yàn)室和計(jì)算機(jī)科學(xué)系的所有同事和同學(xué)們，感謝他們審讀本書，并提出了許多有益的建議。特別感謝研究生Brent Wenerstrom、Chamila Walgampaya和Wael Emara，他們耐心地校對(duì)了這個(gè)新版本，討論新章節(jié)中的內(nèi)容，還做了許多校正和增補(bǔ)。Joung Woo Ryu博士還幫助筆者完成了文字、所有新增圖和表格的終稿，筆者對(duì)此表示誠摯的感謝。
本書是面向在校生、畢業(yè)生、研究人員和相關(guān)從業(yè)人員的一本極具價(jià)值的指南。本書介紹的廣泛主題可以幫助讀者了解數(shù)據(jù)挖掘?qū)ΜF(xiàn)代商業(yè)、科學(xué)甚至整個(gè)社會(huì)的影響。

第1版前言

計(jì)算機(jī)、網(wǎng)絡(luò)和傳感器的現(xiàn)代技術(shù)使數(shù)據(jù)的收集和組織成為一項(xiàng)幾乎毫不費(fèi)力的任務(wù)。但是，需要將捕獲的數(shù)據(jù)轉(zhuǎn)換為記錄數(shù)據(jù)中的信息和知識(shí)，才能使其變得有用。傳統(tǒng)上，從記錄數(shù)據(jù)中提取有用信息的任務(wù)是由分析人員完成的；然而，現(xiàn)代商業(yè)和科學(xué)中不斷增長(zhǎng)的數(shù)據(jù)量要求使用基于計(jì)算機(jī)的方法來完成這項(xiàng)任務(wù)。隨著數(shù)據(jù)集在規(guī)模和復(fù)雜性上的增長(zhǎng)，不可避免地會(huì)出現(xiàn)從直接的手工數(shù)據(jù)分析向間接的、自動(dòng)化的數(shù)據(jù)分析的轉(zhuǎn)變，在這種分析中，分析人員使用更復(fù)雜、專業(yè)的工具。應(yīng)用基于計(jì)算機(jī)的方法的整個(gè)過程，包括從數(shù)據(jù)中發(fā)現(xiàn)知識(shí)的新技術(shù)，通常稱為數(shù)據(jù)挖掘。
數(shù)據(jù)挖掘的重要性源于這樣一個(gè)事實(shí)：現(xiàn)代世界是一個(gè)數(shù)據(jù)驅(qū)動(dòng)的世界。我們被數(shù)據(jù)、數(shù)字和其他東西包圍著，必須對(duì)這些數(shù)據(jù)進(jìn)行分析和處理，把它們轉(zhuǎn)換成信息，以提供信息、指示、答案，或者幫助理解和決策。在Internet、內(nèi)部網(wǎng)、數(shù)據(jù)倉庫和數(shù)據(jù)集市的時(shí)代，經(jīng)典數(shù)據(jù)分析的基本范式已經(jīng)成熟，可以進(jìn)行更改了。大量的數(shù)據(jù)——數(shù)百萬甚至數(shù)億條記錄——現(xiàn)在存儲(chǔ)在集中的數(shù)據(jù)倉庫中，允許分析人員利用強(qiáng)大的數(shù)據(jù)挖掘方法更全面地檢查數(shù)據(jù)。這類數(shù)據(jù)的數(shù)量是巨大的，而且還在不斷增加，數(shù)據(jù)來源的數(shù)量實(shí)際上是無限的，涉及的領(lǐng)域是廣泛的，工業(yè)、商業(yè)、金融和科學(xué)活動(dòng)都在產(chǎn)生這類數(shù)據(jù)。
數(shù)據(jù)挖掘的新學(xué)科已經(jīng)發(fā)展起來，尤其是從如此巨大的數(shù)據(jù)集中提取有價(jià)值的信息。近年來，從原始數(shù)據(jù)中發(fā)現(xiàn)新知識(shí)的方法呈爆炸式增長(zhǎng)�？紤]到低成本計(jì)算機(jī)(用于在軟件中實(shí)現(xiàn)這些方法)、低成本傳感器、通信和數(shù)據(jù)庫技術(shù)(用于收集和存儲(chǔ)數(shù)據(jù))以及精通計(jì)算機(jī)的應(yīng)用程序?qū)＜?他們可以提出“有趣的”和“有用的”應(yīng)用程序問題)的大量出現(xiàn)，這并不奇怪。
數(shù)據(jù)挖掘技術(shù)目前是決策者的熱門選擇，因?yàn)樗�可以從大量的歷史數(shù)據(jù)中提供有價(jià)值的隱藏業(yè)務(wù)和科學(xué)“情報(bào)”。然而，應(yīng)該記住，從根本上講，數(shù)據(jù)挖掘并不是一項(xiàng)新技術(shù)。從記錄數(shù)據(jù)中提取信息和知識(shí)發(fā)現(xiàn)的概念在科學(xué)和醫(yī)學(xué)研究中是一個(gè)成熟的概念。新出現(xiàn)的是一些學(xué)科和相應(yīng)技術(shù)的融合，這為科學(xué)和企業(yè)界的數(shù)據(jù)挖掘創(chuàng)造了一個(gè)獨(dú)特的機(jī)會(huì)。
本書的起源是希望有一個(gè)單一的介紹來源，我們可以在其中指導(dǎo)學(xué)生，而不是引導(dǎo)他們參考多個(gè)來源。然而，我很快發(fā)現(xiàn)，除了學(xué)生之外，還有很多人對(duì)匯編數(shù)據(jù)挖掘中一些重要的方法、工具和算法很感興趣。這樣的讀者包括來自各種背景和職位的人，他們需要理解大量的原始數(shù)據(jù)。這本書可以供廣泛的讀者使用，從希望學(xué)習(xí)數(shù)據(jù)挖掘的基本過程和技術(shù)的學(xué)生，到分析師和程序員，他們將直接參與所選數(shù)據(jù)挖掘應(yīng)用的跨學(xué)科團(tuán)隊(duì)。本書回顧了在高維數(shù)據(jù)空間中分析大量原始數(shù)據(jù)，以提取決策過程中有用的新信息的技術(shù)。本書中涉及的大多數(shù)技術(shù)的定義、分類和解釋都不是新的，它們?cè)诒緯�后的參考資料中給出。作者的主要目標(biāo)之一是采取系統(tǒng)和平衡的方法介紹數(shù)據(jù)挖掘過程的所有階段，并提供足夠的說明性例子。希望本書精心準(zhǔn)備的示例能夠?yàn)樽x者提供額外的參考和指導(dǎo)，幫助他們選擇和構(gòu)建用于自己的數(shù)據(jù)挖掘應(yīng)用程序的技術(shù)和工具。要更好地理解所介紹的大多數(shù)技術(shù)的實(shí)現(xiàn)細(xì)節(jié)，需要讀者構(gòu)建自己的工具或改進(jìn)應(yīng)用的方法和技術(shù)。
數(shù)據(jù)挖掘的教學(xué)必須強(qiáng)調(diào)應(yīng)用方法的概念和性質(zhì)，而不是如何應(yīng)用不同數(shù)據(jù)挖掘工具的機(jī)械細(xì)節(jié)。盡管有這些誘人的附加功能，但僅僅基于計(jì)算機(jī)的工具永遠(yuǎn)無法提供完整的解決方案。始終需要執(zhí)行者就如何設(shè)計(jì)整個(gè)過程以及如何使用工具和使用什么工具做出重要的決策。更深入地理解方法和模型、它們的行為方式以及為什么它們會(huì)這樣做，是有效、成功地應(yīng)用數(shù)據(jù)挖掘技術(shù)的先決條件。這本書的前提是，在數(shù)據(jù)挖掘領(lǐng)域只有少數(shù)幾個(gè)重要的原則和問題。任何該領(lǐng)域的研究人員或?qū)嵺`者都需要了解這些問題，以便成功地應(yīng)用特定的方法、理解方法的局限性或開發(fā)新技術(shù)。本書試圖介紹和討論這些問題和原則，然后描述代表性的和流行的方法，這些方法起源于統(tǒng)計(jì)、機(jī)器學(xué)習(xí)、計(jì)算機(jī)圖形學(xué)、數(shù)據(jù)庫、信息檢索、神經(jīng)網(wǎng)絡(luò)、模糊邏輯和進(jìn)化計(jì)算。
本書描述了如何好地為執(zhí)行數(shù)據(jù)挖掘準(zhǔn)備環(huán)境，并討論了在揭示大數(shù)據(jù)集中重要的模式、趨勢(shì)和模型方面被證明是關(guān)鍵的方法。我們期望，一旦讀者學(xué)習(xí)完本書，就能夠成功和有效地在數(shù)據(jù)挖掘過程的所有階段發(fā)起和執(zhí)行基本活動(dòng)。雖然很容易將重點(diǎn)放在技術(shù)上，但是當(dāng)讀者通讀本書時(shí)，請(qǐng)記住，技術(shù)本身并不能提供完整的解決方案。我們編寫這本書的目的之一是盡量減少與數(shù)據(jù)挖掘相關(guān)的炒作。與其做出超出數(shù)據(jù)挖掘合理預(yù)期范圍的虛假承諾，還不如嘗試采取更客觀的方法。我們用足夠的信息描述了在數(shù)據(jù)挖掘應(yīng)用中產(chǎn)生可靠和有用結(jié)果所需的過程和算法。不提倡使用任何特定的產(chǎn)品或技術(shù)；數(shù)據(jù)挖掘過程的設(shè)計(jì)者必須有足夠的背景知識(shí)來選擇合適的方法和軟件工具。

Mehmed Kantardzic
作于路易斯維爾