新書推薦:
《
武当内家散手
》
售價:HK$
51.8
《
诛吕:“诸吕之乱”的真相与吕太后时期的权力结构
》
售價:HK$
102.4
《
炙野(全2册)
》
售價:HK$
80.3
《
女人的胜利
》
售價:HK$
57.4
《
数据有道:数据分析+图论与网络+微课+Python编程(鸢尾花数学大系:从加减乘除到机器学习)
》
售價:HK$
273.7
《
500万次倾听:陪伤心的人聊聊
》
售價:HK$
55.2
《
英国商业500年(见证大国崛起与企业兴衰,启迪未来商业智慧。)
》
售價:HK$
82.8
《
万千心理·儿童心理治疗中的心智化:临床实践指导
》
售價:HK$
89.7
|
內容簡介: |
全书一共分三大部分:
基础篇(1-2章)对Spark机器学习进行概述、并通过Spark机器学习开始进行数据分析;
算法篇(3-8章)针对分类、聚类、回归、协同过滤、关联规则、降维等算法进行详细讲解,并进行案例支持;
综合案例篇(9-12章)重点通过异常检测、用户画像、广告点击率预估、智慧交通大数据4个综合场景,详细讲解基于Spark机器学习的综合应用。
|
目錄:
|
前 言
第一篇 基础篇
第1章 机器学习概述2
1.1 机器学习概述2
1.1.1 理解大数据2
1.1.2 机器学习发展过程4
1.1.3 大数据生态环境5
1.2 机器学习算法6
1.2.1 传统机器学习6
1.2.2 深度学习8
1.2.3 其他机器学习8
1.3 机器学习分类9
1.3.1 监督学习9
1.3.2 无监督学习10
1.3.3 半监督学习10
1.3.4 强化学习10
1.4 机器学习综合应用11
1.4.1 异常检测12
1.4.2 用户画像12
1.4.3 广告点击率预估12
1.4.4 企业征信大数据应用12
1.4.5 智慧交通大数据应用13
1.5 本章小结13
第2章 数据分析流程和方法14
2.1 数据分析概述14
2.2 数据分析流程15
2.2.1 业务调研16
2.2.2 明确目标16
2.2.3 数据准备16
2.2.4 特征处理17
2.2.5 模型训练与评估21
2.2.6 输出结论23
2.3 数据分析的基本方法24
2.3.1 汇总统计24
2.3.2 相关性分析25
2.3.3 分层抽样26
2.3.4 假设检验26
2.4 简单的数据分析实践27
2.4.1 环境准备27
2.4.2 准备数据28
2.4.3 数据分析29
2.5 本章小结30
第二篇 算法篇
第3章 构建分类模型32
3.1 分类模型概述32
3.2 分类模型算法34
3.2.1 逻辑回归34
3.2.2 朴素贝叶斯模型36
3.2.3 SVM模型37
3.2.4 决策树模型39
3.2.5 K-近邻40
3.3 分类效果评估40
3.3.1 正确率41
3.3.2 准确率、召回率和F1值41
3.3.3 ROC和AUC42
3.4 App数据的分类实现44
3.4.1 选择分类器44
3.4.2 准备数据45
3.4.3 训练模型46
3.4.4 模型性能评估48
3.4.5 模型参数调优49
3.5 其他分类模型50
3.5.1 随机森林50
3.5.2 梯度提升树51
3.5.3 因式分解机模型51
3.6 本章小结52
第4章 构建聚类模型53
4.1 聚类概述53
4.2 聚类模型54
4.2.1 KMeans聚类54
4.2.2 DBSCAN聚类55
4.2.3 主题聚类56
4.3 聚类效果评价58
4.3.1 集中平方误差和58
4.3.2 Purity评价法59
4.4 使用KMeans对鸢尾花卉数据集聚类59
4.4.1 准备数据59
4.4.2 特征处理60
4.4.3 聚类分析60
4.4.4 模型性能评估62
4.5 使用DBSCAN对GPS数据进行聚类62
4.5.1 准备数据63
4.5.2 特征处理64
4.5.3 聚类分析64
4.5.4 模型参数调优65
4.6 其他模型66
4.6.1 层次聚类66
4.6.2 基于图的聚类67
4.6.3 混合聚类模型67
4.7 本章小结68
第5章 构建回归模型69
5.1 常用回归模型69
5.1.1 线性回归模型70
5.1.2 回归树模型70
5.1.3 其他回归模型71
5.2 评估指标73
5.3 回归模型优化74
5.3.1 特征选择74
5.3.2 特征变换74
5.4 构建UCI裙子销售数据回归模型75
5.4.1 准备数据75
5.4.2 训练模型78
5.4.3 评估效果79
5.4.4 模型优化79
5.5 其他回归模型案例80
5.5.1 GDP影响因素分析81
5.5.2 大气污染分析81
5.5.3 大数据比赛中的回归问题81
5.6 本章小结82
第6章 构建关联规则模型83
6.1 关联规则概述83
6.2 常用关联规则算法84
6.2.1 Apriori算法84
6.2.2 FP-Growth算法85
6.3 效果评估和优化86
6.3.1 效果评估86
6.3.2 效果优化87
6.4 使用FP-Growth对豆瓣评分数据进行挖掘88
6.4.1 准备数据89
6.4.2 训练模型89
6.4.3 观察规则91
6.4.4 参数调优91
6.4.5 使用算法92
6.5 其他应用场景94
6.6 本章小结96
第7章 协同过滤97
7.1 协同过滤概述97
7.2 常用的协同过滤算法98
7.2.1 基于用户的协同过滤99
7.2.2 基于物品的协同过滤100
7.2.3 矩阵分解技术101
7.2.4 推荐算法的选择102
7.3 评估标准103
7.3.1 准确率103
7.3.2 覆盖率103
7.3.3 多样性104
7.3.4 其他指标104
7.4 使用电影评分数据进行协同过滤实践104
7.4.1 准备数据105
7.4.2 训练模型106
7.4.3 测试模型109
7.4.4 使用ALS结果111
7.5 本章小结112
第8章 数据降维113
8.1 降维概述113
8.2 常用降维算法114
8.2.1 主成分分析114
8.2.2 奇异值分解116
8.2.3 广义降维117
8.2.4 文本降维118
8.3 降维评估标准121
8.4 使用PCA对Digits数据集进行降维122
8.4.1 准备数据122
8.4.2 训练模型123
8.4.3 分析降维结果124
8.5 其他降维方法124
8.5.1 线性判别分析124
8.5.2 局部线性嵌入125
8.5.3 拉普拉斯特征映射125
8.6 本章小结126
第三篇 综合应用篇
第9章 异常检测128
9.1 异常概述128
9.1.1 异常的产生129
9.1.2 异常检测的分类129
9.2 异常检测方法130
9.2.1 基于模型的方法130
9.2.2 基于邻近度的方法131
9.2.3 基于密度的方法132
9.2.4 基于聚类的方法133
9.3 异常检测系统133
9.3.1 异常检测过程133
9.
|
內容試閱:
|
上善若水,水善利万物而不争。
数据一如水,无色无味,非方非圆,以百态存于自然,于自然无违也。绵绵密密,微则无声,巨则汹涌;与人无争却又容纳万物。生活离不开水,同样离不开数据,我们被数据包围,在数据中生活,体会着数据量爆炸式增长带来的幸福和挑战。
本书从《道德经》和《庄子》精选名言,并结合大数据机器学习相关内容,对名言加以讲解,引导大家以老庄的思想认识大数据的内涵,使用机器学习进行大数据价值挖掘,探求老子道之路和庄子智慧之路。
为什么要写这本书
2014年春天,曾经和公司大数据团队小伙伴一起聚焦研究大数据,为了解决国内资料匮乏、学习门槛较高的问题,着手编写《Spark核心技术与高级应用》一书,并于2016年1月出版,取得了较好的反响,得到很多朋友的支持。
近年来,随着收集、存储和分析的数据量呈爆炸式增长,大规模的数据分析和数据价值挖掘能力已经成为影响企业生死存亡的关键,越来越多的企业必须面对这残酷而美好的挑战。基于大数据的机器学习有效解决了大数据带来的数据分析和数据挖掘瓶颈。
如何让更多的大数据从业人员更轻松地使用机器学习算法进行大数据价值挖掘,通过简单的学习建立大数据环境下的机器学习工程化思维,在不必深究算法细节的前提下,实现大数据分类、聚类、回归、协同过滤、关联规则、降维等算法,并使用这些算法解决实际业务场景的问题。2016年秋天,在机械工业出版社高婧雅编辑的指导下,怀着一颗附庸风雅之心,我决定和小伙伴们一起朝着新的目标努力。
本书的写作过程中,Spark版本也在不断变化,秉承大道至简的原则,我们一方面尽量按照新的版本进行统筹,另外一方面尽量做到和版本解耦,希望能抛砖引玉,以个人的一些想法和见解,为读者拓展出更深入、更全面的思路。
本书只是一个开始,如何使用机器学习算法从海量数据中挖掘出更多的价值,还需要无数的大数据从业人员前赴后继,突破漫漫雄关,共同创造美好的大数据机器学习时代。
本书特色
本书介绍大数据机器学习的算法和实践,同时对传统文化进行了一次缅怀,吸收传统文化的精华,精选了《道德经》和《庄子》部分名言,实现大数据和哲学思想的有效统一。结合老子的“无为”和庄子的“天人合一”思想,引导读者以辩证法思考方式认识大数据机器学习的内涵。
从技术层面上,本书一方面基于Spark现有的机器学习库讲解,另一方面尽量做到和现有Spark版本中的机器学习库解耦,突出对大数据机器学习的宏观理解,并给出典型算法的工程化实现,使更多的人轻松使用机器学习进行大数据价值挖掘,从而建立大数据机器学习工程化思维,在不必深究算法细节的前提下有效解决实际问题。本书更加强调在实际场景中的应用,并有针对性地给出了综合应用场景。
从适合读者阅读和掌握知识的结构安排上讲,本书分“基础篇”“算法篇”“综合应用篇”三个维度层层推进,便于读者在深入理解基础上根据相应的解决思路找到适合自己的方案。
本书使用的机器学习算法和应用场景都是实际业务的抽象,并基于具体业务进行实现。作为本书的延续,接下来我们会聚焦应用实践并提供更深层次的拓展,专注知识图谱的技术与应用,以及Bot技术与构建实战,期待相关图书能和读者尽早见面。
读者对象
(1)对大数据感兴趣的读者
伴随着大数据时代的到来,很多工作都和大数据息息相关,无论是传统行业、互联网行业,还是移动互联网行业,都必须要了解大数据,通过大数据发现自身的价值。对这部分读者来说,本书的内容能够帮助他们加深对大数据机器学习及其演进趋势的理解,通过本书可以了解机器学习相关算法,以及Spark机器学习应用场景和存在价值,如果希望更深层次地掌握Spark机器学习相关知识,本书可以作为一个很好的开始。
(2)从事大数据机器学习算法的研究人员
本书基于分类、聚类、回归、关联规则、协同过滤、降维等算法,结合异常检测、用户画像、广告点击率预估、企业征信大数据、智慧交通大数据等场景,系统地讲解了Spark机器学习相关知识,对从事大数据算法的研究人员来说,能够身临其境地体验各种场景,了解各类算法在不同场景下的优缺点,减少自己的研究成本。本书对生产环境中遇到的算法建模、数据挖掘等问题有很好的借鉴作用。
(3)大数据工程开发人员
大数据工程开发人员可以从本书中获取需要的机器学习算法工程化知识。对大数据工程开发人员来说,掌握并快速对算法进行工程化,是很重要的技能,本书为填补算法工程开发人员与算法研究人员之间的鸿沟、高效工作提供了更多可能。
(4)大数据架构设计人员
基于大数据的采集、存储、清洗、实时计算、统计分析、数据挖掘等是大数据架构师必备技能。他们需要对Spark机器学习进行了解,才能在架构设计中综合考虑各种因素,构建稳定高效的大数据架构。
如何阅读本书
本书分为三篇,共计13章内容。
基础篇(第1和2章),对机器学习进行概述讲解,并通过Spark机器学习进行数据分析。
算法篇(第3~8章),针对分类、聚类、回归、关联规则、协同过滤、降维等算法进行详细讲解,并进行算法建模应用实现。
综合应用篇(第9~13章),综合异常
|
|