神经网络是机器学习和深度学习的基础,本书用一条学习路线贯穿全书,首先讲解了数学基础、机器学习基础以及神经网络基础,接着通过原理、结构、实例、优劣势分析、适用场景等全方位讲解了各种常典型的神经网络,紧密结合一线工程师的研究成果,可以帮助读者更好地学习神经网络。
本书结合实际应用介绍神经网络和深度学习等技术领域相关信息,从结构上重点介绍了前馈型神经网络、反馈型神经网络,以及自组织竞争型神经网络,并针对当下深度学习中比较重要的网络进行了详细介绍,包括卷积神经网络、循环(递归)神经网络、深度信念网络、生成对抗网络,以及深度强化学习。本书不仅能让读者对当前神经网络和深度学习技术有体系的认知,更能让读者在人工智能领域进行一些深入思考。
刘凡平,硕士,毕业于中国科学技术大学,专注于大数据分析、搜索引擎、机器学习和深度学习研究,曾任职于微软亚太研发集团,现任职于百度(中国)有限公司,曾出版《大数据搜索引擎原理分析及编程》《大数据时代的算法》,是执着于将互联网技术演绎为艺术的完美追求者。
基础篇
第1章 时代崛起 2
1.1 概要 2
1.1.1 基本概念 2
1.1.2 深度学习与机器学习的关系 4
1.1.3 深度学习与人工智能的关系 5
1.2 历史发展 5
1.2.1 神经网络发展历史 5
1.2.2 人工智能发展历史 7
1.3 应用领域 8
1.3.1 智能个人助理 8
1.3.2 智能安防 9
1.3.3 无人驾驶 9
1.3.4 电商零售 11
1.3.5 智慧医疗 11
1.3.6 金融服务 12
1.3.7 智能教育 13
1.4 未来猜想 14
1.4.1 人文的快速发展 14
1.4.2 人类也是“机器人” 14
1.4.3 新的不平等现象 15
1.5 本章小结 16
第2章 数学理论基础 17
2.1 向量 17
2.1.1 相关概念 17
2.1.2 向量的线性相关性 18
2.1.3 向量的外积 18
2.1.4 向量夹角与余弦相似性 18
2.1.5 实例:基于向量夹角的文本相似性分析 19
2.2 矩阵 20
2.2.1 矩阵乘法 20
2.2.2 克罗内克积 21
2.3 导数 22
2.3.1 概述 22
2.3.2 一般运算法则 22
2.3.3 链式求导法则 23
2.4 数值计算 23
2.4.1 误差 23
2.4.2 距离 24
2.4.3 数值归一化 26
2.5 概率分布 26
2.5.1 二项分布 26
2.5.2 超几何分布 27
2.5.3 泊松分布 27
2.5.4 指数分布 28
2.5.5 正态分布 29
2.6 参数估计 29
2.6.1 概率 29
2.6.2 贝叶斯估计 30
2.6.3 最大似然估计 31
2.6.4 最大后验估计 32
2.7 回归分析 33
2.7.1 线性回归 33
2.7.2 逻辑回归 36
2.8 判定问题 39
2.8.1 P问题 39
2.8.2 NP问题 39
2.8.3 NP-Complete问题 40
2.8.4 NP-Hard问题 40
2.9 本章小结 41
第3章 机器学习概要 42
3.1 机器学习的类型 42
3.1.1 有监督学习 42
3.1.2 无监督学习 43
3.1.3 强化学习 43
3.2 机器学习中常见的函数 44
3.2.1 激活函数 44
3.2.2 损失函数 47
3.2.3 核函数 48
3.3 机器学习中的重要参数 49
3.3.1 学习速率 49
3.3.2 动量系数 50
3.3.3 偏置项 50
3.4 拟合问题 51
3.4.1 过拟合现象 51
3.4.2 欠拟合现象 52
3.4.3 解决过拟合问题的一般方法 52
3.4.4 实例:拟合与二元一次方程求解 55
3.5 交叉检验 55
3.5.1 数据类型种类 55
3.5.2 留一交叉验证 57
3.5.3 K折交叉验证 57
3.6 线性可分与不可分 58
3.7 机器学习的学习特征 59
3.8 产生式模型与判别式模型 60
3.9 机器学习效果的一般评价指标 61
3.10 本章小结 63
第4章 神经网络基础 64
4.1 概述 64
4.1.1 神经网络模型 64
4.1.2 经典的神经网络结构 65
4.1.3 一般业务场景中神经网络适应性 66
4.1.4 神经网络的深度 67
4.2 常见学习方法 67
4.2.1 误差修正学习 67
4.2.2 赫布学习规则 68
4.2.3 最小均方规则 69
4.2.4 竞争学习规则 70
4.2.5 其他学习规则 71
4.3 优化方法:梯度下降 72
4.3.1 概述 72
4.3.2 梯度下降法 72
4.3.3 梯度下降的优化算法 74
4.3.4 梯度消失问题 76
4.3.5 示例:利用梯度下降法求函数极值 77
4.4 常见的神经网络类型 78
4.4.1 前馈型神经网络 78
4.4.2 反馈型神经网络 79
4.4.3 自组织竞争型神经网络 79
4.5 深度学习中常见的网络类型 80
4.5.1 卷积神经网络 80
4.5.2 循环神经网络 80
4.5.3 深度信念网络 80
4.5.4 生成对抗网络 81
4.5.5 深度强化学习 81
4.6 其他神经网络与深度学习 82
4.6.1 随机神经网络 82
4.6.2 量子神经网络 82
4.6.3 迁移学习 82
4.7 深度学习与多层神经网络的关系 83
4.8 调参技巧 84
4.9 本章小结 85
进阶篇
第5章 前馈型神经网络 88
5.1 概述 88
5.2 常见结构 88
5.3 单层感知器网络 89
5.3.1 原理 89
5.3.2 网络结构 90
5.3.3 实例一:基于单层感知器“与”运算 90
5.3.4 实例二:利用感知器判定零件是否合格 91
5.4 BP神经网络 93
5.4.1 概述 93
5.4.2 反向传播算法 93
5.4.3 异或问题的解决 96
5.4.4 避免病态结果 98
5.4.5 实例:基于多层感知器的手写体数字识别 99
5.5 径向基函数神经网络 101
5.5.1 原理介绍 101
5.5.2 中心选择方法 102
5.5.3 训练过程 103
5.5.4 径向基函数神经网络与BP神经网络的差异 104
5.6 本章小结 105
第6章 反馈型神经网络 107
6.1 概述 107
6.1.1 基本原理 107
6.1.2 与前馈型神经网络的差异 108
6.2 Hopfield神经网络 109
6.3 Elman神经网络 112
6.3.1 结构组成 112
6.3.2 学习算法 112
6.4 递归神经网络 113
6.4.1 产生背景 114
6.4.2 基本结构 115
6.4.3 前向计算过程 116
6.4.4 反向传播:BPTS算法 117
6.4.5 应用场景 118
6.4.6 递归神经网络的结构改进 118
6.4.7 应用实例 121
6.5 本章小结 124
第7章 自组织竞争型神经网络 125
7.1 概述 125
7.1.1 一般网络模型 125
7.1.2 工作原理 126
7.1.3 实例:用竞争学习规则进行模式分类 127
7.2 常见的聚类方法 129
7.2.1 系统聚类法 129
7.2.2 基于划分的聚类算法 130
7.2.3 基于密度的聚类算法 131
7.2.4 基于层次的聚类算法 132
7.3 自组织映射网络 134
7.3.1 概述 134
7.3.2 训练算法 134
7.3.3 实例:利用自组织映射网络划分城市群 135
7.3.4 优劣势分析 136
7.4 其他自组织竞争型神经网络 137
7.4.1 自适应共振理论 137
7.4.2 对偶传播神经网络 138
7.5 本章小结 139
高阶篇
第8章 卷积神经网络 142
8.1 概述 142
8.1.1 发展背景 142
8.1.2 基本概念 143
8.1.3 基本网络结构 144
8.2 卷积 145
8.2.1 卷积的物理意义 145
8.2.2 卷积的理解 145
8.2.3 卷积的实例 147
8.3 卷积核 148
8.3.1 卷积核的含义 148
8.3.2 卷积操作 150
8.3.3 卷积核的特征 150
8.4 卷积神经网络中各层工作原理 151
8.4.1 卷积层 151
8.4.2 下采样层 151
8.4.3 Softmax层 152
8.5 卷积神经网络的逆向过程 153
8.6 常见卷积神经网络结构 154
8.6.1 LeNet-5 154
8.6.2 AlexNet 155
8.7 应用场景与效果评估 157
8.7.1 场景1:图像分类 157
8.7.2 场景2:目标检测 158
8.7.3 场景3:实例分割 159
8.8 Maxout Networks 160
8.9 本章小结 162
第9章 循环神经网络 163
9.1 概述 163
9.2 一般循环神经网络 164
9.2.1 概述 164
9.2.2 单向循环神经网络 165
9.2.3 双向循环神经网络 166
9.2.4 深度循环神经网络 167
9.3 训练算法:BPTT算法 168
9.3.1 前向计算 168
9.3.2 误差项计算 169
9.3.3 权值梯度计算 169
9.3.4 梯度爆炸与梯度消失问题 170
9.4 长短时记忆网络 170
9.4.1 背景 170
9.4.2 核心思想 171
9.4.3 详细结构 172
9.4.4 训练过程 176
9.4.5 相关变种简介 181
9.5 常见循环神经网络结构 182
9.5.1 N比N结构 182
9.5.2 N比1结构 183
9.5.3 1比N结构 183
9.5.4 N比M结构 184
9.6 与自然语言处理结合 185
9.7 实例:文本自动生成 186
9.8 本章小结 187
第10章 深度信念网络 188
10.1 概要 188
10.1.1 背景 188
10.1.2 基本结构 188
10.2 受限玻尔兹曼机 190
10.2.1 概述 190
10.2.2 逻辑结构 192
10.2.3 对比分歧算法 194
10.3 训练过程 194
10.3.1 工作流程 194
10.3.2 调优过程 195
10.4 本章小结 196
第11章 生成对抗网络 197
11.1 概述 197
11.1.1 背景概要 197
11.1.2 核心思想 198
11.1.3 基本工作流程 199
11.2 朴素生成对抗网络 201
11.2.1 网络结构 201
11.2.2 实例:基于朴素生成对抗网络生成手写体数字 203
11.3 深度卷积生成对抗网络 206
11.3.1 产生背景 206
11.3.2 模型改进 206
11.3.3 网络结构 207
11.3.4 实例:基于深度卷积对抗网络生成手写体数字 208
11.4 条件生成对抗网络 212
11.4.1 网络结构 212
11.4.2 实例:CGAN结合DCGAN生成手写体数字 213
11.5 瓦瑟斯坦生成对抗网络 214
11.5.1 概述 214
11.5.2 差异化 215
11.5.3 实例:WGAN结合DCGAN生成手写体数字 216
11.6 生成对抗网络的探索 217
11.6.1 价值与意义 217
11.6.2 面临的问题 218
11.6.3 应用场景示例 218
11.6.4 未来探索 220
11.7 本章小结 220
第12章 深度强化学习 221
12.1 概述 221
12.1.1 概要 221
12.1.2 基本原理 222
12.2 马尔科夫决策过程 223
12.2.1 马尔科夫过程 223
12.2.2 隐马尔科夫模型 224
12.2.3 马尔科夫决策过程 225
12.3 深度强化学习算法 229
12.3.1 DQN算法 229
12.3.2 A3C算法 231
12.3.3 UNREAL算法 231
12.4 强化学习的探索 232
12.4.1 应用场景探索 232
12.4.2 面临的问题 233
12.5 本章小结 234
前言
本书结合实际应用介绍神经网络和深度学习等技术领域相关信息,从结构上重点介绍了前
馈型神经网络、反馈型神经网络,以及自组织竞争型神经网络,并针对当下深度学习中比较重
要的网络进行了详细介绍,包括卷积神经网络、循环(递归)神经网络、深度信念网络、生成
对抗网络,以及深度强化学习。本书不仅能让读者对当前神经网络和深度学习技术有体系的认
知,更能让读者在人工智能领域进行一些深入思考。
读者对象
? 对神经网络、深度学习以及人工智能有兴趣的读者;
? 对算法以及机器学习领域有兴趣的读者;
? 互联网行业不同层次的从业者;
? 软件工程或计算机相关专业的在校学生。
本书特色
书中内容紧密结合当前一线工程师工作研究成果,是对当前神经网络和深度学习的完整性
原理介绍和实践分析。本书充分利用了最新技术发展的应用成果,不仅结合原理分析,还结合
案例进行辅助理解。
本书介绍的相关深度学习技术广泛应用于各个领域,可以在自然语言处理、计算机视觉、
文本分析等领域中应用,在当前甚至未来三到五年,都具有实际意义。
本书结构
本书按照由浅入深、循序渐进的顺序对神经网络和深度学习的内容进行介绍。全书共分为
三篇,分别从基础、进阶、高阶三个层次逐步展开,总共12 章,各章的主要内容如下。
第1 章阐述了在当前时代背景下,神经网络和人工智能的发展历程,针对未来人工智能极
可能改变的领域进行了深入介绍,并介绍了深度学习与机器学习的关系,以及深度学习与人工
智能的关系。
第2 章介绍了神经网络和深度学习的数学基础,从向量、矩阵、导数、数值计算、概率分
布、参数估计等方面进行了详细介绍,为学习后续内容奠定基础。
第3 章重点介绍了机器学习的基础内容,神经网络和深度学习都属于机器学习中的内容,
包括拟合问题、交叉检验、产生式与判别式模型等,有助于加强对神经网络和深度学习的理解。
第4 章介绍了神经网络的基础,包括神经网络中常见的学习方法以及神经网络的优化方法,
阐述了常见的神经网络类型以及深度学习中的网络类型,并介绍了深度学习与多层神经网络的
关系。
第5 章重点介绍了前馈型神经网络,它是神经网络中极为重要的一种网络类型。本章从单
层感知器开始,逐步深入介绍了BP 神经网络以及径向基函数神经网络,重点介绍了反向传播
算法。
第6 章详细介绍了反馈型神经网络,它是一种带联想记忆的神经网络。本章重点介绍了
Hopfiled 神经网络、Elman 神经网络以及递归神经网络。对于递归神经网络还进行了更为深入
的介绍,包括其反向传播算法以及各类改进的结构。
第7 章重点介绍了自组织竞争型神经网络,从传统的系统聚类法、基于划分的聚类算法、
基于密度的聚类算法、基于层次的聚类算法开始,详细介绍了自组织竞争型神经网络中的典型
代表——自组织映射网络,还介绍了自适应共振理论以及对偶传播网络。
第8 章介绍了卷积神经网络,卷积神经网络是目前图像处理中比较优秀的神经网络。本章
重点介绍了卷积神经网络中的卷积、卷积核等重要基础概念,详细阐述了卷积神经网络中各层
的工作原理,并介绍了常见的间距神经网络结构。
第9 章介绍了循环神经网络,循环神经网络与递归神经网络有一定的相似性。本章介绍了
一般的循环神经网络,包括单向循环神经网络、双向循环神经网络以及深度循环神经网络。重
点介绍了长短时记忆网络。
第10 章介绍了深度信念网络,深度信念网络是由受限玻尔兹曼机组成的网络结构。本章
重点介绍了受限玻尔兹曼机的逻辑结构和工作原理,并介绍了深度信念网络的训练过程。
第11 章介绍了生成对抗网络,生成对抗网络是未来会有较大突破的网络结构之一。本章
从一般的生成对抗网络入手进行介绍,然后介绍了各类改进版本,包括DCGAN、CGAN、
WGAN 等,并对生成对抗网络的未来做了一定猜想。
第12 章介绍了深度强化学习,深度强化学习是一种有别于传统的有监督学习和无监督学
习的学习方式。本章重点介绍了强化学习的工作原理、马尔科夫决策过程等,并结合强化学习
的各类算法进行了详细的介绍。
上述章节中,郭武彪完成了第6 章内容的编写,陈相礼完成了第9 章内容的编写,杨华完
成了第11 章内容的编写以及本书格式校验,其余章节内容由刘凡平完成编写,并对本书内容
进行了校验。
由于时间仓促及编者水平有限,书中难免存在错误和不足之处,恳请广大读者多多理解,
并批评指正,也可以通过邮箱(liufanping@iveely.com)联系我们。
这本书的出版时间恰逢深度学习技术爆炸式发展的时期,市面上关于这个主题的书籍层出不穷,但质量良莠不齐。我之所以选择关注《神经网络与深度学习应用实战》,是因为它的标题中“实战”二字,这暗示了它并非一本纯粹的理论教材,而是更加注重知识在实际项目中的落地和应用。我曾经尝试阅读过一些理论性较强的书籍,虽然对深度学习的原理有了初步的认识,但在实际编程和模型部署过程中却屡屡碰壁。因此,我非常期待这本书能够提供清晰、易懂的代码示例,引导读者从零开始构建和训练各种神经网络模型,并了解如何在实际场景中解决图像识别、自然语言处理、推荐系统等问题。我希望它能够涵盖目前主流的深度学习框架,如TensorFlow或PyTorch,并提供一些关于模型优化、性能调优的实用技巧。这本书的出现,无疑为那些渴望将深度学习知识转化为实际生产力的开发者和研究者提供了一个宝贵的参考。
评分这本书的封面设计非常吸引人,有一种科技感和未来感,让人一眼就能感受到它与人工智能领域的紧密联系。从书名上就可以看出,它聚焦于“神经网络”和“深度学习”,这两个当下最热门的AI技术方向,并且强调“应用实战”,这正是很多读者所期待的。我个人对人工智能领域一直保持着浓厚的兴趣,也尝试过阅读一些相关的入门书籍,但总感觉理论性太强,缺乏实际操作的指导。因此,当我看到这本书的书名时,就觉得它可能正是我一直在寻找的那本能够 bridge theoretical knowledge and practical application 的教材。我尤其看重“实战”二字,因为它意味着书中会包含大量的代码示例、项目案例,甚至可能提供数据集和训练脚本,让读者能够亲手去搭建、训练和调优模型,而不仅仅是停留在概念理解的层面。这样的学习方式更能加深理解,也更有成就感。希望这本书能够带领我一步步走进神经网络和深度学习的实操世界,掌握解决实际问题的能力。
评分拿到这本《神经网络与深度学习应用实战》时,我首先被它扎实的排版和清晰的目录所吸引。它不像一些速成的读物那样,只是一些概念的堆砌,而是明显经过了系统的梳理和编排。从目录上看,它似乎会从基础的神经网络原理讲起,逐步深入到各种经典和前沿的深度学习模型,并且重点突出了“应用实战”的部分。我非常看重这一点,因为在信息爆炸的时代,理论知识很容易获得,但将其转化为解决实际问题的能力却需要大量的实践经验。我期望这本书能够提供详实的案例分析,带领读者一步步完成从数据预处理、模型构建、参数调优到最终模型部署的完整流程。尤其是一些具有挑战性的应用场景,比如如何在医疗影像分析中应用深度学习,或者如何利用自然语言处理技术构建智能客服系统,这些都是我非常感兴趣的领域。如果这本书能够在这方面提供深入的指导和可执行的代码,那将是对我工作和学习的巨大助力。
评分这本书的名字——《神经网络与深度学习应用实战》——一下子就抓住了我。我一直对人工智能领域充满好奇,特别是神经网络和深度学习,它们在很多领域都展现出了惊人的潜力。然而,很多时候,我感觉自己停留在“知道”的层面,而不是“做到”。阅读大量的理论文章和技术文档,虽然能了解一些概念,但一旦动手去实现,就常常会遇到各种各样的问题。所以,“应用实战”这个词对我来说意义重大,它意味着这本书不只是纸上谈兵,而是会包含实际的代码实现、项目演示,甚至是如何解决在实际应用中会遇到的瓶颈和难题。我希望能在这本书里找到具体的操作指南,学习如何使用现有的深度学习框架来构建和训练模型,理解模型背后的逻辑,并且能够将学到的知识应用到一些实际的业务场景中,比如预测分析、模式识别等等。我期待这本书能够成为我从一个AI“爱好者”转变为一个AI“实践者”的催化剂。
评分不得不说,《神经网络与深度学习应用实战》这个书名本身就充满了吸引力,尤其是“应用实战”这四个字,对于我这样的读者来说,简直是一种召唤。我一直以来都对深度学习的强大能力感到惊叹,但真正接触到实际的编程和项目开发时,却发现理论和实践之间还存在着一道鸿沟。很多时候,我能够理解模型的工作原理,但却不知道如何将其有效地应用于解决真实世界的问题。我非常期待这本书能够弥合这一差距,通过具体的代码示例和案例分析,带领我一步步掌握如何在实际项目中运用神经网络和深度学习技术。我希望它能涵盖一些热门的应用领域,比如计算机视觉、自然语言处理,甚至包括一些更具挑战性的问题,如强化学习在游戏或机器人控制中的应用。此外,一个好的实战书籍还应该提供关于模型部署、性能优化以及常见问题的解决方案,这些都是我在实际工作中非常看重的内容。这本书的出现,无疑为我提供了一个系统学习和实践的绝佳机会。
评分努力学习
评分努力学习
评分不错的书籍,内容比较详实
评分简直就是一本垃圾书,打印错误就不说,讲前面的用后面的概念(又不说明),毫无条理可言,不建议大家买!!!
评分此用户未填写评价内容
评分好
评分此用户未填写评价内容
评分好
评分好
本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度,google,bing,sogou 等
© 2025 book.teaonline.club All Rights Reserved. 图书大百科 版权所有