深度学习之TensorFlow:入门、原理与进阶实战【李金洪】

深度学习之Tensorflow:入门、原理与进阶实战【李金洪】
深度学习之Tensorflow:入门、原理与进阶实战【李金洪】 2

深度学习之TensorFlow:入门、原理与进阶实战【李金洪】

mobi+epub+azw3

本站所有资源均来自网络,版权归原作者所有,本站仅提供收集与推荐,若侵犯到您的权益,请【给我们反馈】,我们将在24小时内处理!

作 者:李金洪 (作者)
出版社:机械工业出版社; 第1版 (2018年1月1日)
类型:计算机/科学
书籍语言:中文
标签:计算机控制仿真与人工智能, 深度学习与神经网络, 计算机/网络, 人工智能, 深度学习, 机器学习, 计算机

《深度学习之TensorFlow:入门、原理与进阶实战》电子书亚马逊售价:15.99元                         

豆瓣评分:8.0分

内容简介:

本书采用“理论 实践”的形式编写,通过大量的实例(共96个),全面而深入地讲解了深度学习神经网络原理和TensorFlow使用方法两方面的内容。书中的实例具有很强的实用性,如对图片分类、制作一个简单的聊天机器人、进行图像识别等。书中每章都配有一段教学视频,视频和图书的重点内容对应,能帮助读者快速地掌握该章的重点内容。本书还免费提供了所有实例的源代码及数据样本,这不仅方便了读者学习,而且也能为读者以后的工作提供便利。

本书共12章,分为3篇。第1篇深度学习与TensorFlow基础,包括快速了解人工智能与TensorFlow、搭建开发环境、TensorFlow基本开发步骤、TensorFlow编程基础、识别图中模糊的手写数字等内容;第2篇深度学习基础——神经网络,介绍了神经网络的基础模型,包括单个神经元、多层神经网络、卷积神经网络、循环神经网络、自编码网络等内容;第3篇深度学习进阶,是对基础网络模型的灵活运用与自由组合,是对前面知识的综合及拔高,包括深度神经网络和对抗神经网络两章内容。

本书结构清晰,案例丰富,通俗易懂,实用性强,特别适合TensorFlow深度学习的初学者和进阶读者作为自学教程阅读。另外,本书也适合作为相关培训学校的教材,以及各大院校相关专业的教学参考书。

作者简介:

李金洪 长期拼搏在一线的高级软件工程师。先后担任过CAD算法工程师、手机游戏主程、架构师、项目经理、CTO、部门经理、资深产品总监和CEO等职务。现任代码医生工作室主程序员。精通C、C 、汇编、Python、Java和Go等编程语言;擅长神经网络、算法、协议分析、逆向和移动互联网安全架构等技术。在深度学习领域中参与过某移动互联网后台的OCR项目、某娱乐节目机器人的语音识别和声纹识别项目,以及活体检测、金融和安全等领域的多个AI项目。发布过两套关于CNTK深度学习框架的视频教程。

目录:

前言

第1篇 深度学习与TensorFlow基础

第1章 快速了解人工智能与TensorFlow 2

1.1 什么是深度学习 2

1.2 TensorFlow是做什么的 3

1.3 TensorFlow的特点 4

1.4 其他深度学习框架特点及介绍 5

1.5 如何通过本书学好深度学习 6

1.5.1 深度学习怎么学 6

1.5.2 如何学习本书 7

第2章 搭建开发环境 8

2.1 下载及安装Anaconda开发工具 8

2.2 在Windows平台下载及安装TensorFlow 11

2.3 GPU版本的安装方法 12

2.3.1 安装CUDA软件包 12

2.3.2 安装cuDNN库 13

2.3.3 测试显卡 14

2.4 熟悉Anaconda 3开发工具 15

2.4.1 快速了解Spyder 16

2.4.2 快速了解Jupyter Notebook 18

第3章 TensorFlow基本开发步骤——以逻辑回归拟合二维数据为例 19

3.1 实例1:从一组看似混乱的数据中找出y≈2x的规律 19

3.1.1 准备数据 20

3.1.2 搭建模型 21

3.1.3 迭代训练模型 23

3.1.4 使用模型 25

3.2 模型是如何训练出来的 25

3.2.1 模型里的内容及意义 25

3.2.2 模型内部的数据流向 26

3.3 了解TensorFlow开发的基本步骤 27

3.3.1 定义输入节点的方法 27

3.3.2 实例2:通过字典类型定义输入节点 28

3.3.3 实例3:直接定义输入节点 28

3.3.4 定义“学习参数”的变量 29

3.3.5 实例4:通过字典类型定义“学习参数” 29

3.3.6 定义“运算” 29

3.3.7 优化函数,优化目标 30

3.3.8 初始化所有变量 30

3.3.9 迭代更新参数到最优解 31

3.3.10 测试模型 31

3.3.11 使用模型 31

第4章 TensorFlow编程基础 32

4.1 编程模型 32

4.1.1 了解模型的运行机制 33

4.1.2 实例5:编写hello world程序演示session的使用 34

4.1.3 实例6:演示with session的使用 35

4.1.4 实例7:演示注入机制 35

4.1.5 建立session的其他方法 36

4.1.6 实例8:使用注入机制获取节点 36

4.1.7 指定GPU运算 37

4.1.8 设置GPU使用资源 37

4.1.9 保存和载入模型的方法介绍 38

4.1.10 实例9:保存/载入线性回归模型 38

4.1.11 实例10:分析模型内容,演示模型的其他保存方法 40

4.1.12 检查点(Checkpoint) 41

4.1.13 实例11:为模型添加保存检查点 41

4.1.14 实例12:更简便地保存检查点 44

4.1.15 模型操作常用函数总结 45

4.1.16 TensorBoard可视化介绍 45

4.1.17 实例13:线性回归的TensorBoard可视化 46

4.2 TensorFlow基础类型定义及操作函数介绍 48

4.2.1 张量及操作 49

4.2.2 算术运算函数 55

4.2.3 矩阵相关的运算 56

4.2.4 复数操作函数 58

4.2.5 规约计算 59

4.2.6 分割 60

4.2.7 序列比较与索引提取 61

4.2.8 错误类 62

4.3 共享变量 62

4.3.1 共享变量用途 62

4.3.2 使用get-variable获取变量 63

4.3.3 实例14:演示get_variable和Variable的区别 63

4.3.4 实例15:在特定的作用域下获取变量 65

4.3.5 实例16:共享变量功能的实现 66

4.3.6 实例17:初始化共享变量的作用域 67

4.3.7 实例18:演示作用域与操作符的受限范围 68

4.4 实例19:图的基本操作 70

4.4.1 建立图 70

4.4.2 获取张量 71

4.4.3 获取节点操作 72

4.4.4 获取元素列表 73

4.4.5 获取对象 73

4.4.6 练习题 74

4.5 配置分布式TensorFlow 74

4.5.1 分布式TensorFlow的角色及原理 74

4.5.2 分布部署TensorFlow的具体方法 75

4.5.3 实例20:使用TensorFlow实现分布式部署训练 75

4.6 动态图(Eager) 81

4.7 数据集(tf.data) 82

第5章 识别图中模糊的手写数字(实例21) 83

5.1 导入图片数据集 84

5.1.1 MNIST数据集介绍 84

5.1.2 下载并安装MNIST数据集 85

5.2 分析图片的特点,定义变量 87

5.3 构建模型 87

5.3.1 定义学习参数 87

5.3.2 定义输出节点 88

5.3.3 定义反向传播的结构 88

5.4 训练模型并输出中间状态参数 89

5.5 测试模型 90

5.6 保存模型 91

5.7 读取模型 92

第2篇 深度学习基础——神经网络

第6章 单个神经元 96

6.1 神经元的拟合原理 96

6.1.1 正向传播 98

6.1.2 反向传播 98

6.2 激活函数——加入非线性因素,解决线性模型缺陷 99

6.2.1 Sigmoid函数 99

6.2.2 Tanh函数 100

6.2.3 ReLU函数 101

6.2.4 Swish函数 103

6.2.5 激活函数总结 103

6.3 softmax算法——处理分类问题 103

6.3.1 什么是softmax 104

6.3.2 softmax原理 104

6.3.3 常用的分类函数 105

6.4 损失函数——用真实值与预测值的距离来指导模型的收敛方向 105

6.4.1 损失函数介绍 105

6.4.2 TensorFlow中常见的loss函数 106

6.5 softmax算法与损失函数的综合应用 108

6.5.1 实例22:交叉熵实验 108

6.5.2 实例23:one_hot实验 109

6.5.3 实例24:sparse交叉熵的使用 110

6.5.4 实例25:计算loss值 110

6.5.5 练习题 111

6.6 梯度下降——让模型逼近最小偏差 111

6.6.1 梯度下降的作用及分类 111

6.6.2 TensorFlow中的梯度下降函数 112

6.6.3 退化学习率——在训练的速度与精度之间找到平衡 113

6.6.4 实例26:退化学习率的用法举例 114

6.7 初始化学习参数 115

6.8 单个神经元的扩展——Maxout网络 116

6.8.1 Maxout介绍 116

6.8.2 实例27:用Maxout网络实现MNIST分类 117

6.9 练习题 118

第7章 多层神经网络——解决非线性问题 119

7.1 线性问题与非线性问题 119

7.1.1 实例28:用线性单分逻辑回归分析肿瘤是良性还是恶性的 119

7.1.2 实例29:用线性逻辑回归处理多分类问题 123

7.1.3 认识非线性问题 129

7.2 使用隐藏层解决非线性问题 130

7.2.1 实例30:使用带隐藏层的神经网络拟合异或操作 130

7.2.2 非线性网络的可视化及其意义 133

7.2.3 练习题 135

7.3 实例31:利用全连接网络将图片进行分类 136

7.4 全连接网络训练中的优化技巧 137

7.4.1 实例32:利用异或数据集演示过拟合问题 138

7.4.2 正则化 143

7.4.3 实例33:通过正则化改善过拟合情况 144

7.4.4 实例34:通过增大数据集改善过拟合 145

7.4.5 练习题 146

7.4.6 dropout——训练过程中,将部分神经单元暂时丢弃 146

7.4.7 实例35:为异或数据集模型添加dropout 147

7.4.8 实例36:基于退化学习率dropout技术来拟合异或数据集 149

7.4.9 全连接网络的深浅关系 150

7.5 练习题 150

第8章 卷积神经网络——解决参数太多问题 151

8.1 全连接网络的局限性 151

8.2 理解卷积神经网络 152

8.3 网络结构 153

8.3.1 网络结构描述 153

8.3.2 卷积操作 155

8.3.3 池化层 157

8.4 卷积神经网络的相关函数 158

8.4.1 卷积函数tf.nn.conv2d 158

8.4.2 padding规则介绍 159

8.4.3 实例37:卷积函数的使用 160

8.4.4 实例38:使用卷积提取图片的轮廓 165

8.4.5 池化函数tf.nn.max_pool(avg_pool) 167

8.4.6 实例39:池化函数的使用 167

8.5 使用卷积神经网络对图片分类 170

8.5.1 CIFAR介绍 171

8.5.2 下载CIFAR数据 172

8.5.3 实例40:导入并显示CIFAR数据集 173

8.5.4 实例41:显示CIFAR数据集的原始图片 174

8.5.5 cifar10_input的其他功能 176

8.5.6 在TensorFlow中使用queue 176

8.5.7 实例42:协调器的用法演示 178

8.5.8 实例43:为session中的队列加上协调器 179

8.5.9 实例44:建立一个带有全局平均池化层的卷积神经网络 180

8.5.10 练习题 183

8.6 反卷积神经网络 183

8.6.1 反卷积神经网络的应用场景 184

8.6.2 反卷积原理 184

8.6.3 实例45:演示反卷积的操作 185

8.6.4 反池化原理 188

8.6.5 实例46:演示反池化的操作 189

8.6.6 实例47:演示gradients基本用法 192

8.6.7 实例48:使用gradients对多个式子求多变量偏导 192

8.6.8 实例49:演示梯度停止的实现 193

8.7 实例50:用反卷积技术复原卷积网络各层图像 195

8.8 善用函数封装库 198

8.8.1 实例51:使用函数封装库重写CIFAR卷积网络 198

8.8.2 练习题 201

8.9 深度学习的模型训练技巧 201

8.9.1 实例52:优化卷积核技术的演示 201

8.9.2 实例53:多通道卷积技术的演示 202

8.9.3 批量归一化 204

8.9.4 实例54:为CIFAR图片分类模型添加BN 207

8.9.5 练习题 209

第9章 循环神经网络——具有记忆功能的网络 210

9.1 了解RNN的工作原理 210

9.1.1 了解人的记忆原理 210

9.1.2 RNN网络的应用领域 212

9.1.3 正向传播过程 212

9.1.4 随时间反向传播 213

9.2 简单RNN 215

9.2.1 实例55:简单循环神经网络实现——裸写一个退位减法器 215

9.2.2 实例56:使用RNN网络拟合回声信号序列 220

9.3 循环神经网络(RNN)的改进 225

9.3.1 LSTM网络介绍 225

9.3.2 窥视孔连接(Peephole) 228

9.3.3 带有映射输出的STMP 230

9.3.4 基于梯度剪辑的cell 230

9.3.5 GRU网络介绍 230

9.3.6 Bi-RNN网络介绍 231

9.3.7 基于神经网络的时序类分类CTC 232

9.4 TensorFlow实战RNN 233

9.4.1 TensorFlow中的cell类 233

9.4.2 通过cell类构建RNN 234

9.4.3 实例57:构建单层LSTM网络对MNIST数据集分类 239

9.4.4 实例58:构建单层GRU网络对MNIST数据集分类 240

9.4.5 实例59:创建动态单层RNN网络对MNIST数据集分类 240

9.4.6 实例60:静态多层LSTM对MNIST数据集分类 241

9.4.7 实例61:静态多层RNN-LSTM连接GRU对MNIST数据集分类 242

9.4.8 实例62:动态多层RNN对MNIST数据集分类 242

9.4.9 练习题 243

9.4.10 实例63:构建单层动态双向RNN对MNIST数据集分类 243

9.4.11 实例64:构建单层静态双向RNN对MNIST数据集分类 244

9.4.12 实例65:构建多层双向RNN对MNIST数据集分类 246

9.4.13 实例66:构建动态多层双向RNN对MNIST数据集分类 247

9.4.14 初始化RNN 247

9.4.15 优化RNN 248

9.4.16 实例67:在GRUCell中实现LN 249

9.4.17 CTC网络的loss——ctc_loss 251

9.4.18 CTCdecoder 254

9.5 实例68:利用BiRNN实现语音识别 255

9.5.1 语音识别背景 255

9.5.2 获取并整理样本 256

9.5.3 训练模型 265

9.5.4 练习题 272

9.6 实例69:利用RNN训练语言模型 273

9.6.1 准备样本 273

9.6.2 构建模型 275

9.7 语言模型的系统学习 279

9.7.1 统计语言模型 279

9.7.2 词向量 279

9.7.3 word2vec 281

9.7.4 实例70:用CBOW模型训练自己的word2vec 283

9.7.5 实例71:使用指定侯选采样本训练word2vec 293

9.7.6 练习题 296

9.8 处理Seq2Seq任务 296

9.8.1 Seq2Seq任务介绍 296

9.8.2 Encoder-Decoder框架 297

9.8.3 实例72:使用basic_rnn_seq2seq拟合曲线 298

9.8.4 实例73:预测当天的股票价格 306

9.8.5 基于注意力的Seq2Seq 310

9.8.6 实例74:基于Seq2Seq注意力模型实现中英文机器翻译 313

9.9 实例75:制作一个简单的聊天机器人 339

9.9.1 构建项目框架 340

9.9.2 准备聊天样本 340

9.9.3 预处理样本 340

9.9.4 训练样本 341

9.9.5 测试模型 342

9.10 时间序列的高级接口TFTS 344

第10章 自编码网络——能够自学习样本特征的网络 346

10.1 自编码网络介绍及应用 346

10.2 最简单的自编码网络 347

10.3 自编码网络的代码实现 347

10.3.1 实例76:提取图片的特征,并利用特征还原图片 347

10.3.2 线性解码器 351

10.3.3 实例77:提取图片的二维特征,并利用二维特征还原图片 351

10.3.4 实例78:实现卷积网络的自编码 356

10.3.5 练习题 358

10.4 去噪自编码 359

10.5 去噪自编码网络的代码实现 359

10.5.1 实例79:使用去噪自编码网络提取MNIST特征 359

10.5.2 练习题 363

10.6 栈式自编码 364

10.6.1 栈式自编码介绍 364

10.6.2 栈式自编码在深度学习中的意义 365

10.7 深度学习中自编码的常用方法 366

10.7.1 代替和级联 366

10.7.2 自编码的应用场景 366

10.8 去噪自编码与栈式自编码的综合实现 366

10.8.1 实例80:实现去噪自编码 367

10.8.2 实例81:添加模型存储支持分布训练 375

10.8.3 小心分布训练中的“坑” 376

10.8.4 练习题 377

10.9 变分自编码 377

10.9.1 什么是变分自编码 377

10.9.2 实例82:使用变分自编码模拟生成MNIST数据 377

10.9.3 练习题 384

10.10 条件变分自编码 385

10.10.1 什么是条件变分自编码 385

10.10.2 实例83:使用标签指导变分自编码网络生成MNIST数据 385

第3篇 深度学习进阶

第11章 深度神经网络 392

11.1 深度神经网络介绍 392

11.1.1 深度神经网络起源 392

11.1.2 经典模型的特点介绍 393

11.2 GoogLeNet模型介绍 394

11.2.1 MLP卷积层 394

11.2.2 全局均值池化 395

11.2.3 Inception 原始模型 396

11.2.4 Inception v1模型 396

11.2.5 Inception v2模型 397

11.2.6 Inception v3模型 397

11.2.7 Inception v4模型 399

11.3 残差网络(ResNet) 399

11.3.1 残差网络结构 399

11.3.2 残差网络原理 400

11.4 Inception-ResNet-v2结构 400

11.5 TensorFlow中的图片分类模型库——slim 400

11.5.1 获取models中的slim模块代码 401

11.5.2 models中的Slim目录结构 401

11.5.3 slim中的数据集处理 403

11.5.4 实例84:利用slim读取TFRecord中的数据 405

11.5.5 在slim中训练模型 407

11.6 使用slim中的深度网络模型进行图像的识别与检测 410

11.6.1 实例85:调用Inception_ResNet_v2模型进行图像识别 410

11.6.2 实例86:调用VGG模型进行图像检测 413

11.7 实物检测模型库——Object Detection API 417

11.7.1 准备工作 418

11.7.2 实例87:调用Object Detection API进行实物检测 421

11.8 实物检测领域的相关模型 425

11.8.1 RCNN基于卷积神经网络特征的区域方法 426

11.8.2 SPP-Net:基于空间金字塔池化的优化RCNN方法 426

11.8.3 Fast-R-CNN快速的RCNN模型 426

11.8.4 YOLO:能够一次性预测多个位置和类别的模型 427

11.8.5 SSD:比YOLO更快更准的模型 428

11.8.6 YOLO2:YOLO的升级版模型 428

11.9 机器自己设计的模型(NASNet) 428

第12章 对抗神经网络(GAN) 430

12.1 GAN的理论知识 430

12.1.1 生成式模型的应用 431

12.1.2 GAN的训练方法 431

12.2 DCGAN——基于深度卷积的GAN 432

12.3 InfoGAN和ACGAN:指定类别生成模拟样本的GAN 432

12.3.1 InfoGAN:带有隐含信息的GAN 432

12.3.2 AC-GAN:带有辅助分类信息的GAN 433

12.3.3 实例88:构建InfoGAN生成MNIST模拟数据 434

12.3.4 练习题 440

12.4 AEGAN:基于自编码器的GAN 441

12.4.1 AEGAN原理及用途介绍 441

12.4.2 实例89:使用AEGAN对MNIST数据集压缩特征及重建 442

12.5 WGAN-GP:更容易训练的GAN 447

12.5.1 WGAN:基于推土机距离原理的GAN 448

12.5.2 WGAN-GP:带梯度惩罚项的WGAN 449

12.5.3 实例90:构建WGAN-GP生成MNIST数据集 451

12.5.4 练习题 455

12.6 LSGAN(最小乘二GAN):具有WGAN 同样效果的GAN 455

12.6.1 LSGAN介绍 455

12.6.2 实例91:构建LSGAN生成MNIST模拟数据 456

12.7 GAN-cls:具有匹配感知的判别器 457

12.7.1 GAN-cls的具体实现 458

12.7.2 实例92:使用GAN-cls技术实现生成标签匹配的模拟数据 458

12.8 SRGAN——适用于超分辨率重建的GAN 461

12.8.1 超分辨率技术 461

12.8.2 实例93:ESPCN实现MNIST数据集的超分辨率重建 463

12.8.3 实例94:ESPCN实现flowers数据集的超分辨率重建 466

12.8.4 实例95:使用残差网络的ESPCN 472

12.8.5 SRGAN的原理 477

12.8.6 实例96:使用SRGAN实现flowers数据集的超分辨率修复 477

12.9 GAN网络的高级接口TFGAN 485

12.10 总结 486

前  言:
前言

最近,人工智能话题热度不减,IT领域甚至言必称之。

从人工智能的技术突破看,在语音和图像识别等方面,在特定领域和特定类别下,计算机的处理能力已经接近甚至超过人类。此外,人工智能在人们传统认为很难由机器取得成功的认知领域也有所突破。

我国目前在人工智能技术研究方面已经走在了世界前列,人工智能应用领域已经非常宽广,涵盖了从智能机器人到智能医疗、智能安防、智能家居和智慧城市,再到语音识别、手势控制和自动驾驶等领域。

百度CEO李彦宏判断:人工智能是一个非常大的产业,会持续很长时间,在未来的20年到50年间都会是快速发展的。

人工智能“火”起来主要有3个原因:互联网大量的数据、强大的运算能力、深度学习的突破。其中,深度学习是机器学习方法之一,是让计算机从周围世界或某个特定方面的范例中进行学习从而变得更加智能的一种方式。

面对人工智能如火如荼的发展趋势,IT领域也掀起了一波深度学习热潮,但是其海量的应用数学术语和公式,将不少爱好者拒之门外。本书由浅入深地讲解了深度学习的知识体系,将专业性较强的公式和理论转化成通俗易懂的简单逻辑描述语言,帮助非数学专业的爱好者搭上人工智能的“列车”。

媒体评论:

要学习AI,首先必须了解TensorFlow,它是Google开源的第二代深度学习系统。本书深入浅出地介绍了深度学习的算法和模型。书中提供的大量实例代码是一大特色。对于AI的初学者来说,本书值得一读。

——磁云科技创始人/*终身荣誉技术顾问 李大学

TensorFlow是Google开源的一套深度学习框架。本书用通俗易懂的语言介绍了深度学习的算法和模型,并穿插了大量的实例代码。对于TensorFlow入门读者和深度学习的研究人员来说,本书是一本非常好的参考书。

——创客总部/创客共赢基金合伙人 李建军

给TA打赏
共{{data.count}}人
人已打赏
3 条回复 A文章作者 M管理员
  1. Scorpio

    我来了

  2. Scorpio

    感谢分享

  3. shuai274

    来了来了来了

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索