深度学习正日益深刻地渗入我们的生活，从建议内容到在任务关键型和安全关键型应用中发挥核心作用，其影响无所不在。然而，随着这些算法影响力的逐渐扩大，人们对于依赖这些算法的系统安全性和鲁棒性的担忧也日益加剧。简言之，传统的深度学习方法往往难以察觉自身的知识边界，即它们“不知其所不知”。

贝叶斯深度学习(Bayesian Deep Learning，BDL)领域包含一系列利用深度网络进行近似贝叶斯推理的方法。这些方法通过揭示模型对其预测结果的置信度，增强了深度学习系统的鲁棒性，使我们能够更谨慎地将模型预测融入实际应用中。

文章目录

书籍介绍主要内容书籍目录

书籍介绍

《Python贝叶斯深度学习》将引领你踏入迅速发展的不确定性感知深度学习领域，助你深入理解不确定性估计在构建鲁棒性的机器学习系统中的重要价值。你将学习多种流行的BDL方法，并通过涵盖多种应用场景的Python实用示例来掌握这些方法的实现技巧。

读完本书后，你将深刻理解BDL及其优势，并能够为更安全、更鲁棒的深度学习系统开发贝叶斯深度学习模型。

购书链接：https://item.jd.com/14808478.html

主要内容

● 了解贝叶斯推理和深度学习的优缺点

● 了解贝叶斯神经网络(Bayesian Neural Network，BNN)的基本原理

● 了解主要贝叶斯神经网络实现/近似之间的差异

● 了解生产环境中概率深度神经网络的优势

● 在Python代码中实现各种贝叶斯深度学习方法

● 运用贝叶斯深度学习方法解决实际问题

● 学习如何评估贝叶斯深度学习方法并为特定任务选择方法

● 在实际深度学习应用中处理“分布外”数据

书籍目录

第1章 深度学习时代的贝叶斯推理 1

1.1 技术要求 2

1.2 深度学习时代的奇迹 2

1.3 了解深度学习的局限性 4

1.3.1 深度学习系统中的偏见 4

1.3.2 过高置信预测导致危险 5

1.3.3 变化趋势 6

1.4 核心主题 7

1.5 设置工作环境 8

1.6 小结 9

第2章 贝叶斯推理基础 11

2.1 重温贝叶斯建模知识 11

2.2 通过采样进行贝叶斯推理 14

2.2.1 近似分布 14

2.2.2 利用贝叶斯线性回归实现概率推理 17

2.3 探讨高斯过程 20

2.3.1 用核定义先验信念 22

2.3.2 高斯过程的局限性 27

2.4 小结 28

2.5 延伸阅读 28

第3章 深度学习基础 29

3.1 技术要求 29

3.2 多层感知器 29

3.3 回顾神经网络架构 32

3.3.1 探索卷积神经网络 32

3.3.2 探索循环神经网络 35

3.3.3 注意力机制 37

3.4 理解典型神经网络存在的问题 38

3.4.1 未经校准和过高置信的预测 39

3.4.2 预测分布外数据 41

3.4.3 置信度高的分布外预测示例 44

3.4.4 易受对抗性操纵的影响 48

3.5 小结 52

3.6 延伸阅读 52

第4章 贝叶斯深度学习介绍 55

4.1 技术要求 56

4.2 理想的贝叶斯神经网络 56

4.3 贝叶斯深度学习基本原理 58

4.3.1 高斯假设 58

4.3.2 不确定性的来源 60

4.3.3 超越极大似然：似然的重要性 63

4.4 贝叶斯深度学习工具 66

4.5 小结 69

4.6 延伸阅读 69

第5章 贝叶斯深度学习原理方法 71

5.1 技术要求 71

5.2 解释符号 72

5.3 深度学习中熟悉的概率概念 72

5.4 通过反向传播进行贝叶斯推理 75

5.5 使用TensorFlow实现贝叶斯反向传播 78

5.6 使用概率反向传播扩展贝叶斯深度学习 82

5.7 实现概率反向传播 85

5.8 小结 94

5.9 延伸阅读 95

第6章 使用标准工具箱进行贝叶斯深度学习 97

6.1 技术要求 98

6.2 通过舍弃引入近似贝叶斯推理 98

6.2.1 利用舍弃进行近似贝叶斯推理 99

6.2.2 实现MC舍弃 100

6.3 使用集成学习进行模型不确定性估计 101

6.3.1 集成学习介绍 101

6.3.2 引入深度集成学习 101

6.3.3 实现深度集成学习 103

6.3.4 深度集成学习的实际局限性 106

6.4 探索用贝叶斯最后一层方法增强神经网络 106

6.4.1 贝叶斯推理的最后一层方法 107

6.4.2 最后一层MC舍弃 113

6.4.3 最后一层方法小结 115

6.5 小结 115

第7章 贝叶斯深度学习的实际考虑因素 117

7.1 技术要求 117

7.2 平衡不确定性质量和计算考虑因素 118

7.2.1 设置实验 118

7.2.2 分析模型性能 121

7.2.3 贝叶斯深度学习模型的计算考虑因素 124

7.2.4 选择正确的模型 126

7.3 贝叶斯深度学习和不确定性来源 127

7.4 小结 143

7.5 延伸阅读 143

第8章 贝叶斯深度学习应用 145

8.1 技术要求 145

8.2 检测分布外数据 145

8.2.1 探讨分布外检测问题 146

8.2.2 系统评估分布外检测性能 150

8.2.3 无需重新训练的简单分布外检测 151

8.3 应对数据集漂移的鲁棒方法 153

8.3.1 测量模型对数据集漂移的响应 153

8.3.2 用贝叶斯方法揭示数据集漂移 154

8.4 通过不确定性选择数据来保持模型的新鲜度 169

8.5 利用不确定性估计进行更智能的强化学习 179

8.6 对对抗性输入的敏感性 197

8.7 小结 201

8.8 延伸阅读 201

第9章 贝叶斯深度学习的发展趋势 203

9.1 贝叶斯深度学习的当前趋势 203

9.2 如何应用贝叶斯深度学习方法解决现实世界中的问题 206

9.3 贝叶斯深度学习的新方法 207

9.3.1 结合MC舍弃和深度集成学习 207

9.3.2 通过促进多样性改进深度集成学习 208

9.3.3 超大网络中的不确定性 209

9.4 贝叶斯深度学习的替代方案 211

9.4.1 可扩展的高斯过程 211

9.4.2 深度高斯过程 213

9.5 贝叶斯深度学习的下一步工作 213

9.6 延伸阅读 214