当前位置： 首页 >> 深度学习 >> 深度学习介绍

---

深度学习介绍

2020-07-04 15:32:55 星期六  阅读：6898

---

 参考书籍 https://book.douban.com/subject/30293801/ https://book.douban.com/subject/30270959/ 在过去几年里，人工智能一直是媒体大肆炒作的热点话题，对于未来或者当前的机器学习从业者来说，重要的是能够从噪声中识别出信号，从而在过度炒作的新闻稿中发现改变世界的重大进展。我们的未来充满风险，而你可以在其中发挥作用。 我们作为机器学习从业者来说，需要关心的问题是： ``` 深度学习已经取得了哪些进展？ 深度学习有多重要？ 接下来我们要做什么？ 媒体炒作是否可信？ ``` ####人工智能 人工智能的简洁定义如下：`努力将通常由人类完成的智力任务自动化`。所以人工智能是一个综合性的领域，不止包含深度学习和机器学习，还包括更多不涉及学习的方法。只要是机器自动化的任务都属于人功能。 ####机器学习 机器学习的概念来源于图灵的一个问题：对于计算机而言，除了我们命令它做的任何事情之外，它能否自我学习执行特定任务的方法？计算机能够让我们大吃一惊？如果没有程序员精心编写的规则，计算机能够通过观察数据自动学会这些规则？ 图灵的这个问题引出了一种新的编程范式。在经典的程序设计中，人们输入的是规则（程序）和需要根据这些规则进行处理的数据，系统输出的是答案。 利用机器学习，人们输入的是数据和从这些数据总预期得到的答案，系统输出的是规则。这些规则随后可以适用于新的数据，并使得计算机自主生成答案。 机器学习与数理统计密切相关，但是二者在几个重要方面有所不同。不同于统计学，机器学习经常用于处理复杂的大型数据集，用经典的统计分析（如贝叶斯）来处理这种数据集是不切实际的。因此，机器学习尤其是深度学习呈现出相对较少的数学理论，并且是以工程为导向的。这是一门需要上手实践的学科，想法更多地是靠实践来证明，而不是靠理论推导。 机器学习模型将输入数据变换为有意义的输出，这是一个从已知的输入和输出示例中进行学习的过程。因此，机器学习和深度学习的核心问题在于有意义地变换数据，换句话说，机器学习所指的学习是学习输入数据的有用表示。 机器学习的技术定义：`在预先定义好的可能性空间中（假设空间），利用反馈信号来指引寻找输入数据的有用表示`。 这个简单的想法可以解决相当多的只能任务，从语音识别到自动驾驶都可能解决。 ####深度学习 深度学习是机器学习的一个分支领域:它是从数据中学习表示的一种新方法，强调从连续 的层(layer)中进行学习，这些层对应于越来越有意义的表示。“深度学习”中的“深度”指 的并不是利用这种方法所获取的更深层次的理解，而是指一系列连续的表示层。数据模型中 包含多少层，这被称为模型的深度(depth)。这一领域的其他名称包括分层表示学习(layered representations learning)和层级表示学习(hierarchical representations learning)。现代深度学习 通常包含数十个甚至上百个连续的表示层，这些表示层全都是从训练数据中自动学习的。与此 相反，其他机器学习方法的重点往往是仅仅学习一两层的数据表示，因此有时也被称为浅层学 习(shallow learning)。 在深度学习中，这些分层表示几乎总是通过叫作神经网络(neural network)的模型来学习 得到的。神经网络的结构是逐层堆叠。神经网络这一术语来自于神经生物学，然而，虽然深度 学习的一些核心概念是从人们对大脑的理解中汲取部分灵感而形成的，但深度学习模型不是大 脑模型。没有证据表明大脑的学习机制与现代深度学习模型所使用的相同。你可能会读到一些 流行科学的文章，宣称深度学习的工作原理与大脑相似或者是根据大脑的工作原理进行建模的， 但事实并非如此。对于这一领域的新人来说，如果认为深度学习与神经生物学存在任何关系， 那将使人困惑，只会起到反作用。你无须那种“就像我们的头脑一样”的神秘包装，最好也忘 掉读过的深度学习与生物学之间的假想联系。就我们的目的而言，深度学习是从数据中学习表 示的一种数学框架。 `深度学习的技术定义`：学习数据表示的多级方法。这个想法很简单，但事实证明，非常简单的机制如果具有足够大的规模，将会产生魔法般的效果。 `深度学习的学习是指`：为神经网络的所有层找到一组权重值，使得该网络能够将每个示例输入与其目标正确地一一对应。 ####深度学习的几何意义 神经网络完全由一系列张量运算组成。而这些张量运算都只是输入数据的几何变换。因此，你可以将神经网络解释为高维空间中非常复杂的几何变换，这种变换可以通过许多简单的步骤来实现。 对于三维的情况，想象有两张彩纸:一张红色，一张蓝色。 将其中一张纸放在另一张上。现在将两张纸一起揉成小球。这个皱巴巴的纸球就是你的输入数 据，每张纸对应于分类问题中的一个类别。神经网络(或者任何机器学习模型)要做的就是找 到可以让纸球恢复平整的变换，从而能够再次让两个类别明确可分。通过深度学习，这一过程 可以用三维空间中一系列简单的变换来实现，比如你用手指对纸球做的变换。 `让纸球恢复平整就是机器学习的内容`：为复杂的、高度折叠的数据流形找到简洁的表示。 现在你应该能够很好地理解，为什么深度学习特别擅长这一点:它将复杂的几何变换逐步分解 为一长串基本的几何变换，这与人类展开纸球所采取的策略大致相同。深度网络的每一层都通 过变换使数据解开一点点——许多层堆叠在一起，可以实现非常复杂的解开过程。