您现在的位置: 首页 > 网站导航收录 > 百科知识百科知识

深度学习主要是学习什么方向的？

深度,自然语言,算法深度学习主要是学习什么方向的？

发布时间：2019-02-08加入收藏来源：互联网点击：

深度学习主要是学习什么方向的？

回答于 2019-09-11 08:43:50

回答于 2019-09-11 08:43:50

深度学习的概念源于人工神经网络的研究，含多个隐藏层的多层感知器就是一种深度学习结构，通过组合低层特征形成更加抽象的高层属性或类别特征，从而对数据进行表征。简单来说机器学习是实现人工智能的方法，深度学习是实现机器学习的技术，主要是人工智能方向的学习，最近中公教育在出这个课程学习，他们课程和中科院自动化研究所合作的，这个也是中公老师给我朋友说的，我正好跟我朋友在一起也有所了解，你要是有这方面的兴趣可以去中公教育IT的官网了解，我朋友之前在哪里学的，他们教学质量还是可以保障的。

回答于 2019-09-11 08:43:50

深度学习已经在语音识别、图像处理等方面取得了巨大成功。从2013、2014年开始，也在自然语言处理领域出现深度学习的应用浪潮，例如今年ACL上有人（应该是BBN公司？）利用深度学习极大地提升了统计机器翻译的性能，颇值得期待。

关于深度学习的挑战与方向，其实可以关注深度学习重要学者们的相关综述文章和专著，例如Yoshua Bengio曾经写过的Learning Deep Architectures for AI （2009年）、Practical Recommendations for Gradient-Based Training of Deep Architectures（2012年）、Representation Learning: A Review and New Perspectives （2013年）。

限于自己的研究方向和兴趣，我比较关注的一个方向如下，希望与大家交流。人们一般认为深度学习在语音识别和图像处理方面能够取得长足进度，是因为这两个领域的相关特征信息都是相对低层次的，可以借助深度学习的强大学习能力学习其中的复杂信息；而到了自然语言处理领域，人们利用深度学习做过很多尝试，发现很难取得像语音识别和图像处理那么大的突破，原因在于自然语言的相关特征信息都是相对高层次的（如自然语言的基本单位——词汇——本身就有丰富的语义内涵，与图像中的“线条”、“纹理”等特征相比尤其如此），在深度学习之前就由语言专家编制了很多精致而复杂的知识库，如WordNet等，这些知识已经将相关处理性能推到了较高层次。因此，当深度学习进入自然语言时，如果还是像语音识别、图像处理那样从零知识开始做特征学习，相当于将丰富的语言知识弃之不用而另起炉灶，是不符合自然语言处理特点的。所以，深度学习的一个可能重要的发展方向是，如何在深度学习框架中高效地融合人们已经构建出来的丰富先验知识（包括语言知识、世界知识）。

需要注意的是，与LDA（latent Dirichlet allocation）等之前流行的机器学习算法不同，深度学习不是某个具体算法，而是采用”深度“学习思想的一系列算法的统称，在机器学习领域中（如ICML、NIPS），貌似很少有论文会以deep learning命名，而是具体算法的名称，如autoencoder，等等。因此，建议首先阅读一些tutorial，了解深度学习中的主要算法和人物，然后再去了解具体算法。