現(xiàn)在深度學習在機器學習領(lǐng)域是一個很熱的概念，不過經(jīng)過各種媒體的轉(zhuǎn)載播報，這個概念也逐漸變得有些神話的感覺：例如，人們可能認為，深度學習是一種能夠模擬出人腦的神經(jīng)結(jié)構(gòu)的機器學習方式，從而能夠讓計算機具有人一樣的智慧；而這樣一種技術(shù)在將來無疑是前景無限的。那么深度學習本質(zhì)上又是一種什么樣的技術(shù)呢？

      深度學習是什么

      深度學習是機器學習領(lǐng)域中對模式（聲音、圖像等等）進行建模的一種方法，它也是一種基于統(tǒng)計的概率模型。在對各種模式進行建模之后，便可以對各種模式進行識別了，例如待建模的模式是聲音的話，那么這種識別便可以理解為語音識別。而類比來理解，如果說將機器學習算法類比為排序算法，那么深度學習算法便是眾多排序算法當中的一種（例如冒泡排序），這種算法在某些應(yīng)用場景中，會具有一定的優(yōu)勢。

      深度學習的“深度”體現(xiàn)在哪里

      論及深度學習中的“深度”一詞，人們從感性上可能會認為，深度學習相對于傳統(tǒng)的機器學習算法，能夠做更多的事情，是一種更為“高深”的算法。而事實可能并非我們想象的那樣，因為從算法輸入輸出的角度考慮，深度學習算法與傳統(tǒng)的有監(jiān)督機器學習算法的輸入輸出都是類似的，無論是最簡單的Logistic Regression，還是到后來的SVM、boosting等算法，它們能夠做的事情都是類似的。正如無論使用什么樣的排序算法，它們的輸入和預(yù)期的輸出都是類似的，區(qū)別在于各種算法在不同環(huán)境下的性能不同。

      那么深度學習的“深度”本質(zhì)上又指的是什么呢？深度學習的學名又叫深層神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks ），是從很久以前的人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks）模型發(fā)展而來。這種模型一般采用計算機科學中的圖模型來直觀的表達，而深度學習的“深度”便指的是圖模型的層數(shù)以及每一層的節(jié)點數(shù)量，相對于之前的神經(jīng)網(wǎng)絡(luò)而言，有了很大程度的提升。

      深度學習也有許多種不同的實現(xiàn)形式，根據(jù)解決問題、應(yīng)用領(lǐng)域甚至論文作者取名創(chuàng)意的不同，它也有不同的名字：例如卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks）、深度置信網(wǎng)絡(luò)（Deep Belief Networks）、受限玻爾茲曼機（Restricted Boltzmann Machines）、深度玻爾茲曼機（Deep Boltzmann Machines）、遞歸自動編碼器（Recursive Autoencoders）、深度表達（Deep Representation）等等。不過究其本質(zhì)來講，都是類似的深度神經(jīng)網(wǎng)絡(luò)模型。

      既然深度學習這樣一種神經(jīng)網(wǎng)絡(luò)模型在以前就出現(xiàn)過了，為什么在經(jīng)歷過一次沒落之后，到現(xiàn)在又重新進入人們的視線當中了呢？這是因為在十幾年前的硬件條件下，對高層次多節(jié)點神經(jīng)網(wǎng)絡(luò)的建模，時間復(fù)雜度（可能以年為單位）幾乎是無法接受的。在很多應(yīng)用當中，實際用到的是一些深度較淺的網(wǎng)絡(luò)，雖然這種模型在這些應(yīng)用當中，取得了非常好的效果（甚至是the state of art），但由于這種時間上的不可接受性，限制了其在實際應(yīng)用的推廣。而到了現(xiàn)在，計算機硬件的水平與之前已經(jīng)不能同日而語，因此神經(jīng)網(wǎng)絡(luò)這樣一種模型便又進入了人們的視線當中。

      “ 2012年6月，《紐約時報》披露了Google Brain項目，吸引了公眾的廣泛關(guān)注。這個項目是由著名的斯坦福大學機器學習教授Andrew Ng和在大規(guī)模計算機系統(tǒng)方面的世界頂尖專家Jeff Dean共同主導(dǎo)，用16000個CPU Core的并行計算平臺訓(xùn)練一種稱為“深層神經(jīng)網(wǎng)絡(luò)”（DNN，Deep Neural Networks） ”

      從Google Brain這個項目中我們可以看到，神經(jīng)網(wǎng)絡(luò)這種模型對于計算量的要求是極其巨大的，為了保證算法實時性，需要使用大量的CPU來進行并行計算。

      當然，深度學習現(xiàn)在備受關(guān)注的另外一個原因，當然是因為在某些場景下，這種算法模式識別的精度，超過了絕大多數(shù)目前已有的算法。而在最近，深度學習的提出者修改了其實現(xiàn)代碼的Bug之后，這種模型識別精度又有了很大的提升。這些因素共同引起了深層神經(jīng)網(wǎng)絡(luò)模型，或者說深度學習這樣一個概念的新的熱潮。

      深度學習的優(yōu)點

      為了進行某種模式的識別，通常的做法首先是以某種方式，提取這個模式中的特征。這個特征的提取方式有時候是人工設(shè)計或指定的，有時候是在給定相對較多數(shù)據(jù)的前提下，由計算機自己總結(jié)出來的。深度學習提出了一種讓計算機自動學習出模式特征的方法，并將特征學習融入到了建立模型的過程中，從而減少了人為設(shè)計特征造成的不完備性。而目前以深度學習為核心的某些機器學習應(yīng)用，在滿足特定條件的應(yīng)用場景下，已經(jīng)達到了超越現(xiàn)有算法的識別或分類性能。

      深度學習的缺點

      深度學習雖然能夠自動的學習模式的特征，并可以達到很好的識別精度，但這種算法工作的前提是，使用者能夠提供“相當大”量級的數(shù)據(jù)。也就是說在只能提供有限數(shù)據(jù)量的應(yīng)用場景下，深度學習算法便不能夠?qū)?shù)據(jù)的規(guī)律進行無偏差的估計了，因此在識別效果上可能不如一些已有的簡單算法。另外，由于深度學習中，圖模型的復(fù)雜化導(dǎo)致了這個算法的時間復(fù)雜度急劇提升，為了保證算法的實時性，需要更高的并行編程技巧以及更好更多的硬件支持。所以，目前也只有一些經(jīng)濟實力比較強大的科研機構(gòu)或企業(yè)，才能夠用深度學習算法，來做一些比較前沿而又實用的應(yīng)用。