[新聞] 仿人類神經元的電腦晶片

作者: ljsnonocat (我家有乳牛貓)   2013-12-09 00:25:43
http://pansci.tw/archives/50530
仿人類神經元的電腦晶片可以用更少的能量做更多事!
夸比納‧鮑恩(Kwabena Boahen)在1982年時得到他第一台電腦,當時他只是個住在迦納首
都阿克拉的青少年。他回想道:「那是一個很酷的裝置。」只要將儲存用的卡帶機和充作
螢幕的電視連接在一起,就可以開始寫程式。
但是當鮑恩發現電腦的運作原理時,他有點失望:「當我知道電腦的中央處理器(CPU)
必須不斷將數據在RAM和ALU之間來回處理時,我心想:『天啊!CPU竟然要這樣瘋狂運作
到死,電腦才能用。』」當下他直覺地想說電腦的設計需要一點「非洲元素」:多一點分
散和流動,不要那麼死板。
鮑恩現在是加州史丹佛大學的生物工程師,跟一群研究員試圖透過對腦的反向工程,開發
出這種「分散又流動」的計算模式。人類的大腦其實是一個高效又節能的器官,用沒那麼
完美、又慢又雜亂的的神經元,就可以處理一些對世界上最厲害的超級電腦而言都很棘手
的問題:理解語言、抽象思考還有控制動作等。
而這個比鞋盒還小的腦,不但不需要用到中央處理器,還只用了比家裡電燈泡還少的能量
。為了讓矽晶片達到同樣的效率,研究人員想要做出非數位式的晶片,盡量模擬生物神經
元運作的方式。就在幾年前,鮑恩的團隊製作出一個能夠模擬一百萬個神經元運作的裝置
——Neurogrid(神經網絡),相當於一隻蜜蜂腦中的神經元數量。
在經過將近四分之一世紀的研究,仿神經型態技術(neuromorphic technology)的應用
趨於成熟。這種技術被看好能應用在任何體積小、追求低耗能的裝置上,像是智慧型手機
、機器人,甚至人造眼、人造耳等。因此過去五年來,這種技術吸引了很多投資人,在美
國和歐洲投入數億美金研發。
「仿神經型態裝置也提供神經科學家一個有力的研究工具。」瑞士蘇黎世大學神經資訊研
究所(Institute of Neuroinformatics,INI)的賈科莫‧印地維里(Giacomo Indiveri
)表示。在這些裝置上實地測試各種神經功能理論模型,可以幫助科學家瞭解大腦的運作
方式。
不僅如此,仿神經型態技術也可以使晶片突破摩爾定律的物理極限。摩爾定律由英特爾創
辦人戈登‧摩爾提出,指積體電路上可容納的電晶體數目,約每隔24個月便會增加一倍,
而這個趨勢已經持續超過半世紀。照這電晶體不斷縮小的趨勢,總有一天這些電路會因太
小太過緊密,讓電子逸出零件互相干擾,訊號不穩。有些工程師嘗試用軟體的方法解決,
例如目前已用在讓網路跑得順暢的統計誤差校正。不過最終而言,鮑恩認為最佳的解決方
法還是生物在幾百萬年前就發展出的模式:大腦。
「我的目標是一個全新的計算方法,一個即便零件太小而不夠可靠,仍然可以進行計算的
方法。」鮑恩說。
矽胞
仿神經型態技術的起源可以追溯至世界知名的微晶片設計先驅-加州理工學院的卡佛‧米
德(Carver Mead),他在1980年代發明了這個詞,並且著迷於大腦不同凡響的能源效率。
米德說他深深地被這個問題吸引:「到底腦是怎麼用這麼少能量完成這麼多事呢?」
於是米德想到了一個方法:用亞閾值(sub-threshold)的矽晶片,也就是在低於可以讓電
腦位元從0跳到1的電壓下運作的電路,模仿大腦低耗能的運作方式。在這樣的電壓下,仍
然會有微弱但不穩定的電子流流過電晶體,自發性地消長,就像是離子透過離子通道進入
神經元,所引起的電位消長。米德認為若加上微型電容電阻及其他零件來控制電流,這種
微型電路就可以互相連結形成網絡,像腦中的生物神經元一樣,分散處理各種資訊,而不
是把中央處理器操到死。[1][2]
到了1990年代,米德和他的同事證明了製作仿真矽神經元是可行的。該裝置可以透過模仿
神經元突觸的接點,接受外界輸入的電子訊號,這些訊號會像在神經元內一樣地在電子迴
路中合成,若是這些訊號加總後高於閾值,這些矽神經元才會興奮產生神經衝動,沿著如
同軸突的線路,跳躍傳遞神經衝動。雖然說這種訊號傳遞的全有全無律,可以說是數位式
的(只有0和1),但仿真矽神經元主要的運轉基礎(把訊號加總),卻跟生物神經元一樣
都是非數位的,不若傳統晶片的電壓和電流是一些特定不連續的數值。[3]
這樣的話,在足夠強的刺激使矽神經元興奮產生神經衝動之前,只需要用很少的能量來合
成輸入訊號,就像低耗能的腦一樣。相反地,不管有沒有在計算任何數據,傳統的晶片都
需要持續的能量供給電流,以維持中央協調所有零件的計時器。不只如此,米德的團隊也
打造出了分散式神經資訊系統迴路,可以說是矽晶片版本的視網膜。這個裝置以50×50的
偵測器網偵測光線,並且為了像大腦一樣節省能量,仿真矽神經元不會一直發送訊號,只
有在光線亮度顯著改變時才會興奮產生神經衝動,傳送到顯示器,就像是視網膜對於光線
、陰影和動作的偵測模式。這樣能夠有效地區辨移動中的物體輪廓,同時最小化需要傳送
和處理的數據量。
[4]
寫程式的挑戰
鮑恩在1990年代加入米德的實驗室,他說:「那時候研究人員可以充分掌控仿視網膜的單
一矽晶片,但現在我們想要做的是像大腦一樣的裝置,這代表我們需要更大規模的晶片間
通訊技術。」這是一個很大的挑戰,因為現有的晶片間通訊演算法是建立在精確的數位訊
號上,無法套用在這套使用非數位式雜亂訊號的仿神經型態系統上。於是在鮑恩與其他研
究人員的努力下,針對這套仿神經型態系統,設計出新的演算法和電子迴路,才引發了大
規模仿神經型態系統的風潮。其中一個應用是,提供給神經科學家測試其大腦功能理論模
型的大型仿真模擬器。
舉例來說,在2006年的九月鮑恩發起了前述的Neurogrid神經網絡計畫,希望能夠成功模
擬一百萬個神經元的活動。雖然相較於人腦中860億個神經元而言微不足道,但已經足夠
建構出大腦皮質上,被認為構成大腦基本運算單位的幾個互動密切的細胞柱(column)。神
經科學家可以設計程式在Neurogrid上,以大腦運作速度,跑幾乎任何大腦皮質功能模型
,像是:工作記憶、決策和視覺注意力等等,比在傳統的數位晶片上模擬快了幾十萬倍。
「以實際效率和精確度來說,鮑恩的Neurogrid的確是領先其他大規模仿神經型態系統。」一起開
發仿真矽神經元的蘇黎世大學神經資訊所(INI)共同創辦人羅尼‧道格拉斯(Rodney
Douglas)如是說。
「不過沒有任何系統是完美的。」鮑恩自己迅速地指出。Neurogird有一個很大的問題是
其突觸設計,每個仿真矽神經元平均有5000個突觸,其簡化的設計使得突觸沒有辦法被個
別調整,但是人腦中的神經元突觸是會隨著經驗被修飾的,無法隨著經驗改變了話,就無
法記憶並學習。這個缺點使得科學家無法在Neurogrid上測試學習模型。若要每個突觸跟
生物神經元一樣能夠隨經驗改變,同時間還能塞在晶片有限的空間裡,必須把電路縮小一
千倍到奈米尺度。目前的技術還無法做到,不過最新開發的奈米尺度記憶體「memristors
」日後也許可以解決這個問題。
另一個問題是組建Neurogrid時無可避免的變異性,導致每個Neurogrid晶片有些微不同。
「雖然這個差異已經比大腦中的神經元小了。」鮑恩說,這代表Neurogrid的程式必須去
處理仿真矽神經元各異的反應速度。這個問題使得一些研究人員放棄了米德的亞閾值矽
晶片。他們轉往用傳統的數位式晶片,模擬個別神經元的活動,代價就是需花費較多的
能量,但也是為了以大腦實際運作的速度,模擬大腦大規模的活動來測試理論模型。
其中一個重要的計畫是由英國曼徹斯特大學的電腦工程師史蒂夫‧費博(Steve Furber)所
領導的SpiNNaker Project(脈衝神經網絡結構)。SpiNNaker奠基於費博本人協助研發的
ARM處理器,也就是智慧型手機裡的處理器,此計畫目前可以模擬五百萬個神經元的活動。
科學家的另外一個嘗試是維持之前的仿真矽神經元晶片(非數位式),但增加其運作速度
,比實際的大腦跑得快很多。不若Neurogrid是精確模擬大腦的運作速度,德國海德堡大
學的加速器物理學家卡爾‧海因次‧邁耶 (Karlheinz Meier) 所領導的European
BrainScaleS Project,目前能夠以比大腦快一萬倍的速度,模擬約40萬個神經元的活動。
雖然說這代表處理同樣的訊息量需耗掉比大腦多一萬倍的能量,但對腦科學研究很大的好
處是:「我們因此可以在十秒內模擬完大腦一天內的神經活動。」費博和邁耶兩人的計畫
都在最近得到更多資金援助。在歐盟十月正式上路的十年十億歐元的人類大腦計畫(Human
Brain Project)中,撥給仿神經型態技術約一億歐元的經費,讓費博可以將其計畫增加
至模擬五億個神經元;邁耶則有望模擬多達四百萬個神經元。
這些仿神經型態晶片的成功,燃起了世界對其應用的興趣,想運用其超低耗能的特性在手
機和機器人上。不過對電腦業界來說,並沒有那麼急切的需求,因為現階段要減少體積、
提昇效率,只要簡化電路設計或是使用平行運算的多核心系統就行了。現行的傳統方法也
就只能做到如此。因此,除了純學術的研究,美國國防高等研究計畫署(Defense Advanced
Research Projects Agency)也花了將近一億美金在自己的SyNAPSE(突觸)計畫上,開發
小巧低耗能的仿神經型態技術。
其中主要的承包商IBM,就拿這筆錢開發256位元的數位式仿神經元晶片,作為以後大規模
系統的基本單位。開發人工腦鮑恩則是自己想辦法開發新應用,從Spaun開始。Spaun
(Semantic Pointer Architecture Unified Network)是一個在超級電腦上面跑的腦功能
仿真模型,可以接受視覺刺激、控制機械手臂甚至做決策。其程式語言,是在十年前由加
拿大滑鐵盧大學的理論神經科學家克里斯‧伊里亞史密斯(Chris Eliasmith)所開發。使
用者只需要告訴系統想要執行的功能,例如移動機械手臂,系統就會自動幫你設計好相對
應的神經網絡來控制其動作。
伊里亞史密斯及其團隊在傳統電腦上測試Spaun,結果Spaun可以用250萬個模擬神經元、
模擬視網膜和模擬手臂,完成抄寫手寫的數字、回想清單上的項目、推論出數列中下一個
數字等認知測驗。[5]這絕對是模擬腦功能史上空前的進展,唯一的問題是其運作速度只
有大腦的九千分之一,要模擬大腦一秒的運作就得花上兩個半小時。因此鮑恩向伊里亞
史密斯提議:用Spaun的軟體系統在鮑恩的仿真矽神經元硬體上,用大腦的真實速度模
擬大腦功能。
伊里亞史密斯為此感到十分興奮:「我們就像各自手上有花生醬和巧克力,加起來就超好
吃的!」他們合作拿到了美國海軍研究總署的計畫補助,計畫在三年內做出小型的樣品,
五年內完成完整的系統。就像人腦有感覺神經輸入外界訊息,運動神經輸出動作指令,這
個新系統會配備INI製造的仿神經型態視網膜和耳蝸,配上機械手臂表現動作。但相當於
大腦的核心認知功能,卻是要從零開始。
「這不是新版的Neurogrid計畫,而是全新的設計構造。」鮑恩說,為了更實用,會犧牲
一點仿真度,做出「非常簡單、非常有效率的幾百萬個矽神經元」。畢竟這個系統是為了
應用在實際需求而建立的,而不是為了研究大腦功能的理論模型。鮑恩期許在五年內能
研發出,「完全獨立自主跟環境互動學習的機器人,同時其大腦只消耗跟手機一樣的電力
。」
長遠來看,這個計畫的成果可以從機器人拓展到電腦,提供電腦小巧且低耗能的處理器。
如果研究人員能夠掌握大腦超高效率運作的秘密,也許能夠避免如今不斷縮小的晶片即將
到達極限的命運。「雖然我們不確定我們的方法有沒有用,但是沒試過怎麼會知道?」鮑
恩表示。
作者: showyoulovex (zombie)   2013-02-09 01:01:00
感覺就跟AI當初一樣
作者: hopesong (希望之歌)   2013-02-09 01:40:00
AI已經發展快20年了 但進步得很慢 表示遇到瓶頸了
作者: hopesong (希望之歌)   2013-02-09 01:41:00
想短時間內快速進步... 很難
作者: cheinhun   2013-02-09 01:50:00
也許AI的瓶頸就在於不能把CPU操到爆 要用神經元的方式?
作者: chuegou (chuegou)   2013-02-09 05:00:00
我覺得很像FPGA的邏輯閘阿...
作者: chuegou (chuegou)   2013-02-09 05:04:00
另外憶阻器(memristor)現在還在非常初期的嘗試階段,
作者: chuegou (chuegou)   2013-02-09 05:05:00
也很多人認為憶阻器可以改變摩爾定律就是了
作者: chuegou (chuegou)   2013-02-09 05:09:00
內文提到運作速度,cpu時眽來自石英震盪,科幻作品設定大腦時眽來自心臟,那這台類神經電腦咧?
作者: NEOdesu (娑羅双樹)   2013-02-09 09:51:00
老鼠腦袋阿(誤)
作者: chivalry70 (火鍋)   2013-02-09 20:39:00
銃夢的世界觀?

Links booklink

Contact Us: admin [ a t ] ucptt.com