人 工智能機器人的遺忘，遺忘或許是AI進步的關(guān)鍵

人們有在互聯(lián)網(wǎng)上提出“被遺忘”的權(quán)利，那在人工智能眼前呢？

人工智能，似乎也應(yīng)該學(xué)會“遺忘”，而且不簡簡單單是因為隱私的原因。

遺忘，不止應(yīng)該是對人類

我們都知道忘記一些事情是什么感覺，忘掉帶鑰匙，忘掉自己的賬號密碼是我們都經(jīng)歷過的東西。即使是那些擁有非凡記憶力的人，也無法確保自己的記憶能夠保持多長的時間。

換句話說，人們似乎永遠無法完全控制自己的記憶。也可能正是因為此，我們發(fā)明了紙筆，發(fā)明了硬盤，發(fā)明了各種各樣能夠把我們的記憶以物質(zhì)記錄的方式存留下來的方式。AI，也是我們“記住自己”的一種方式。

但是我們的記錄與記憶是有選擇的：誰都不想把那些不好的回憶在自己的腦海里留存太久，誰都不會去刻意記住生活中繁雜的細枝末節(jié)。我們保留了有用的、有價值的記憶，而忘記了價值較低的信息。我們對于這些記憶的物質(zhì)承載工具大多也是這個態(tài)度。

同樣，對于AI也應(yīng)該是這樣的。過于長久和無意義的記憶可能會引發(fā)技術(shù)問題，還涉及到隱私、法律和道德方面的問題。我們應(yīng)該向?qū)Υ约旱娜沼浤菢?，有能力讓一個機器人忘記它所見證的一切。

人工智能機器人的遺忘

計算機中的存儲器通常用來描述其存儲需要回憶的信息的能力，以及存儲這些信息的計算機的物理部件。例如，當計算機的工作存儲器不再需要某個任務(wù)時，它會“忘記”數(shù)據(jù)，從而釋放出計算資源用于其他任務(wù)。

這也同樣適用于人工智能，當我們忘記某些事情可能會讓我們感到沮喪的時候，正是這種方式讓我們忘記了人類仍然優(yōu)于人工智能。機器學(xué)習(xí)算法尤其不善于知道什么時候保留舊信息，什么時候丟棄過時的信息。比如，非?？苹玫摹斑B接主義人工智能”，就面臨著幾個與“遺忘”有關(guān)的問題。這些問題包括過度擬合，即學(xué)習(xí)機器從過去的經(jīng)驗中儲存過于詳細的信息，從而妨礙了它概括和預(yù)測未來事件的能力。

目前有一項技術(shù)叫做長短期記憶網(wǎng)絡(luò)（LSTM）算法，它使用特定的學(xué)習(xí)機制來決定在任意一個節(jié)點哪些信息需要記住，哪些需要更新，哪些需要關(guān)注。用香港科技大學(xué)相關(guān)領(lǐng)域的專家Edwin Chen的話來說，LSTM應(yīng)該達到這樣的狀態(tài)：“當場景結(jié)束，模型應(yīng)該忘記當前場景的位置，所處時間，并重置任何特定場景的信息；然而，如果場景中的一個角色死亡了，機器則應(yīng)該繼續(xù)記住他不再活著的事實。因此，我們希望機器能學(xué)習(xí)掌握一個相互獨立的遺忘/記憶機制，這樣當新信息進來時，它知道什么觀念該保留什么該丟棄?！?/p>

遺忘不僅僅是一次失敗的記憶，這是一個積極的過程，可以幫助大腦獲取新信息并更有效地做出決策。

對于人工智能來說也是如此。

遺忘或許是AI進步的關(guān)鍵

我們先做一個看起來不是那么恰當?shù)谋扔?，所有“記憶”的物質(zhì)承載都是有承載上限的，日記本寫滿了就沒法再記，硬盤的容量塞滿了也放不下更多的東西。如果放任所有你看到的信息都記在你的電腦硬盤里，它可能很快就會被塞滿，然后“寫入”這個類似于“記憶”的東西就會罷工不干。

如果教一個說中文的孩子學(xué)習(xí)英語，孩子會很容易把學(xué)習(xí)中文的方法應(yīng)用到英語的學(xué)習(xí)中（雖然這兩者不屬于同一語系，但是中間還是有相通的部分，同一語系中的相通部分更多，所能“借鑒”的經(jīng)驗也就更多），比如名詞，句子構(gòu)建，語序區(qū)別，同時忘記那些不相關(guān)的東西，比如口音，語調(diào)，沒必要的俚語，我們?nèi)祟惪梢酝瑫r進行遺忘和學(xué)習(xí)。

但是機器人的處境可不一樣，如果訓(xùn)練神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)英語，則他會通過“深度學(xué)習(xí)”整出一個適用于英語的學(xué)習(xí)方式。如果還想同時教它中文，對中文內(nèi)容的學(xué)習(xí)將覆蓋神經(jīng)網(wǎng)絡(luò)以前為學(xué)習(xí)英語所獲得的知識，因為這與之前的學(xué)習(xí)方式矛盾，如果存儲內(nèi)存一定，那么只好刪除所有內(nèi)容并重新開始。這也很好理解，現(xiàn)在的神經(jīng)網(wǎng)絡(luò)不允許AlphaGo在一個深度學(xué)習(xí)過程中同時學(xué)會圍棋和五子棋，盡管他們棋具都很相似，但是規(guī)則大不同。這被稱為“ 災(zāi)難性遺忘 ”，也是神經(jīng)網(wǎng)絡(luò)的一個局限。

算法不能選擇忘記什么，而負責(zé)它們的人可能沒有權(quán)利或解決問題的能力。進入流與輸出流嚴重的不匹配將會導(dǎo)致大量的局限性出現(xiàn)。如果只是進行大量數(shù)據(jù)持續(xù)的收集，而沒有簡單的方法通過“遺忘”提純數(shù)據(jù)，那人工智能也僅僅是在有限的容量上，在一個狹隘的角度里堆砌和發(fā)展我們的智慧成果而已。

因此，學(xué)會遺忘是人工智能面臨的重大挑戰(zhàn)之一，可能也是這個行業(yè)破局的關(guān)鍵所在。人類大腦和遺忘的過程中，有可能藏著顛覆現(xiàn)有AI技術(shù)的秘密。

尾聲：未來不確定的圖景

了解我們的大腦如何決定什么值得記憶，什么值得遺忘，對于創(chuàng)造更好的人工智能很重要。醫(yī)療機器人進行醫(yī)療診斷，智能家居設(shè)備監(jiān)控我們的行動，安全機器人通過視頻攝像機和熱成像進行巡邏。這些都是很多存儲的數(shù)據(jù)，決定一個機器人什么時候應(yīng)該忘記是一個深刻的人類挑戰(zhàn)。

但是如果成功了呢？

前面我們提到了，可能是因為過度擬合的存在，讓AI在對未來做出邏輯判斷時可能會出現(xiàn)失真的問題。如果我們把“遺忘”這把鑰匙交給了人工智能，讓他們通過合理的選擇性遺忘，走出了過度擬合可能存在的問題。那么，我們擁有一個“百科全書”式的AI時，它（或者應(yīng)該是他）能通過各種被記憶與遺忘提純的數(shù)據(jù)，對未來進行精準的預(yù)測嗎？

這是人們一直在期待的一種圖景，也是我們隱隱害怕的圖景。

阿西莫夫有一篇短篇科幻小說，叫做《最后的問題》。書中的“超腦”在一代一代的開發(fā)之后，就有了這樣解答問題的能力。如果能夠?qū)⑦@樣的人工智能制造出來，并且處于完全的控制之下，對于人類社會來說可能都是一場意義非凡的飛躍。

希望如此吧。

文章名稱：人 工智能機器人的遺忘，遺忘或許是AI進步的關(guān)鍵
瀏覽地址：http://www.muchs.cn/news10/145910.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供靜態(tài)網(wǎng)站、營銷型網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計公司、網(wǎng)站策劃、小程序開發(fā)、App開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)