原標題:人工智能也需要睡眠
動物為什么要睡覺生物學家至今仍沒有定論,但是人工智能領域的專家卻從另一個方面提出了為什么動物會需要睡覺。最近上映的《未來機器城》中有一個情節,機器人7723的存儲器被損壞,導致存儲空間不足,所以每到夜晚,主人去睡覺了,它就在車庫刪除不重要的記憶,來騰出更多的存儲空間。人工智能領域的專家在處理數據時發現了類似睡覺行為可以極大的提高人工智能利用存儲器的效率。
持續在線的人工神經網絡存儲利用率僅為14%
目前,人工神經網絡的經典模型是 Hopfield 模型,由 JohnHopfield 于 1982 年提出,它描述了人工網絡如何通過模仿真實的大腦機制(如模式識別)來學習和檢索信息。Hopfield 模型運用了一個十分出名的學習法則,叫做赫布型學習(Hebbian Learning)。赫布型學習解釋了神經元之間的突觸強度在學習過程中是如何增加的。
然而這個模型是有缺憾的。Hopfield 模型是二十多年前提出來的老模型了,并且它只能儲存有限量的數據。用數學來表示的話,這個對稱網絡的最大存儲容量僅為14%。但是理論上,容量最大可以達到100%。專家表示,正是因為神經網絡一直在接受信息的狀態,所以無論信息是否正確,都會被儲存下來。這種充斥著大量無關和錯誤信息的存儲方式最終只能達到14%的有效存儲率。
但如果強制神經系統離線并穩固重要信息、清除無關信息,存儲效率就會得到很大提高。甚至能達到100%
哺乳動物會通過睡覺強化刪減記憶
這和哺乳動物的睡眠非常相似,在清醒的時候大腦會接受大量信息,很多信息都是無關緊要甚至是錯誤的,而解決這一問題的方式就是睡覺。
做夢一般發生在快速眼動睡眠階段(Rapid Eye Movement, REM),在這個階段我們的大腦正忙于抹除無關的記憶,為存儲新信息騰地方。在慢波睡眠階段(Slow-wave, SW),重要記憶會被鞏固強化。
雖然大多數時候做夢都是發生在 REM 階段,但是在慢波睡眠階段我們也可能會做夢,只是這些夢往往很模糊,也更難回想起來。兩者也有不同的地方,對于人類的大腦來說,清除信息和加固信息分別發生在兩個獨立的睡眠階段(REM和SW);然而神經網絡是在睡眠狀態同時進行這兩項任務的。
關注微信公眾號(kjxw001)及微博(中國科技新聞網)

