Yoshua Bengio訪談筆記:用意識先驗糅合符號主義與聯結主義

本文轉載自機器之心 作者:邱陸陸。

這篇文章極好地闡釋了AI先驅們對通用智能的理解,Bengio不愧為一代大師。感謝機器之心如此專業的分享,也感謝Bengio引領我們走向正確的方向,他所提到的幾件重要的事情都體現了他對人類智能深刻的理解。1. 世界模型。無意識狀態中存儲了海量的關于世界的知識、關系、信息,智能始終基于對世界的理解來進行推理預測。 2. 符號化,我稱之為離散化或完形化,從復雜感知數據,海量特征中涌現單一整體的過程,是聯結主義和符號主義的橋梁,由于離散化的存在,連續的變化的數據才變成了單一、離散的表征,我們才能進行程序化的計算、推理,這也是我下一個要提到的圖靈機制的關鍵所在。3. 圖靈機制。Bengio所提的意識State恰恰說明他意識到了大腦中圖靈機制的存在,意識State就是運行時的世界模型,從記憶中提取的世界知識,借助感知數據,我們在意識活動(注意和工作記憶)下建立運行時的世界模型,并進行推演從而做出準確的預測。正因為有了這樣的理解,我們才能夠自信地認為BERT的基于概率的方向是存在明顯問題的,至少他不是人腦運作的方式。我們應該結合神經網絡的海量表征潛在常識與自然語言的數據,共同來筑建運行時模型,才能做出最準確的對語言的理解,才能進行推理和解決問題。對此Bengio非常謙虛地表示,在這個框架下未來將有很多工作要做,是一種非常務實的心態,如何訓練出我們想要的海量無法用言語來形容的,對意識層面或者完形、離散化有益的表征,將是下一步研究課題。

 

表征(representation)空間的依賴貫穿計算機科學乃至日常生活的始終。在計算機科學中,如果數據有精當的結構,輔以智能化的索引,那么搜索任務的速度可以指數級加快;對于人來說,計算『 210 除以 6 等于幾?』是容易的,計算『 CCX 除以 VI 等于幾?』則需要更多時間。表征空間的選擇對機器學習算法的性能影響,由此可見一斑。」《深度學習》[1] 一書如是評價表征的重要性。 Read more

完形與世界模型

本文主要探討完形與世界模型的關系。


格式塔心理學引入了心理學的動力學視角,啟發我們從一個全新的角度看待世界模型的構建,自我、感官、舊腦等綜合作用下會產生不同的行為環境的內容。
考卡夫向我們展示了一系列實驗,表明人在解構感知信息時會傾向于簡單性、相似性、閉合性等一系列完形原則,雖然其大作《格式塔心理學原理》中并未探討成因,但在生理-心理聯合框架上下足了理論功夫。 Read more

3d历史开奖结果 江西多乐彩基本走势图 百度 吉林十一选5走势图 云南十一选五五玩法 群英会任5遗漏查询 平台一分彩是假的吗 陕西11选五任5最大遗漏 贵州11选5走势图 新手如何炒股 湖北十一选五开奖结果查询一 排列三试机号十期 福彩排列7开奖结果查询走势图 在买理财亏了50万 湖南动物十分钟走势图 中国福利彩票3d彩吧 腾讯分分彩组六杀号 河南11选5走势图表