Categories
程式開發

Facebook首席AI科學家:機器學習的殺手級應用是什麼? AR眼鏡!


想要實現理想中的AR眼鏡,還需要面臨一系列的挑戰,尤其是在能效比方面,越來越多的開發者開始去考慮低功耗的問題。近期,關於機器學習的應用場景,Facebook首席AI科學家Lann LeCun 就曾表示,AR眼鏡將是機器學習從業者的絕佳挑戰領域,它將成為高效節能的機器學習殺手級應用。

Facebook首席AI科學家:機器學習的殺手級應用是什麼? AR眼鏡! 1

Facebook AI Research首席AI科學家Lann LeCun相信增強現實眼鏡是機器學習從業者的絕佳挑戰領域,AR眼鏡將成為殺手級應用,因為這裡麵包含了一系列尚未解決的問題。

完美的AR眼鏡需要對話式AI、計算機視覺和其他復雜系統的結合,這些系統需要以一對鏡片這麼小尺寸的形態發揮作用。低功耗的AI是不可或缺的,這樣才能確保合理的電池壽命,使用戶能夠長期佩戴這種眼鏡。

今年秋天,Facebook與蘋果Niantic和高通這些公司一道,確認了在2025年前製造出增強現實眼鏡的計劃

“這是對硬件的一個巨大挑戰,因為你的眼鏡可能會配置相機,它會實時追踪你的視野,追踪的延時是不確定的,所以當你移動時……這需要非常大的計算量。你想通過語音與個人助手交互,你可以對個人助手說話,個人助手會隨時傾聽你說話,也會與你交談。你需要手勢【識別】,這樣個人助手就可以進行實時手部追踪。”他說道。

“實時手部追踪技術已經可以投入使用了”,LeCun說道,“但是我們不知道怎樣在AR眼鏡那麼小的尺寸,和那麼嚴格的功耗限制下做到這一點。”

“就功率、能耗、性能和尺寸這些指標來看,這真的已經超出了我們現在能做的範疇,所以你需要使用一些小技巧,雖然人們可能從來沒有覺得這些小技巧適用於這樣的場景。其中一個技巧就是神經網絡。”他補充道。

變得更加高效

LeCun在12月中旬的NeurIPS(全球最大的機器學習研究會議)的EMC節能機器學習研討會上發表了講話。他談到硬件性能是如何限制研究人員的想像力的,當硬件運行太慢,高性能軟件還不可用,或者實驗不那麼容易復現時,一些好的想法就可能被廢棄掉。

他還談到了一些具體的機器學習方法,像微分聯想存儲和卷積神經網絡,這些方法給硬件提出了挑戰,可能需要新的硬件才行。微分聯想存儲,或者說soft RAM是目前在自然語言處理(NLP:Natural Language Processing)中廣泛使用的一種計算方法,並且也開始越來越多地應用在計算機視覺領域中。

“深度學習和機器學習架構在未來幾年將發生很大改變。你現在已經可以看到發生了很大的變化,目前在NLP這個領域中,唯一的玩法基本上就是變形網絡。”他說道。

他補充說道,“自我監督學習中更有效的批處理技術能幫助AI更好地像人類和動物一樣學習,這可能也可以幫助AI節省更多能源。“

在LeCun的演講之後,是Vivienne Sze的演講(MIT電子工程和計算機科學副教授),他談到了需要一種系統性的方式來評估深度神經網絡。據SlidesLive網站報導,早些時候Sze關於高效深度神經網絡的演講,獲得了所有NeurIPS在線分享視頻的最高瀏覽量。

“更大的存儲會消耗更多的能源,”Sze說道,“神經網絡中的權重並非同樣重要。”Sze還演示了Accelergy,這是MIT研發的一個用於評估硬件能耗的框架。

除了這些演講之外,這場研討會的展示環節展示了一些值得關注的低能耗AI解決方案,這包括DistilBERT,它是Google BERT的輕量級版本,是Hugging Face專為端上設備快速部署而研發的;還有SRI International和Latent AI提供的深度神經網絡量化技術對比。

許多知名人士呼籲機器學習社區需要面對氣候改變的問題,他們表示專注在這樣的問題上能夠驅動創新。上週在NeurIPS的一次小組討論中,另一位深度學習先驅人物,Yoshua Bengio呼籲機器學習研究人員把更多注意力放在影響氣候改變的機器學習問題上,而不要總是太多關注發表論文的數量上。

接受VentureBeat的一次採訪中,Google AI首席科學家Jeff Dean表示他支持這樣一種想法,就是創建每瓦計算量的一個標準,以此鼓勵發明創造出能夠更高效計算的硬件。

節約能源

NeurIPS上除了解釋深度學習算法的一些理論工作外,會議還介紹了大量的工作,這些工作說明了研究AI對氣候變化帶來的影響是非常重要的,其中包含了這樣一篇論文:“Energy Usage Reports: Environmental awareness as part of algorithmic accountability”。

“我們必須要測算出算法的碳排放量,並能公開地報導出來,這樣計算機科學家就能在環境可持續發展上展現出真誠和積極的一面。”這篇論文這樣寫道。

與這一主張不謀而合的是,大會組織者在早些時候建議,AI研究人員在2020年向NeurIPS提交他們的研究工作時,可能需要分享與他們工作相對應的碳排放量數據。

最近發布的2019 AI Now Institue report 包含了十多項建議,其中就有如何衡量一個算法執行所產生的碳排放量,該報告稱這樣的建議可以促進一個更加公正的社會。

在其他有關節能的AI新聞中,來自Element AI和Mila Quebec AI Institute的機器學習從業者上週介紹了一種新的工具,可以計算出使用GPU訓練AI模型的碳排放量,進而可以基於使用時間和雲區域等因素來預測能源使用情況。

對更高效機器學習方式的推動可以帶來創新,這些創新將能夠改變我們的星球。但是,宏偉的想法和挑戰需要一個焦點——聚焦能夠讓理論性的東西變得更切合實際,能夠讓我們梳理出需要解決的實際的、具體的問題。根據LeCun所說,AR眼鏡可能就是機器學習從業者們的絕佳用例場景。

原文鏈接:

https://venturebeat.com/2019/12/17/yann-lecun-ar-glasses-will-be-the-killer-app-of-energy-efficient-machine-learning/