又一技術大咖離開業界,前往高校攻關科研!
據Pete Warden(皮特沃登)本人推特消息,他將離開谷歌公司,重返斯坦福大學攻讀計算機博士學位。
皮特沃登是谷歌公司Tensorflow面向移動和嵌入式設備部分的技術主管,也是 Tensorflow團隊的創始成員之一。著有《TinyML》一書,希望讓機器學習不再囿于云端超級計算機,而是可以被隱藏于眾多小到可以被忽視的電子零件中。
至于離開谷歌的原因,皮特沃登說:在谷歌推出新的硬件設備“太難了”,因為一旦失敗會對大公司聲譽造成非常大的影響。
“it’s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company’s reputation are so high. ”
據悉,皮特沃登已經離開校園二十年了,此次重返校園雖然有些冒險,但對“自己能夠構建一些東西”有幫助。
皮特沃登還在個人博客寫了一篇文章,表達了離開谷歌的前因后果:
我在谷歌工作了7年,這段時間里,很幸運也很自豪能夠和一些了不起的人一起研究TensorFlow等項目。在過去幾年里,我一直在說“你可以用TensorFlow Lite Micro實現所有美好的TinyML項目”,現在我自己終于也可以隨心所欲的嘗試構建自己的東西了。
在谷歌我也嘗試過,但在谷歌推出新的硬件設備是非常昂貴和耗時的,因為一旦失敗會對其聲譽造成非常大的影響。因此,時隔二十多年,我決定重返校園,去斯坦福大學攻讀計算機科學博士學位。
過去幾年,我在斯坦福大學教授EE292D課程,在這過程中,我從學生對新技術渴望的熱情中收獲了很多,而且也從Zain Asgar、Sachin Katti、 Boris Murmann等教師身上學到了很多?,F在我很高興能夠有更多的時間從校園中度過。
TensorFlow Lite Micro在Advait Jain和團隊其他成員的帶領下非常出色,使用量和人數在過去幾年持續增長,所以我對它的未來非常樂觀。過段時間,我會公布更多細節,但我現在能夠使用將框架部署到”我從項目一開始就夢想的設備“上了。
離開谷歌,重返校園是一次有趣的新冒險,感謝支持我走到這一步的所有人。
正如前面提到,皮特沃登是人工智能領域的專家。2003年他創建了一組包含45 個圖像的處理過濾器(processing filters ),這些過濾器能夠在 2003 年的筆記本電腦上以 30 fps 的速度檢測視頻內容中的特征。當時Apple 購買了該技術并聘請他將其集成到 Apple 的成像相關產品中。
2011年,皮特沃登聯合創辦Jetpac,擔任CTO。當時他開發了一款獨特的產品,能夠分析了 Instagram 上超過1.4億張照片的像素數據,并將其轉化為全球 5,000多個城市的深度指南。2014年,谷歌收購該公司。
加入谷歌之后,皮特沃登專注于在成本和功率受限的系統中部署機器學習。在谷歌,Pete 領導開發用于移動和嵌入式應用程序的 TensorFlow Lite 機器學習框架。
這種在一些“不起眼的硬件”中構建機器學習被行業稱為TinyML(Tiny Machine Learning)。TinyML 的目標是以盡可能低的功耗執行 ML 推理。具體而言,正如皮特沃登在其著作提到的那樣:TinyML 的目標是在低于 1 mW 的功耗下運行。1 mW是標準紐扣電池運行功率。
TML示意圖
因此,TinyML 是機器學習和嵌入式 IoT 設備的交叉領域,是一門新興的工程學科,具有革新許多行業的潛力。顯然,TinyML 的主要受益者,是邊緣計算和節能計算領域。
2019年3月,TensorFlow Lite嵌入式平臺發布了第一個實驗原型。這是由SparkFun構建的開發板的原型,它有一個Cortex M4處理器,具有384KB的RAM和1MB的閃存存儲。該處理器功率極低,在許多情況下功耗不到1毫瓦,因此它可以僅憑小型紐扣電池運行很多天。
目前,TinyML還處在發展階段,正如皮特沃登在一次演講中所提到:
“未來的世界有更多的可能性,現在人工智能對于我們,就像八十年代的電腦一樣。我們不知道它會發展成什么樣子,但是我們可以想象一下我們目前面對的各種問題和挑戰,在工作中面臨的困難。如何用小小的芯片進行機器學習?這方面我們可以有新的角度去探索,也有新的研究成果去發揮作用?!?/p>
皮特沃登在業界已經探索了二十年了,今日他選擇離開企業,選擇重返校園,無疑是對當前AI研究人員紛紛重返學界這一趨勢的印證。
這一趨勢最早從吳恩達開始,隨后李飛飛、張潼、張亞勤、賈佳亞等科學家也不斷重返學校。
而在幾年前,對應的正是AI基礎研究者紛紛離開學術界,加盟工業界:代表性的標志事件是在2011年的NIPS大會上,Hinton接受了Google的邀請,正式加盟Google;此后Facebook、Amazon、Uber以及國內百度、阿里、騰訊、滴滴等巨頭也紛紛跟進,而另一方面,產業界所能提供的海量數據以及資源投入對于AI研究者也具有莫大的吸引力,長期從事理論研究的他們也需要一個平臺驗證他們的想法,這也正是當時AI人才從學術界流向產業界的原因。
現在這些AI大牛從產業界重返學術界,有人將其視為AI科學家的“水土不服”,并進而得出“AI熱度正在放緩”的結論。但從另一個角度上,我們也可以看到這些科學家們在產業界檢驗了自己之前的研究之后,帶著新的問題回到學術界開展新的研究。
例如,原騰訊AI Lab主任張潼在被問及為什么回歸學術界時,他回答:“我最關心的是10年以后, AI能夠在技術理論等方面實現重大的突破,并且自己能夠在整個學術研究上有更多的貢獻。” 而對于加入創新工場,張潼則表示:“我在進行學術研究的同時,也希望這些學識成果能夠跟產業相結合?!绷硪晃籄I大牛賈佳亞,在離開騰訊優圖之后并未遠離產業界,而是成立了一家創業公司思謀科技,以另一種方式做到連接學術與產業。
拿AI屆的黃埔“微軟亞洲研究院”來說吧,他幾任歷任院長中,李開復創辦了創新工場,以孵化器模式推動中國本土的科技與AI公司的發展;張亞勤牽頭籌建“清華大學智能產業研究院(AIR)”,回歸學術界并得到了馬維英的襄助,“出走半生歸來仍是少年”;沈向洋在擔任清華大學兼職教授的同時,也還投資并擔任News Break董事長;而進入投資界的張宏江,更是在以資本投票的方式踐行著對AI的認知。這些頂尖人才的流動,無論是從學術界到產業界,還是從產業界到學術界,最終都是AI的進步。
參考鏈接:
https://mp.weixin.qq.com/s/xx1-ZV4Bg8vu79EXdoGMJQ
https://mp.weixin.qq.com/s/03-tOTic57bsAV2SFxgemg
https://embeddedvisionsummit.com/2019summit/2019/speaker/pete-warden/