據機器之心消息,知名人工智能青年學者、華盛頓大學博士陳天奇于近期參與創建了創業公司 OctoML,擔任 CTO 一職。
隨著人工智能的火熱,創業成為了眾多 AI 人才畢業后的選擇。
近日,機器之心了解到,機器學習領域知名青年學者陳天奇畢業后也參與創建了全新創業公司 OctoML,擔任 CTO 一職。
從公司的注冊信息我們了解到,這是一家數月前剛剛注冊、位于西雅圖的創業公司。公司主頁介紹稱,「OctoML 擁有當前最先進的 AI、系統、編程語言、編譯器和架構技術,可以讓機器學習系統的優化和部署變得更加容易。該公司致力于打造一個可擴展、開放、中立的端到端棧,用于深度學習模型的優化和部署。」
而在公司成員方面,華盛頓大學教授 Luis Ceze 擔任 OctoML 首席執行官(CEO)一職,他也是陳天奇在華盛頓大學讀博期間合作較多的教授。Josh Fromm、Jared Roesch 等成員也都是華盛頓大學助理教授或者博士。
Jason Knight 曾為英特爾 AI 產品團隊的軟件負責人,現擔任 OctoML 聯合創始人、CPO。
從公司主頁來看,OctoML 的創始團隊幾乎就是著名深度學習框架 TVM 的「原班人馬」。而且,這家公司的愿景「讓機器學習可以部署在所有硬件上」,也與后者幾乎相同。這就不得不說到機器學習領域的重要工具 TVM 了。
1
新一代「機器學習系統」TVM
2017 年 8 月,華盛頓大學陳天奇等人開源了深度學習自動代碼生成方法 TVM,對業界產生了深遠的影響。利用這一工具,機器學習算法可以自動編譯成可供下層硬件執行的機器語言,從而可以利用多種類型的算力。
TVM 是一個全新的框架,它可以:
優化 CPU、GPU 和其他專業化硬件的常規深度學習的計算量
自動轉換計算圖以最小化內存利用率,優化數據布局,融合計算模式
提供從現有的前端框架到裸機硬件的端到端編譯,一直到瀏覽器可執行的 Javascript
TVM 的誕生意味著新的深度學習芯片,以及新的深度學習硬件體系成為了可能。
深度學習模型可以識別圖像、處理自然語言,以及在部分具有挑戰性的策略游戲中擊敗人類。在其技術發展的過程中,現代硬件穩步推進的計算能力扮演了不可或缺的作用。很多目前最為流行的深度學習框架,如 TensorFlow、MXNet、Caffe 和 PyTorch,支持在有限類型的服務器級 GPU 設備上獲得加速,這種支持依賴于高度特化、供應商特定的 GPU 庫。然而,專用深度學習加速器的種類越來越多,這意味著現代編譯器與框架越來越難以覆蓋所有的硬件。
陳天奇等人的最終目標是讓深度學習負載可以輕松部署到所有硬件種類中:不僅包括 GPU、FPGA 和 ASIC(如谷歌 TPU),也包括嵌入式設備,這些硬件的內存組織與計算能力存在著顯著的差異。考慮到這種需求的復雜性,開發一種能夠將深度學習高級程序降低為適應任何硬件后端的低級優化代碼的優化框架是最好的方法。
TVM 是一個端到端優化堆棧,該端到端優化編譯器堆棧可降低和調整深度學習工作負載,以適應多種硬件后端。TVM 的設計目的是分離算法描述、調度和硬件接口。該原則受到 Halide 的計算/調度分離思想的啟發,而且通過將調度與目標硬件內部函數分開而進行了擴展。這一額外分離使支持新型專用加速器及其對應新型內部函數成為可能。TVM 具備兩個優化層:計算圖優化層和新型調度基元的張量優化層。通過結合這兩種優化層,TVM 從大部分深度學習框架中獲取模型描述,執行高級和低級優化,生成特定硬件的后端優化代碼,如樹莓派、GPU 和基于 FPGA 的專用加速器。
陳天奇表示,TVM 嘗試從更高的抽象層次上總結深度學習 op 的手工優化經驗,使得用戶可以快速地以自動或半自動的方法探索高效的 op 實現空間。
2陳天奇其人
陳天奇是機器學習領域著名的青年華人學者之一,本科畢業于上海交通大學 ACM 班,碩士階段也就讀于上海交通大學,博士畢業于華盛頓大學計算機系,研究方向為大規模機器學習。他曾參與開發了 XGBoost、Apache MxNet、Apache TVM (https://tvm.ai/) 等著名機器學習工具,是最大開源分布式機器學習項目 DMLC 的發起人之一。
陳天奇與機器學習的緣分開始于高中一年級,他就讀的松陽二中,是一所位于浙江小縣城的中學。
陳天奇曾在知乎社區的問答中回憶自己第一次接觸計算機科學的心路歷程:「比較幸運的是,比起其他學科競賽,OI 社區有很多在互聯網上的公開資料,訓練 OJ 和論壇社區(大榕樹和 oibh)。這些都給了像我這樣野路子的選手追尋自己的興趣的機會。
高二的時候,陳天奇靠著全部上搜索拿了 NOIP 的省二,高三又拿了省一。憑借 NOIP 成績帶來的高考加分,陳天奇進入上海交通大學的 acm 班,開始了在計算機科學上的旅程。
在拿到博士學位之前,陳天奇曾在微軟亞洲研究院、華為諾亞方舟實驗室等機構實習,還曾在其母校擔任助教,講授編譯器、操作系統、數據庫管理系統、數據挖掘和機器學習實踐等課程。
碩士期間,陳天奇還獲得了 2011 年 KDD Cup 的亞軍和 2012 年 KDD Cup 的冠軍。機器之心曾經轉載過陳天奇關于自己科研生活的自述文章《機器學習科研的十年》,一定意義上,KDDCup12 的奪冠是他決定將科研之路進行到底的最重要因素。
2013 年,陳天奇在華盛頓大學開啟了自己六年的博士生涯。讀博期間,陳天奇遇見了要求嚴格的導師 Carlos,鼓勵他「只做 best paper 水平的研究」。也正是在讀博的這幾年里,陳天奇等人完成了 TVM 等重要研究。
今年,陳天奇從華盛頓大學獲得博士學位,其畢業后的去向成為備受關注的問題。
6 月份,他在 Twitter 上宣布自己將于 2020 年秋季加入卡耐基梅隆大學(CMU)任助理教授,成為加入 CMU 的年輕華人學者之一。同樣宣布將于 2020 年加入 CMU 的還有 CycleGAN 作者朱俊彥。
美國對中國商品加征10%關稅,對跨境電商的巨大沖擊
1151 閱讀智航飛購完成天使輪融資
924 閱讀白犀牛副總裁王瀚基:無人配送帶來了哪些機遇與挑戰?
806 閱讀SCOR模型:數字化時代供應鏈管理的航海圖
871 閱讀快遞人2025愿望清單:漲派費、少罰款、交社保......
795 閱讀京東物流北京區25年331大件DC承運商招標
712 閱讀突發!美國郵政停收中國內地和中國香港包裹,800美元免稅取消,影響幾何?
648 閱讀“朝令夕改”!美國郵政恢復接收中國包裹
632 閱讀物流人“搞關系”,如何與對手戰斗?
540 閱讀春節假期全國攬投快遞包裹超19億件
544 閱讀