本次專訪的受訪者是中國科學技術大學2010級校友、NVIDIA高級工程師高翔學長。他於2019年博士畢業後加入NVIDIA，深度參與了PyTorch核心模塊的開發，是nvFuser編譯器的核心開發者之一。在2024年12月25日的華夏計算機英才班係列講座中，高翔學長以《大模型深度學習編譯：行業見聞以及nvFuser實例分析》為主題作報告。在講座開始之前，我們有幸對高學長進行了一對一專訪，探討了他的職業成長經曆、技術洞見以及對學弟學妹們的建議。以下為采訪實錄。
采訪時間：2024年12月25日 下午13:40
采訪地點：高新校區GT-C102
采訪主持：郭東昊
問題一：關於講座的期待
主持人：
學長，您的講座主題涵蓋了深度學習編譯器領域的行業觀察與技術實踐。您能否簡單分享一下今天報告的核心內容？同時，您希望大家聽完這場講座，能從中收獲哪些啟發呢？
高翔：
這次講座的主要內容就是我這幾年在PyTorch工作的一些經曆。我已經在PyTorch這邊工作了大概五年，這幾年見證了很多變化，包括一些行業裏的趨勢和技術性內容。我主要會分享這些感受，比如PyTorch的一些發展情況以及行業裏的變化。我希望大家能夠從中了解到深度學習編譯的一些挑戰和技術細節。
問題二：職業經曆與行業見聞
主持人：
您從博士畢業後加入NVIDIA，深度參與了PyTorch核心模塊的開發，並在深度學習編譯器領域做出了重要貢獻。從您的職業經曆來看，深度學習編譯器這一領域在過去幾年有哪些顯著變化或趨勢值得我們關注？
高翔：
我的見聞主要是圍繞PyTorch官方生態，但整個行業也有很多趨勢。我覺得過去幾年一個顯著的變化是，大家從探索逐漸形成了一些共識，比如在PyTorch的開發中，我們更傾向於盡可能在Python層完成任務，而不是過早地切換到C++層。這種趨勢讓我覺得更像是踩過坑之後逐漸明確了正確的路線，而不是一開始就有清晰的方向。
問題三：求學經曆與成長感悟
主持人：
學長，作為中科大的校友，您一定對母校的學習經曆有深刻的感觸。您覺得中科大的學習環境和培養體係對您的成長有哪些特別的幫助？能不能分享一個您在科大求學印象中最深刻的一個點？
高翔：
我覺得科大的基礎教育讓我受益匪淺。我本科是物理專業，但現在從事深度學習編譯器的工作。物理係的理論訓練和數學背景讓我在轉向計算機方向時並沒有太多困難。科大特別注重培養紮實的基礎，這種教育讓我在麵對複雜問題時，總能從根本上去分析，抓住關鍵點。
至於深刻的印象，就是科大的環境特別注重研究和學習的純粹性。你會感受到一種深入探究事物本質的氛圍，這對我的職業發展幫助很大。
問題四：對學生的建議
主持人：
如今深度學習領域發展迅猛，很多學生可能會感到方向多、選擇難。您有沒有一些建議，幫助學弟學妹們更好地規劃學術發展或職業道路？
高翔：
深度學習變化非常快，沒有人能準確預料到它的未來。我的建議是不要完全死磕一個方向，而是要多元化、保持開放心態。比如，前幾年大家都在做CNN，但後來Transformer火了，很多公司和研究機構都開始轉向。如果你過於專注某一個技術，可能很快就會被淘汰。所以，擁抱變化，拓寬知識麵，讓自己隨時做好應對行業變化的準備。雞蛋不要放在一個籃子裏，這很重要。
問題五：對未來的展望
主持人：
深度學習編譯器的技術潛力巨大，而您作為nvFuser的核心開發者之一，對這一領域有深刻的理解。未來，您個人在技術或職業發展上還有哪些目標或規劃？同時，您對深度學習編譯器的發展有哪些期待？
高翔：
我個人希望能夠在深度學習編譯器領域做出一些貢獻，希望未來行業能達成共識，找到更標準化的開發路徑。目前，編譯器領域的進展很慢，比如摩爾定律的更新很快，但編譯器的性能提升周期卻可能長達18年。我期待這個領域能更快地“穩定”下來，形成更清晰的方向，為行業發展提供更多支撐。
結束語
主持人：
非常感謝高學長的真誠分享，也再次感謝您的時間！預祝您的講座取得圓滿成功！
