昨天的演講邀請到大學時代曾經跟我做過專題研究的許秉倫，講他在美國留學就業後創立的Liger Kernel開源軟體專案。有別於一般的演講，我希望這場演講著重於技術面的分享，進而呈現開源軟體的世界給聽眾。主要的演講約一小時，但演講會上的問答以及會後聽眾找講者的交流，超過一個小時，可見得言之有物、意猶未盡。這場演講的錄影，如果臉友們回應熱烈的話，在徵得講者和贊助單位同意之後，我們會考慮上網公開分享。

秉倫做的這個Liger Kernel專案，技術門檻不低，因為要懂得如何駕馭含有GPU或硬體加速器的異質計算架構，不僅要能運用CUDA寫GPU程式，還在系統上使用效能工具找尋效能瓶頸加以優化，同時與其他開源專案（Triton）密切接軌。我將這類的開源專案稱之為開源系統與中介軟體，一直是我指導學生鑽研的方向，也是我希望國內產業界多加以重視並支持的領域，只可惜國內積極支持的業者太少。

業者不支持就算了，還學國外軟體業者考程式題篩選面試者，搞得學生在學校的時候競相拼刷題，價值觀錯亂。原本LeetCode這些網站是為了幫助學生們學習寫程式，卻因為美國軟體業求職者太多，被用來作為面試前的篩選工具，而越演越烈變成惟刷題強者才錄用。秉倫在演講一開始就說（參考附圖），美國軟體公司已經不大靠刷題了，也不見得在乎你的成績，而是看你實際上做過什麼專案、能否進入一些未曾碰觸過的新領域。秉倫在知名的求職平台LinkedIn工作，看到美國最新的趨勢，但國內還停留在過去。

很多學生從小為了考試而一路刷題到現在，還要繼續花時間刷題，我也管不著，只能建議各位趁著在校時多充實素養、學一些有用的東西。在科舉時代，熟背經史詩文的人可以上位當官，但不見得能做大事、解決問題。要知道，現在的AI比絕大多數人都要會刷題、會作刻板文章、寫程式，於是有人說學生們不用再學寫程式了。

的確，很可能不用再寫一些別人寫過的程式，但如果不學寫程式的話，如何懂得電腦科學中所蘊藏的道理（運算思維）呢？如果遇到未曾碰觸過的新領域，光靠嘴砲指揮AI就能研發程式來解決問題嗎？AI最可能淘汰的是只會照本宣科、依樣畫葫蘆的人，奉勸各位不要一昧從眾，而喪失個人的特色。

在這場演講中，秉倫不只一次被問到，LinkedIn為什麼願意讓他花大把時間做開源軟體專案，而且將這種專業的好東西分享給包含競爭對手的其他公司呢？其實這些問題正好曝露出國內業界的生態距離國外太過遙遠，聽眾不只難以置信，也會質疑在國內是否有這樣的機會。

首先，放眼國內開源社群所關注的專案，很多都是基於個人的興趣和熱情，只能利用個人閒暇時間參與，往往跟任職公司的業務脫節。理論上，如果參與的開源軟體專案與公司業務相關性頗高，公司或許會支持，但實際上國內硬體製造的思維中還有極濃厚的保護意識，與開源文化背道而馳，深怕公司機密洩漏，所以要這些公司支持開源軟體社群的發展是困難重重。

我認為，追求軟體的價值要有方法，心態與硬體製造截然不同，然而賺大錢的晶片系統廠網羅了許多頂尖大學培育的軟體人才，然後讓他們在硬體製造的思維框架中只做對公司有利的研發工作，這樣的大環境是相當不利於國內軟體人才培育和技術發展的。我這些年的個人經驗告訴我，在這個極度重視硬體製造的國度，願意積極探索和開創軟體價值的晶片系統廠少得可憐。

曾經，在中國製造的壓力下，有些晶片系統廠開始思考如何轉型，除了在原本擅長的硬體製造技術上精益求精之外，發展較為貼近硬體的系統軟體、培育相關人才。但意外幸運地，近年受惠於美中經濟戰，晶片和系統產業的成功，讓國內許多人引以為傲的同時，並沒有很積極投入資源培育系統軟體人才、致力於提升系統軟體技術，我認爲非常可惜。

曾經是晶片系統產業龍頭的Intel，為何這些年逐漸失去競爭力，是一個值得參考的案例。不過美國就算Intel不行了，也有很多資訊業的翹楚，除了炙手可熱的NVIDIA之外，更重要的是軟體業的霸主們，因為那是美國業者想要的價值。反觀國內，硬體製造之外，能夠追求哪些價值？

當我上個月在超級電腦年會（SC24）的展場上看到一票台灣系統廠都秀出長相差不多的GB200/NVL72的機櫃之時，我心想，能夠把超級電腦變成幾乎每家系統廠都會代工生產的盛況，真正厲害和賺大錢的是NVIDIA！而台灣廠商在NVIDIA獨大，各家做不出明顯的差異化，又彼此競爭的情況下，只能像小弟般跟著NVIDIA大哥身邊做事分紅，遲早利潤會越來越薄的。

我絕對不是嫌棄代工，只是指出國內大量優秀的軟體人才集中在硬體製造產業，只限做一些有助於在長官眼界內提升業績的研發工作，難以發揮其能力、為產業加值。我敢說，這並不是國內大學加強培養軟體人才就能解決，也不是鼓吹軟體新創就養出一群獨角獸那麼簡單，這是生態系的問題；相對地，不少國內培育的人才到了國外，卻能夠獲得重用，還能海闊天空地發展 -- 我很不願意這樣說，但出國工作似乎是目前國內軟體人才的最佳出路。

對了，有位學生問秉倫，你因為看到某個效能問題而開創出Liger Kernel，為什麼其他人沒看到？沒有被其他人解掉？

秉倫說，他在LinkedIn一開始用的都是配備80GB記憶體的GPU，因緣際會遇到朋友提及GPU只有40GB的記憶體，不夠訓練大模型的時候，才開始思考如何節省記憶體 -- 或許厲害的人有用不完的高階GPU，沒有碰到這個問題？

我在會後對學生說，這類問題很常發生，只要多碰觸實作問題就會看到。或許有人認為研究解決這種實務問題不夠學術性、不是SOTA，但絕對不要忽視這類工作對學術的貢獻。你看今年的諾貝爾獎頒給AI技術的引航者、應用工具的開發者，就有這個意涵。對我來說，只要學習做對人類有幫助的技術，就是學術。