2024.10.03| 林宏文
9月初台灣舉辦2024國際半導體展(SEMICON Taiwan),可說是近年來最盛大、最熱鬧的一次展會。眾多重量級講者發表關鍵報告與產業動態,我也在此與大家分享我的3點觀察心得。
首先,在展前記者會時,日月光執行長吳田玉提及,在他40年職場生涯中,這是第一次看到硬體來不及供貨,趕不上軟體的強大需求。目前台灣各公司AI硬體接單都交不了貨,缺貨時間至少會持續2年,這是他在半導體產業中不曾見過的景象。
硬體增速趕不上軟體!為什麼?
原因一: AI「10倍速成長」
硬體趕不上軟體需求,過去確實少見,因為產業發展的大部分時間,都是殺手級應用難覓,但硬體產能很多,硬體即使缺貨,也都只有很短暫的時間。如今AI以10倍速成長,就算硬體不斷投資躍進,也是立即被軟體消耗掉。
掌握最新AI、半導體、數位趨勢!訂閱《數位時代》日報及社群活動訊息
原因二:後摩爾時代,限制硬體提升速度
硬體出現瓶頸,除了生成式AI進展太快,另一個關鍵原因是主宰半導體發展近60年的摩爾定律開始撞牆。過去晶片功能每1年半到2年就提升1倍,軟體應用即使不斷推進,硬體也大都能滿足軟體需求。
但如今進入後摩爾時代,製程發展到3奈米、2奈米後,線寬已達物理極限,功能增速減緩,需要整合更多技術,例如小晶片、2.5D、3D封裝、材料與光學等技術,也限制硬體提升的速度。
原因三:升級技術愈來愈難
硬體增速遇到另一個挑戰,是技術愈來愈難、投資金額加大,高階製程技術屏障愈墊愈高,如今全球只有台積電一家能跨過鴻溝,供應當然受限。
微軟Azure硬體系統和基礎設施副總裁Rani Borkar,也在大師論壇演講中提到,AI軟體發展增速,過去是每2年成長10倍,就算摩爾定律維持2年成長2倍,AI軟體增速也是硬體的5倍,這是硬體為何跟不上軟體的主因。
其次,硬體增速還要面對另一個大考驗。展會中幾乎每個講者都提出警告,當AI發展亟需高速運算,但高速運算逃不掉高耗電與散熱問題,這已成AI產業發展的天險,是需要共同面對並積極解決的問題。
展會期間,我也訪問台大前校長李嗣涔,他提到生成式AI的蓬勃進展至少引發3大憂慮,包括AI發展可能超過人類智慧,甚至出現取代或奴役人類的情況,其次是AI將大量取代白領階級的工作,造成白領失業等社會問題,最後是青少年大腦神經正處於發展階段,但AI可能形成「大腦外包」現象,對青少年的衝擊相當大。
因此,李嗣涔也預測,由於生成式AI需仰賴高速運算,但高速運算又太耗電,或許,電力會成為減緩AI發展的主要障礙。若人類無法降低AI耗電,或無法發展出更有效率的新能源或新技術,電力或許反而變成降低AI帶來危機或悲劇的解方。
最後,展會中另一個焦點則是高頻寬記憶體(HBM),台韓半導體產業也將因為AI時代進入合縱聯盟的新局面。
南韓2大記憶體龍頭三星和SK海力士,今年首次派出最高階主管李禎培及金柱善來台參加大師論壇,過去2大龍頭幾乎不曾同場出現,但為了此次台灣半導體展首度破例,也透露出一個全新產業競局正在展開。
台韓意外因AI破冰,台積結親SK海力士
過去,記憶體屬於標準產品,和邏輯晶片的關係並不明顯,也沒有必要將2種晶片封裝在一起,但AI伺服器系統愈搞愈大,晶片功能、面積、散熱及耗能問題愈來愈嚴重,將系統單晶片(SoC)與HBM封裝在一起,成為解決問題的必要手段。
因此,當輝達與台積電合作規畫AI伺服器系統時,透過輝達的AI GPU晶片,加上台積電的先進製程及先進封裝技術CoWoS,最後要將HBM與SoC晶片封裝在一起。也因為這個趨勢,HBM廠商必須和輝達的晶片設計與台積電的先進製程與封裝密切合作,記憶體與晶圓代工這2大產業因此被AI拉在一起,打破過去台、韓業者不相往來、獨立運作的模式。
在這種微妙的大趨勢中,台積電與輝達陣營優先選擇與SK海力士、美光合作,至於與台積電在晶圓代工上競爭的三星,當然就被擺在一邊。在先進製程與高階封裝的發展上,台積電成為主導半導體方向的領頭羊,也讓向來與台灣競爭多過合作的韓商,必須經常來台灣拜碼頭,例如SK海力士社長金柱善,就在論壇中說今年已來台灣10次了,原因就是與台積電緊密合作。
在此加碼另一個幕後故事。由於SK海力士與台積電密切合作,因此SK海力士很早就決定參與台灣半導體展,後來三星得知,也主動表達參與意願,甚至在大師論壇的座談部分,原本金柱善要和台積電共同營運長米玉傑同台討論,但由於三星也要求參加,後來金柱善就決定退出,最後由李禎培上場。2大韓商王不見王的死敵態度,由此可見一斑,但也可以從中看到半導體產業最新的競合關係。
資料來源:https://www.bnext.com.tw/article/80743/balance-between-hardware-and-software