Computex 2024聯發科技副董事長暨執行長蔡力行主題演講 ”Intelligence Everywhere; The Power of Ubiquitous AI” 中文重點摘要

• AI正在引領未來的科技發展，其中生成式AI更將使AI無所不在。聯發科技先進的運算技術，將從邊緣裝置端到雲端，推動無所不在的混和式AI運算。我們的四大支柱包括 (1)從邊緣至雲端的各類高性能運算單元、(2)AI加速器所需的各類領先技術、(3)實現邊緣至雲端混合式AI的先進無線網路技術，以及(4)堅強的全球生態系及供應鏈長期夥伴合作關係。

從邊緣至雲端的各類高性能運算單元(xPU: CPU、GPU、NPU、Cloud AI Accelerator)

• 聯發科技在過去五年間不斷突破，行動晶片CPU性能提升2.6倍、GPU性能提升6倍、NPU性能更大幅提升18倍，且系統功耗在重度遊戲和AI攝影的應用場景中減少60%。這顯示了我們在技術創新和能源效率的領先實力。
• 我們最新發表的旗艦手機晶片天機9300+的NPU AI運算能力已達到68 TOPS，比現今對AI PC NPU 要求的40TOPS還要高。
• 聯發科技將高性能運算延伸至汽車智慧座艙晶片，並與NVIDIA合作，結合聯發科的高性能運算及NVIDIA在AI和繪圖運算的領先優勢，將進一步提升新產品的CPU及AI性能，針對大語言模型提供更低的延遲和更好的使用者體驗。
• 此外，聯發科技將把在邊緣運算長期耕耘的優勢延伸至雲端。Arm CEO Rene Hass更親自到場，提到AI所帶來技術影響力相當廣泛，聯發科技與ARM的合作關係將會是抓住這個市場機會的關鍵。我們也宣布將透過Arm Neoverse運算子系統(CSS)，加速在雲端運算晶片的設計與開發。

AI加速器所需的各類領先技術

• 因應快速增加的AI訓練與推論需求，雲端服務供應商除了積極佈建資料中心，也尋求更客製化的解決方案以優化特定領域性能，並降低總擁有成本(TCO)，我們預估客製化AI雲端運算的市場規模將自去年約76億美元成長至2028年的450億美元，其中大多數為AI加速器。
• 聯發科技擁有許多內部開發的雲端AI客製化晶片解決方案的IP，在雲端運算領域佔有利基性的市場定位，並且能幫助雲端廠商降低總擁有成本(TCO)。這些技術包括Interconnect SerDes、UCIe、D2D及Optical等高速傳輸介面IP。此外，我們在3奈米及接下來的2奈米先進製程、2.5D/3D Chiplet先進封裝，以及HBM等技術方面都具堅強的開發及整合能力。
• 其中，在雲端運算領域中最為關鍵的SerDes技術是由聯發科技內部開發，在2022年推出112G技術後，我們在2024年已擁有市場最先進的224G IP，未來也將持續開發400G及CPO的能力。我們將致力於提供可持續、可擴展，且具能源效率的解決方案，提供客戶優異的AI加速器解決方案。

實現混合式AI的先進無線網路技術

• 未來AI運算在邊緣端及雲端都需進行佈署，且為了有效發揮混合式AI的優勢，邊緣端與雲端間需建立高速、可靠的連結，而聯發科技具備所有的關鍵有線及無線連結技術。例如在5G，我們已將技術由手機延伸至FWA、PC、汽車及物聯網裝置等，另外還有5G RedCap、5G NTN衛星寬頻、Wi-Fi及乙太網路等無線及有線連結技術。
• 在混合式AI的架構之下，AI將會無所不在。例如可進行語音互動並能不斷學習與進化的AI個人助理，及在車內直接執行大語言模型的車載語音助理，能夠進行多螢幕互動並偵測駕駛警覺性。這些都是AI可能帶來的深刻變革，改善使用者生活效率及品質。
• 現場聯發科技也展示了生成式AI應用，例如照片物體移除、背景生成，以及即時的生成式AI動畫與圖片生成等，也透過即時生成式AI功能，生成輝達執行長黃仁勳的背影，介紹他上台。

堅強的全球生態系及供應鏈長期夥伴合作關係

• 我們也積極與全球AI產業領導者合作，包括Arm、台積電、輝達、以及Google、Meta、百川智能及阿里雲的大語言模型等，共同推動無所不在的AI。
• NVIDIA CEO黃仁勳親自到場，強調與聯發科技的合作關係對於開發汽車市場的重要性，並提到兩家公司未來在大型語言模型的訓練，及邊緣AI裝置等領域會有更多的合作機會。