高通實現Meta Llama 3在搭載Snapdragon的裝置上運行

亮點：

• 高通與Meta合作最佳化Meta Llama 3大型語言模型，支持在即將推出的Snapdragon旗艦平台上實現裝置上執行。
• 開發者將能存取Qualcomm AI Hub的資源以及工具，以在 Snapdragon 平台上最佳化運行 Llama 3，進而縮短上市時間，並充分發揮裝置上AI的優勢。
• 高通技術公司的裝置上AI功能包括業界領先的NPU、CPU和GPU的技術組合，可針對生成式AI應用實現即時性、增強的可靠性、隱私、情境感知的個人化和成本效益。

【2024年4月18日，聖地牙哥訊】高通技術公司和Meta宣布合作，以最佳化Meta Llama 3大型語言模型（LLM）直接在智慧型手機、PC、VR／AR頭戴式裝置和汽車等終端裝置上的執行表現。在裝置上運行Llama 3可帶來顯著優勢，包括更出色的反應能力、增強的隱私和可靠性，以及為使用者打造更加個人化的體驗。

高通技術公司資深副總裁暨技術規劃和邊緣解決方案業務總經理Durga Malladi表示：

此次合作旨在支援OEM廠商和開發人員，讓其能夠在搭載即將推出的旗艦 Snapdragon平台裝置上取用 Llama 3，推動生成式 AI 功能的普及。
高通技術公司強大的異質運算架構，無縫地利用業界領先的CPU、GPU和NPU，並結合尖端的記憶體架構，使客戶、合作夥伴和開發人員能夠最大限度地提升應用效能、散熱效率和電池續航力。

開發人員將能在Qualcomm AI Hub上取得相關資源和工具，以實現在Snapdragon平台上最佳化運行Llama 3。
Qualcomm AI Hub目前可提供約100個最佳化的AI模型，能為開發者縮短產品上市時間，並讓其開發的應用程式充分發揮裝置上AI的優勢。欲瞭解最新動態，請訂閱高通的每月開發者電子報。

高通技術公司和Meta 致力於推動創新並實現新一代AI體驗，此次合作是雙方持續攜手努力的重要里程碑，展示了雙方以强大AI功能為開發人員和使用者提供支持的决心。

關於美國高通公司
高通正在實現一個人與萬物智慧連結的世界。高通統一的技術藍圖讓我們能有效地擴展包括先進的連網能力、高效能低功耗運算、裝置上智慧等更多推動行動革新的技術，至新一代橫跨產業的連結智慧裝置。高通的創新以及我們的Snapdragon平台家族，為帶來更大的福祉，將協助實現雲端邊緣的融合、產業轉型、加速數位經濟以及革新我們體驗這個世界的方式。美國高通公司包括技術許可業務（QTL）和我們絕大部分的專利組合。高通技術公司（QTI）是美國高通公司的全資子公司，與其子公司一起營運我們所有的工程、研發活動以及所有產品和服務業務，其中包括半導體業務QCT。Snapdragon和高通品牌產品是高通技術公司和/其子公司的產品。高通專利技術經高通公司授權。