Qualcomm

Qualcomm AI Hub針對搭載Snapdragon的PC擴展裝置上AI應用支援

 

2024-05-23 19 55 17.jpg

 

亮點:

  • Qualcomm AI Hub現已擴展至支援Snapdragon X系列平台,使開發人員能夠輕鬆利用筆記型電腦中同類型最佳的CPU和全球最快的NPU,為新一代Windows PC建立反應靈敏且高效能的裝置上生成式AI應用程式。
  • 除了不斷增加的預先最佳化AI模型庫之外,開發人員現在也可以使用Qualcomm AI Hub最佳化自己的模型,增加彈性和客製化,同時加快開發週期。

 

【2024年5月21日,聖地牙哥訊】- 在微軟Build 2024開發者大會上,高通技術公司宣布Qualcomm AI Hub擴展支援Snapdragon X系列平台,為開發人員縮短產品推出上市時間,在新一代Windows PC發揮裝置上生成式AI的優勢。

此外,開發人員現在可以導入自己的AI模型,無縫最佳化後直接在裝置內運行。在裝置上運行AI模型的能力提供顯著的優勢,包括更出色的反應能力、增強隱私性與可靠性,以及為使用者提供更個人化的體驗。

 

高通技術公司資深副總裁暨技術規劃與邊緣解決方案總經理Durga Malladi表示:「透過Qualcomm AI Hub支援Snapdragon X系列平台,我們提供開發人員彈性和強大功能,為新一代Windows PC創造創新的AI應用程式。我們致力於為開發人員提供所需的工具和資源,充分釋放裝置上生成式AI的潛力。」

 

Qualcomm AI Hub是開發人員取得資源、工具和服務的途徑,以實現出色的裝置上AI效能,並擁有不斷增加的模型庫,其包含100多個預先最佳化的AI模型,並同步在Hugging FaceGitHub推出。

此外,Qualcomm AI Hub現在允許開發人員「自帶模型」(Bring Your Own Model ,BYOM),能夠專門針對 Snapdragon 和 Qualcomm 平台上傳、最佳化和編譯模型,包括支援PyTorch、TensorFlow和ONNX等所有主要框架。

開發人員可以在不到五分鐘的時間內,利用幾行程式碼輕鬆在雲端託管裝置上測試和驗證模型。簡化模型最佳化和驗證流程後,開發人員可以節省寶貴的時間和精力,加快開發和部署週期,協助加快迭代速度。

 

2024-05-23 19 55 24.jpg

 

全球領先的PC OEM廠商,包括宏碁、華碩、戴爾、惠普、聯想、微軟Surface 和三星,計劃推出搭載Snapdragon X Elite和/或X Plus運算平台的PC,讓開發人員能夠使用Qualcomm AI Hub為此新世代裝置帶來出色的體驗。

 

Snapdragon X系列平台支援廣泛的AI開發工具。
由於與 ONNX RuntimeHugging Face Optimum深度整合,以及對Llama.cpp的支援,開發人員現在可以在Snapdragon X系列平台上運行數千個模型,建立豐富的AI驅動Windows應用程式。

開發人員也可以在 DeepLearning.AI與高通技術公司合作提供的線上課程中學習裝置上AI,以及如何在自家的應用程式中導入裝置上AI。欲了解最新動態,請訂閱高通的每月開發者電子報

 

延伸影片閱讀:  
Previous post

高通推出針對Windows的Snapdragon開發者套件, 加速Copilot+ PC的發展

Next post

聯想CEO楊元慶:AI PC可望在3年內從高階走向主流

The Author

kimi

kimi