6月27日，高通公司AI產(chǎn)品技術(shù)中國區(qū)負(fù)責(zé)人萬衛(wèi)星在2024世界移動通信大會(MWC上海)“人工智能領(lǐng)域的投資、創(chuàng)新與生態(tài)系統(tǒng)發(fā)展”主題會議上發(fā)表題為“終端側(cè)生成式AI的未來” 的演講。

　　  萬衛(wèi)星表示，生成式AI的能力和用例正不斷豐富和擴展，高通通過其創(chuàng)新的SoC系統(tǒng)設(shè)計，憑借面向生成式AI全新設(shè)計的NPU和異構(gòu)計算系統(tǒng)，為終端側(cè)AI規(guī)模化擴展提供了有力支持。

　　  “生成式AI正在從云端遷移到邊緣云和終端側(cè)，未來端云協(xié)同的混合AI將推動生成式AI的規(guī)?；瘮U展。通過在云和邊緣及終端側(cè)之間分配工作負(fù)載，我們提供更強大、更高效和高度優(yōu)化的體驗。”萬衛(wèi)星說，針對新的AI用例和工作負(fù)載，高通重新定義和設(shè)計了SoC，定義了一個專為AI而打造的SoC的系統(tǒng)，推出了高通AI引擎這個異構(gòu)計算系統(tǒng)。高通AI引擎中包含CPU、GPU、NPU，以及超低功耗的高通傳感器中樞。

　　  演講中，萬衛(wèi)星詳細(xì)介紹了高通SoC的異構(gòu)計算系統(tǒng)如何滿足豐富的生成式AI用例的多樣化要求，包括對算力等各種KPI的要求。同時，他還介紹了高算力、低功耗NPU的演進路線，以及如何利用第三代驍龍8移動平臺率先實現(xiàn)多模態(tài)大模型的端側(cè)運行。

　　  去年高通發(fā)布的第三代驍龍8移動平臺，可以支持完整運行100億參數(shù)以上的模型。在AI方面，特別是NPU與前代產(chǎn)品相比有哪些提升?據(jù)萬衛(wèi)星介紹，第一，利用微架構(gòu)升級提供極致性能;第二，手機作為一個集成度非常高的產(chǎn)品，其功耗一直都是需要重點解決的問題，因此高通為NPU設(shè)置了加速器專用電源，實現(xiàn)了更加出色的能效;同時，高通還升級了微切片技術(shù)，在算子深度融合層面充分釋放硬件算力和片上內(nèi)存。除此之外，其他的提升和改進還包括更大的帶寬、更高的主頻等，從而打造出擁有卓越AI性能和能效的SoC。

　　  “從參數(shù)量級的角度來說，2024年及以后我們將有望看到更多100億參數(shù)以上的大模型在端側(cè)運行，并帶來較好的用戶體驗。”萬衛(wèi)星說。

　　  除提供手機SoC，高通也涉足汽車、PC、物聯(lián)網(wǎng)、XR等領(lǐng)域，高通AI軟件棧已經(jīng)賦能其所有產(chǎn)品線的絕大多數(shù)AI平臺。“這就意味著，我們的合作伙伴和開發(fā)者朋友們，只要在高通的一個平臺上完成模型的部署，就可以非常方便地遷移到高通的其他產(chǎn)品線。”萬衛(wèi)星說。

　　  另據(jù)萬衛(wèi)星介紹，除了提供領(lǐng)先的硬件和靈活的軟件之外，高通也在構(gòu)建AI生態(tài)系統(tǒng)，支持國內(nèi)外廣泛的終端側(cè)生成式AI模型，持續(xù)推動AI技術(shù)的發(fā)展和創(chuàng)新。

　　【責(zé)任編輯:周靖杰】

論道人工智能如何變革半...

最后一頁