聯發科與阿里聯手,大模型加速“上手機”
2024-03-28 18:00
文本設置
小號
默認
大號
Plus(0條)
《科創板日報》記者獲悉,智能手機芯片廠商聯發科,已成功在天璣9300等旗艦芯片上部署通義千問18億、40億參數大模型,實現大模型在手機芯片端深度適配,讓通義千問在離線情況下依然可以運行多輪AI對話。 | 相關閱讀(科創板日報)
56
董元元
旅居全球各地
這又是端側大模型發展的典型雙贏合作。自從2023年5月份,Google推出了可以在旗艦手機上離線運行的PaLM2輕量版 Gecko。從這一刻起,能夠在端側運行的大語言模型成了廠商們的重要任務。畢竟LLM要落地,移動終端是最好的載體之一,同時端側也有著巨大的市場空間。
于是,廠商們紛紛開啟狂飆模式,踏上LLM的優化之路,要把自家的云端大模型先行裝進手機。也就是在這期間,高通提出了混合Al概念:AI處理必須分布在云端和終端進行,才能實現AI的規模化擴展并發揮其最大潛能。端側的市場規模,加上混合AI趨勢,就連微軟也與Meta 結盟共同推出了可以部署在端側的開源大語言模型 Llama 2。
在人工智能大模型大發展的當下,越來越多的跨界合作成為必然。這次全球最大的智能手機芯片供應商聯發科,與國內最大的AI大模型之一阿里的通義千問強強聯手,無論是增強聯發科芯片本身的產品力,還是幫助通義千問更好的迭代和研發都起到1+1>2的效果。