本文共906字
聯發科（2454）和阿里雲28日聯合宣布，通義千問18億、40億參數大模型已成功部署進天璣9300移動平台，這是通義大模型首次完成晶片級的軟硬適配。
這代表即使在離線狀態下，僅靠手機晶片的算力，用戶也可以透過通義千問完成多輪AI對話，實現AI推理。未來雙方也將基於天璣晶片適配70 億等更多尺寸的大模型。
科創板日報報導，阿里巴巴通義實驗室業務負責人徐棟表示，端側AI是大模型應用落地的重要場景之一，但面臨軟硬體難適配、開發環境不完備等諸多挑戰。阿里雲與聯發科此次完成了大量底層適配及上層開發的系列技術及工程難題，真正把大模型'裝進'手機晶片中，探索端側AI 的晶片模型（Model on Chip）部署新模式。
IT時報報導，自2023年以來，全球兩大手機晶片廠商高通和聯發科，相繼宣布研發出可裝載大模型的晶片。高通3月18日才發表第三代驍龍7+ 行動平台，可以支持Baichuan-7B、Gemini Nano、Llama 2 和智譜ChatGLM 等大語言模型，而聯發科的天璣9300晶片先前也已宣布，支持端側運行70億、130億AI大模型。
晶片廠商對於端測大模型的「給力」支持，是手機廠商的底氣所在。三星、小米、一加、真我realme、夏普等手機廠商先後發表自家的AI手機。
通義千問18億參數開源大模型，推理2048 token最低僅用1.8G內存，是一款低成本、易於部署、商業化友好的小尺寸模型。
目前聯發科和阿里雲雙方團隊已完成了通義千問40億參數大模型與天璣9300的適配，未來還將基於天璣適配70億等更多尺寸大模型，「打樣」並支持開發更多AI智能體及應用，相關成果將以軟體開發工具套件（SDK）的形式提供給手機廠商及開發者。
AI手機已成為手機廠商「翻身」的重要武器。數據顯示，2023年全年大陸智慧型手機市場出貨量約2.71億支，年減5%，創下近10年來最低出貨量。
天璣9300是聯發科的高階晶片，目前大陸國產品牌中採用天璣9300晶片的手機價位大約在人民幣3,000元到5,000元（新台幣1.3萬元到2.2萬元）左右，屬於中高階手機。IDC預測，2024年全球新一代AI手機的出貨量將達到1.7億支。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言