本文共1052字
聯發科(2454)衝刺AI市場再出招,昨(9)日宣布以輝達(NVIDIA)的超級電腦,搶進生成式AI服務,打造出當下地表最強的繁體中文大型語言模型,參數模型高達450億個,能力超越GPT-3.5,並廣發英雄帖加入,積極擴大生態圈夥伴,合力把餅做大。
迎接AI浪潮,聯發科除了使自家晶片支援生成式AI功能,也同時開啟另一扇門,提供企業開發與導入生成式AI服務的平台。
聯發科昨天舉行生成式AI論壇,宣布推出生成式AI服務平台「MediaTek DaVinci」,也暱稱為「聯發科技達哥」,同時讓其最新繁體中文大型語言模型MR BreeXe亮相。
聯發科催生的達哥平台,簡言之就是當企業想把生成式AI導入到公司內部工作流程,或是對外部提供的服務中,此平台提供可選擇方案與可插入的模組功能為基礎,然後可匯入企業專有的數據資料,來共同組成為企業量身訂做的生成式AI平台方案。
聯發科表示,MediaTek DaVinci提供高整合度、高擴展性的開放平台,讓開發者可為各行業開發客製化生成式AI擴充外掛、助理等應用。
聯發科人工智慧暨數據工程處協理葉家順強調,MediaTek DaVinci可解決許多企業在採用生成式AI時的痛點,讓各行各業在確保資訊安全的環境下,可善用已有強大基礎的平台開發專屬的生成式AI應用。隨著更多企業與開發者加入MediaTek DaVinci生態系,相信MediaTek DaVinci的能力將持續爆發性成長。
同時,MediaTek DaVinci 支援各類大語言模型,包含聯發科自家聯發創新基地最新釋出的繁體中文大語言模型MR BreeXe。
聯發科提到,MR BreeXe有節省運算資源、提升速度等優勢,再加上聯發創新基地的預訓練(pre-training)之後,不但在繁體中文測試項目超越GPT-3.5,並對台灣常見的地端應用特別進行優化,提升產業界使用生成式AI 與檢索增強生成(RAG)的體驗。
聯發科舉例說,「母湯」這個用詞,其實是由「不可以」的台語音譯而來,在其他模型可能難以理解,但MR BreeXe對於台灣獨有用詞的運用,就勝過其他所有已知的模型。而且MR BreeXe的長內文功能,可以處理高達4萬個字。
聯發科並提到,MR BreeXe是在輝達的Taipei -1 GPU超級電腦DGX H100上進行訓練,透過MediaTek DaVinci,支援全地端與部分地端的布設場景,並可依需求進行多樣本學習,甚至微調客製化。
延伸閱讀
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言