本文共642字
ChatGPT和其他人工智慧(AI)產品正紅,輝達趁勢推出新晶片、高速運算服務,並公布一系列備受矚目的合作夥伴關係,展示其技術將如何推動AI有下一波突破。
輝達周二舉行年度開發者大會,執行長黃仁勳將該公司定位為推動「AI領域iPhone時刻」的引擎。他表示,「生成式AI將重塑幾乎所有產業」。
輝達的繪圖處理器(GPU)已經成為ChatGPT及其同類產品背後的大腦,協助消化和處理數量愈來愈大的訓練資料。微軟上周透露,它的數據中心裡使用數萬個輝達A100 GPU,為開發ChatGPT的OpenAI處理運算工作。
其他科技巨擘也為了滿足AI的需求,跟進建立龐大的雲端雲基礎架構:甲骨文(Oracle)宣布它的平台使用16,000個輝達H100;輝達說Amazon Web Services將擴大串聯高達20,000個H100;微軟也將開始添加採用H100。
這種串聯大量晶片的超級群組是輝達透過DGX Cloud新方案,出租高速運算服務的其中一環。輝達說,要讓AI超級電腦的資料存取就像打開網頁一樣簡單,各公司毋須耗費高成本自行裝設和管理基礎架構,就能自行訓練其模型。DGX Cloud服務每月每個運算資源規格自36,999美元起跳。
輝瑞也宣布兩款新晶片,一款聚焦強化AI影片效果,另一款則是H100升級產品,叫做H100 NVL,專門用來提升大型語言模型的部署,在處理AI回應問題的推論時,運算速度是前一代A100的12倍。
延伸閱讀
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言