輝達(Nvidia Corp.)揭露最新高階人工智慧(AI)繪圖處理器(GPU)「H200」(見圖)、產出速度幾乎是前一代H100的兩倍快,股價逼近歷史最高峰。
MarketWatch、CNBC等外電報導,輝達13日發布新聞稿宣布,H200搭配14GB的次世代「HBM3e」記憶體,能協助執行「推論」(inference)功能。所謂推論,是指運用訓練過的大型語言模型(LLM)生成文字、影像或預測。
輝達指出,以臉書(Facebook)母公司Meta Platforms, Inc.的開源軟體AI模型「Llama 2」測試後,發現H200協助推論的速度幾乎是H100兩倍快。另外,H200將與H100相容,意味著已開始運用H100訓練先前AI模型的業者,不需要變更伺服器系統或軟體規格,就可直接使用H200。
輝達並表示,明(2024)年起,亞馬遜網路服務(Amazon Web Services)、Google Cloud、Microsoft Azure及Oracle Cloud Infrastructure將是第一批佈署H200的雲端服務提供商,CoreWeave、Lambda及Vultr也會加入。
H100、H200都是基於輝達Hopper架構。根據輝達10月聲明,由於GPU需求高漲,未來將從兩年更新一次架構的形式改為一年一次。輝達並展示一張簡報,暗示2024年將發表基於Blackwell架構的B100。
H200預定2024年第二季開始出貨,競爭對手是超微(AMD)的MI300X GPU。MI300X同樣添加額外記憶體,可協助大型AI模型執行推論功能。
輝達13日股價應聲上漲0.59%、收486.20美元,已連續第9個交易日走揚,逼近8月31日的歷史收盤新高(493.55美元)。Dow Jones Market Data數據顯示,這是輝達自2016年12月27日連漲10個交易日以來,最為綿長的漲勢。
(圖片來源:輝達)
轉載;鉅亨
歡迎私訊洽詢喔~
LINE ID: 0937001538
大昌證券股份有限公司樹林分公司
營業員 : 廖維凌
聯絡電話: (02)26756126
手 機: 0937-001-538
Line ID: 0937001538
公司地址:新北市樹林區復興路11號1樓
109年金管證總字第0002號
委任期貨商:大昌期貨股份有限公司
網路系統下單有一定風險,請交易人參考,並特別留意控管
留言列表