帳號:
密碼:
CTIMES/SmartAuto / 產品 /   
Amazon採用NVIDIA T4 GPU 將人工智慧效能搬上雲端
 

【CTIMES/SmartAuto 報導】   2019年09月23日 星期一

瀏覽人次:【727】
  

猶如真人般的自動化客服內容、在任何連網裝置上都能享受到專業工作站的運算效能及電影畫質般的PC遊戲,如今北美、歐洲及亞洲地區的AWS雲端用戶,也能透過全新Amazon EC2 G4執行個體享受到NVIDIA T4 Tensor 核心 GPU所帶來的多樣功能。由廣泛的軟體堆疊支援的NVIDIA T4 GPU能提供G4執行個體用戶高效能、具多功能性與高效率的運算。

此軟體平台已經針對豐富的應用進行優化,包括運用於深度學習的NVIDIA cuDNN、運用於資料分析與機器學習的NVIDIA RAPIDS、運用於雲端工作站繪圖的NVIDIA Quadra虛擬工作站,和運用於雲端遊戲的NVIDIA GeForce。經NVIDIA優化後的軟體堆疊亦包括多款API、CUDA及用於特定領域的CUDA-X函式庫,像是TensorRT、NCCL、OptiX及Video Codec SDK。

AWS運算服務部門副總裁Matt Garman表示:「我們把重心放在解決最嚴峻的難題上,這些難題使得客戶無法妥善發揮運算密集型應用程式的優點。AWS 提供最全面的產品組合用於建立、訓練和部署機器學習模型,透過 Amazon EC2各式各樣最佳化執行個體類型來滿足不同的機器學習使用案例。透過T4 GPU支援的全新G4執行個體,開發人員可以用更平價的方式進行機器學習。」

花更少力氣 做更多AI

NVIDIA重新打造推出NVIDIA T4這款第二代Tensor核心GPU,在維持CUDA可編程特性的同時,又能達到AI應用項目的最高效能。

NVIDIA T4的INT8運算效能高達130 TOPS,具有混合精度張量處理能力,這是加快因應AI應用項目如影像分類、物體偵測、自然語言理解、自動語音辨識及推薦系統等,不斷發展之創新性、多樣性及複雜性所必需的能力。

Amazon是業界運算速度最快的超大規模業者之一,提供NVIDIA GPU以支援即用型NVIDIA NGC容器進行訓練和推論。EC2 P3 執行個體搭配NVIDIA V100 Tensor核心GPU,使得客戶可以使用自動混合精度功能,將訓練機器學習的時間,從原本的數日減少到只需數小時便可完成。客戶使用EC2 G4執行個體,就能大規模部署AI服務,又能大幅減少營運成本。

加上我們日前宣布與VMware的合作,使用VMware Cloud on AWS這項服務的客戶很快就能享受全新且極具擴充性和安全性的雲端服務,該雲端服務由NVIDIA T4 GPU以及我們全新的NVIDIA Virtual Compute Server (vComputeServer)軟體加速的Amazon EC2裸機執行個體所組成。

企業可以藉由此企業級的混合式雲端平台,加快應用程式現代化,並從資料中心到AWS雲端環境一致的VMware基礎設施之間,執行統一的部署、遷移和操作等作業,以支援AI、機器學習和資料分析等這些最需要密集運算的工作內容。

隨時隨地採用即時光線追蹤及AI增強繪圖功能

電腦繪圖領域一直以來不斷追求著「即時光線追蹤」這個至高無上的聖杯,這項技術能夠產生出畫面極為逼真的場景。設計師與藝術家可以運用即時渲染、AI增強繪圖功能、影片與影像處理等技術,以一種嶄新方式創作出畫面栩栩如生的內容。

NVIDIA T4 是首款部署在雲端環境裡的 NVIDIA RTX 光線追蹤 GPU。T4 GPU 內專用的運算資源 RT Core,會用超高效率來計算光線追蹤,如此一來便能捨棄過去昂貴的光線追蹤方法。

新款 G4 執行個體結合NVIDIA Quadro 虛擬工作站(Quadro vWS)與Amazon Machine Images (AMI),以支援最新的光線追蹤API,包括Microsoft DXR、NVIDIA OptiX以及Vulkan。不論是媒體娛樂、建築、製造、石油和天然氣等業界的技術與創意專業人士,皆可以在AWS雲端環境裡運行最新的繪圖軟體應用程式。

在不到五分鐘的時間內,便可使用AWS來部署虛擬工作站。只要開啟AWS Marketplace、選擇NVIDIA Quadro vWS機器影像和G4執行個體,就能在Windows Server 2016與Windows Server 2019上使用。

GPU助力的雲端遊戲

T4 GPU背後的Turing架構也將NVIDIA在遊戲方面的強勁實力帶到AWS,這麼一來便能使用GPU的硬體編碼器引擎,對要求最嚴苛的遊戲進行渲染和串流,還能使用Video Codec SDK來設計這個硬體編碼器引擎的程式碼。

遊戲發行商可以使用最新的NVIDIA技術來建立自己的雲端遊戲執行個體,玩家幾乎可以在所有裝置上取得完整的PC遊戲目錄。

遊戲玩家可以在高解析度的狀態下,用高速、流暢的影格率來暢玩各種最新遊戲,不用擔心硬體是否需要升級、驅動程式是否需要更新或遊戲修補內容的問題。

可以在AWS Marketplace取得支援這項功能的NVIDIA驅動程式,並且在Windows Server 2016、Windows Server 2019及Linux OS上運行AWS G4執行個體。

從AWS EC2 G4執行個體開始著手

Clarifai、Electronic Arts、GumGum以及PurWeb是首批使用Amazon EC2 G4執行個體的客戶,以利用NVIDIA T4的多種運算能力及出色效能,大規模運行各種需要進行密集運算的工作。兩者在這方面皆提供強大的服務,又協助自己的客戶降低建構及部署這些服務的成本。

在接下來的數週內,G4 執行個體還將支援Amazon Elastic Inference,讓使用者能將GPU加速加入任何Amazon EC2或Amazon SageMaker執行個體中,以更低的成本在更短時間內進行推論,其省下的幅度高達75%。

關鍵字: 人工智慧  雲端  Amazon  NVIDIA 
相關產品
Western Digital推出專為公共安全與智慧城市應用優化的儲存裝置
NVIDIA推出尺寸最小的邊緣AI超級電腦Jetson Xavier NX
嵌入式與視覺運算的智慧應用入門 安提國際推出MXM模組開發套件
是德推出前向誤差修正感知實體層測試系統 加快部署400GE裝置的步伐
安森美推出高速影像感測器ARX3A0 超低功耗30萬畫素
相關討論
  相關新品
Arduino Motor Shield
原廠/品牌:RS
供應商:RS
產品類別:PC Board
mbed
原廠/品牌:RS
供應商:RS
產品類別:PC Board
Arduino
原廠/品牌:RS
供應商:RS
產品類別:PC Board
  相關新聞
» 18家台灣AIoT業者前進日本嵌入式&物聯網技術大展
» 陳良基接見NVIDIA首席科學家William J. Dally 深化AI合作布局
» Wi-Fi塞車掰掰 HEW將密集環境使用者傳輸率提升四倍
» 鎧俠株式會社推出業界首款512GB汽車UFS
» 2019台灣羅德史瓦茲年度科技論壇 探索5G無限可能
  相關文章
» 非揮發性記憶體暫存器:新一代數位溫度感測器安全性和可靠性大躍進
» 強化學習:入門指南
» 車聯網通訊服務之來龍去脈
» 使用各類感測器開發視覺系統:在嵌入式應用中整合圖像、雷達、ToF感測器
» 新世代變頻器-數位化、強固性、高整合能力
  相關資源
» Power Management Solutions for Altera FPGAs

AD

刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2019 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北市中山北路三段29號11樓 / 電話 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw