NVIDIA、AIの推論時代に向けた「Blackwell Ultra」プラットフォームを発表

NVIDIAはAIの推論能力を強化する次世代プラットフォーム「NVIDIA Blackwell Ultra」を発表しました。昨年発表された「Blackwell」アーキテクチャをベースに構築されたこの新プラットフォームは、72個のBlackwell Ultra GPUと36個のArm Neoverse搭載NVIDIA Grace CPUを接続する「GB300 NVL72」と「HGX B300 NVL16」システムを特徴としています。GB300 NVL72は前世代のGB200 NVL72より1.5倍のAI性能を実現し、推論時のテスト時スケーリングを強化することで、AI推論、エージェント型AI、フィジカルAIなどの高度なAIアプリケーションの実行を加速します。また、新たにオープンソースの推論フレームワーク「NVIDIA Dynamo」も発表され、スループットの向上と応答時間の短縮、モデル提供コストの削減を実現します。

https://nvidianews.nvidia.com/news/nvidia-blackwell-ultra-ai-factory-platform-paves-way-for-age-of-ai-reasoning