英伟达AI芯片H200性能提升60%-90%,开始供货

科技 2024-03-28 18:34 阅读:18

英伟达最新的尖端图像处理半导体H200已经开始供货,这款面向AI领域的半导体性能超越了之前的主打产品H100。根据英伟达公布的性能评测结果,以Meta公司旗下大语言模型Llama 2处理速度为例,H200相比于H100,生成式AI导出答案的处理速度最高提高了45%。

市场调研机构Omdia曾表示,2022年英伟达在AI半导体市场约占据了80%的份额,而竞争对手AMD等也在加大对抗英伟达的产品开发力度,竞争日益激烈。英伟达在最新的开发者大会上宣布,将推出新一代AI半导体B200,该产品与CPU组合,用于最新的LLM上,性能比H100提升了30倍,成本和能耗也大幅降低。

英伟达的GB200采用了新一代AI图形处理器架构Blackwell,据称性能更加强大。而H200作为英伟达的“Hopper”架构的继任者,是第一款使用HBM3e内存的芯片,内存速度更快,容量更大,更适合大型语言模型。相比前代H100,H200的性能直接提升了60%到90%。英伟达表示:“借助HBM3e,H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍,带宽增加了2.4倍。”

可以看出,英伟达的AI芯片H200在性能上有着明显的提升,为用户带来更加高效的处理体验。随着技术的不断进步,相信英伟达在AI领域的地位将会更加稳固。