英伟达GH200首次亮相AI性能基准评测 比H100的性能提升17%

在美国当地时间2023年9月11日，正式推出时间还不及两个月的英伟达GH200 Grace Hopper超级芯片首次在MLPerf行业基准测试亮相，最终的测试结果指出，拥有更高内存宽带和更大内存储量的超级芯片GH200比H100 GPU性能提升了17%。 在新闻发布会中英伟达人工智能总监戴夫·萨尔瓦托表示Grace Hopper的表现极为出色，首次测试中性能就已经高出了H100 GPU17%，而英伟达公司旗下的H100 GPU本身就是同行业中领先的产品。MLPerf是全球范围内知名的国际人工智能性能基准评测，推理性能评测主要包括6个主要的人工智能使用场景，比如视觉，自然语言，处理系统和语音识别等等，每一个场景中都会使用目前最为主流的人工智能模型作为测试的对象，每一个任务会分为两类场景，分别是数据中心和边缘。MLPerf是由MLCommons开发，MLCommons是来自于研究实验室学术界和人工智能专家所组成的联盟。 MLPerf Inference v3.1基准测试是在2023年4月份发布3.0版本以后的进一步更新，在本次最新更新版本的内容中出现了两个第1次，接入了60亿参数大语言模型GPT-J的推理基准测试和经过改进以后的推荐模型。GPT-J是OpenAI公司旗下 GPT-3的开源替代品，现在已经接入MLPerf中成为评判推理性能的标准。和目前业内最先进的人工智能模型相比，60亿参数仍属于轻量的模型，不过在评判推理性能方面完全足够。 GH200 Grace Hopper超级芯片在本次测试中取得了极其优异的成绩，离线和服务器场景中加速性能都达到了业内的最高水平。根据英伟达公司官方介绍，GH200 Grace Hopper超级芯片就是专门为计算和内存比较密集的工作研发的，在工作负债方面拥有更加强大的性能。