科技 > 谷歌推出第五代AI芯片 训练和运行速度提高5倍 有何提升

谷歌推出第五代AI芯片 训练和运行速度提高5倍 有何提升

2023-08-31 14:41阅读(166)

8月29号谷歌在年度云会议上推出了最新的人工智能芯片,这块人工智能芯片也被定义为第5代处理器芯片,这块芯片与上一代芯片的不同之处主要是在于大模型训练以及推

1

8月29号谷歌在年度云会议上推出了最新的人工智能芯片,这块人工智能芯片也被定义为第5代处理器芯片,这块芯片与上一代芯片的不同之处主要是在于大模型训练以及推理方面的区别,这是专门针对于神经网络而设计的芯片,在运用之后可以加快机械在学习模型当中的训练以及推断速度,以此来提高原有的进程,机械在学习的时候需要一个漫长的过程,而这一个芯片的植入能够将这一个漫长的过程大幅度的缩小,使原有的效率提升5倍之多。

这块全新的芯片主要的客户群体也是一些需要大语言模型跟药物研发的企业,这些企业需要由ai来进行工作,可是在工作期间却会消耗大量的时间以及资金成本,这块芯片能够将原有所消耗的资金以及时间节省下来,其次它里面能够支持8种不同的虚拟机配置,因此客户可以选择企业所需的配置来进行调配,也能够调整为企业所需的生成式AI模型,这块芯片的公布也将会把 TPU集体扩展到以前无法想象的高度,也给客户提供了更多的选择性。

此外这块芯片在研发的成本上面也不到上一代芯片的一半,因此大批量的采购能够节省更多的材料以及制作成本,整体上来看这块芯片无论是在平衡性能以及灵活性,都要远远优越于上一代芯片,里面能够支持250个芯片相互连接以及聚合,使得其宽带运转的速率能够达到400tb每秒,在使用方面也变得更加的简单里面还可以大肆去扩展原有的领域服务,也能够让客户更加轻松的去完成自己在机械模型上的训练任务。