亚马逊AWS推出机器学习定制芯片 明年上半年面世

12月2日据Techcrunch今日报道,在年度re:Invent开发者大会上,亚马逊AWS宣布推出AWS Trainium,这是该公司专门用于训练机器学习模型的下一代定制芯片。这些新芯片将于2021年上半年在AWS云中首次亮相。
亚马逊承诺,它可以提供比云端任何竞争对手更高的性能,支持TensorFlow、PyTorch和MXNet。AWS承诺,与标准的AWS GPU实例相比,其吞吐量提高了30%,单位成本降低了45%。它将作为EC2实例和该公司的机器学习平台Amazon SageMaker内部提供。
此外,AWS还与英特尔合作,推出基于Habana Gaudi的EC2实例,用于机器学习训练。AWS承诺,与当前一套基于GPU的机器学习EC2实例相比,性价比最高可提高40%。
这两款新产品是对AWS Inferentia的补充,该公司在去年的re:Invent上推出了该产品。Inferentia是与这些机器学习作品相对应的推理产品,它也使用了定制芯片。
据悉,借助其定制的Inferentia芯片,亚马逊AWS减少了对以前使用的NVIDIA图形处理器的依赖。亚马逊近期表示,它已将大部分处理工作从其个人助理Alexa转移到了自己定制设计的专用集成电路(ASIC)芯片上,目的是使所有工作更快,更便宜,然后改善计算机的性能。
亚马逊开发人员SebastIEN StoRMAcq在博客文章中写道,将AWS Inferentia用于某些Alexa技能可将延迟时间缩短25%,成本估计便宜30%。(来源:电商报)