re:Invent 2018:Amazon首次展示Inferentia定制机器学习预测芯片

栏目: 数据库 · 发布时间: 5年前

至顶网软件频道消息: 今天 AWS推出了一款专为机器学习设计的新处理器芯片,这也是Amazon在云计算领域雄心勃勃的另一个标志。

re:Invent 2018:Amazon首次展示Inferentia定制机器学习预测芯片

这款名为Inferentia的芯片将通过AWS EC2计算服务、SageMaker AI服务和 (今天公布的新服务) Amazon Elastic Inference提供,旨在加速由机器学习模型执行的推理或预测过程, Amazon Alexa和自动驾驶汽车等服务提供动力。

Inferentia 芯片是由 Amazon几年前成立的芯片设计公司Annapurna Labs设计,据称它与GPU(主要来自于Nvidia公司,一直是机器学习的首选芯片)相比具有低延迟和低成本等优点。

预计Inferentia芯片 将于明年上市。 AWS首席执行官Andy Jassy在今天上午的re:Invent大会 主题演讲中简要介绍了 Inferentia芯片,但他给出的设计或者规格细节很少,只是说Inferentia芯片支持多种数据类型和所有主流 框架,如 PyTorch和TensorFlow和MXNet。此外它还将提供 数百的 TOPS性能,聚合起来可以实现上千的TOPS性能。

Inferentia 芯片是本周以来 AWS宣布推出第二款芯片。周一晚上,AWS 宣布推出名为 Graviton的处理器,该处理器可通过AWS EC2云计算服务提供给云客户。Graviton是基于智能手机、 网络路由器和各种其他设备中使用的 Arm架构,并将逐渐用于计算机服务器中 ,例如 AWS设计用于海量数据中心的计算机服务器。

Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“AWS宣布将自开自己的支持多种框架的机器学习推理芯片是一个重大的消息。 Google Cloud不同,这项AWS服务将广泛应用并具有弹性。目前AWS针对推理 提供 CPU、GPU、FPGA、以及现在自己的ASIC。”

在过去几年中我们看到,市场中出现了大量新芯片用于特定应用的优化,特别是机器学习和人工智能。例如,Google提供对自定义Tensor处理单元芯片的云访问。芯片设计兴起的一个原因是,所谓的超大规模数据中心企业需要对他们的硬件进行尽可能多的效率优化。

所有这些都让数据中心领导者英特尔处于了守势。英特尔收购了Altera和Movidius等多家公司,为其核心X86产品线增加了新的芯片设计和专业技术。此外英特尔 还调整了 X86芯片(如目前的至强产品线),以更好地应对机器学习和其他任务。

Amazon还发布了Elastic Inference,这是一项 GPU提供支持的深度学习推理加速服务。Jassy表示,这项服务仅根据需要 提供尽可能多的 AWS计算实例,可以节省高达75%的推理成本。

此外,AWS推出了一系列与人工智能相关的服务和产品,包括自主模型汽车Deep Racer,开发者可用来研究强化学习,预订价为249美元。


以上所述就是小编给大家介绍的《re:Invent 2018:Amazon首次展示Inferentia定制机器学习预测芯片》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Learn Python the Hard Way

Learn Python the Hard Way

Zed Shaw / Example Product Manufacturer / 2011

This is a very beginner book for people who want to learn to code. If you can already code then the book will probably drive you insane. It's intended for people who have no coding chops to build up t......一起来看看 《Learn Python the Hard Way》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码

MD5 加密
MD5 加密

MD5 加密工具