PyTorch 1.0 首个 RC 版本发布,包含大量重要特性

栏目: Python · 发布时间: 5年前

内容简介:PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

PyTorch 1.0 首个 RC 版本已发布,这是一个预览版本,包含 1.0 即将到来的大量重要特性。

亮点

JIT

这是一套编译器工具,用于弥合 PyTorch 研究与生产之间的差距。 它包含一种名为 Torch Script 的语言(它是 Python 的一个子集,所以编写的仍然是 Python),以及两种可以使现有代码与 JIT.Torch Script 代码兼容的方法。

使用 Torch Script 的代码可以实现非常大的优化,并且可以序列化以供在后续的 C++API 中使用。

# Write in Python, run anywhere!
@torch.jit.script
def RNN(x, h, W_h, U_h, b_h):
  y = []
  for t in range(x.size(0)):
    h = torch.tanh(x[t] @ W_h + h @ U_h + b_h)
    y += [h]
  return torch.stack(y), h

torch.distributed new "C10D" library

新增全新异步后端库 C10D, 支持  torch.distributed  包和  torch.nn.parallel.DistributedDataParallel  模块。该库的亮点包括:

  • C10D 是由性能驱动,完全异步所有的后端工作: GlooNCCL ,和  MPI

  • 显著的分布式数据并行性能改进,尤其适用于基于以太网的主机等较慢的网络。

  • torch.distributed 包中的所有分布式集合操作添加异步支持。

  • 在 Gloo 后端添加 send 和  recv 支持。

C++ Frontend [API Unstable]

C++前端是连接 PyTorch 后段的纯 C++接口,它遵循已建立的 Python 前端的 API 和体系结构,旨在实现高性能、低延迟的 C ++ 应用。它提供了等价于 Python 前端所采用的 torch.nntorch.optimtorch.data 等组件。

完整更新内容请查阅发行说明:

https://github.com/pytorch/pytorch/releases/tag/v1.0rc0


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

操作系统基础教程

操作系统基础教程

戴维斯 / 第1版 (2006年7月1日) / 2006-7 / 34.0

这是一本关于操作系统基本原理的教科书,其最大特点就是从操作系统的分层概念出发,深入浅出地介绍了操作系统的基本概念和基本框架。本书可以作为高等院校非计算机专业相关课程的教材或参考书,也适合具有高中以上数学基础的计算机用户自学,还可以作为社会上计算机培训机构的教材。对所有想了解计算机操作系统,但又不需要或不打算深入学习其理论和实现细节的读者来说,本书是一本极具价值的入门指导书。一起来看看 《操作系统基础教程》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

CSS 压缩/解压工具
CSS 压缩/解压工具

在线压缩/解压 CSS 代码

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具