Adlik 喊你来体验 Cheetah 版本啦!

栏目: 软件资讯 · 发布时间: 1个月前

来源: 开源中国社区

内容简介:Adlik 项目的 Cheetah 版本发布啦! Adlik 是由中兴通讯向 Linux 基金会 AI&Data 基金会捐献的一个开源项目,旨在为深度学习落地提供一个简单有效的工具,加速深度学习模型在不同部署环境下的推理速度。Adlik 中通...

本文转载自:https://www.oschina.net/news/147556,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有。

Adlik 喊你来体验 Cheetah 版本啦!

Adlik 项目的 Cheetah 版本发布啦!

Adlik 是由中兴通讯向 Linux 基金会 AI&Data 基金会捐献的一个开源项目,旨在为深度学习落地提供一个简单有效的工具,加速深度学习模型在不同部署环境下的推理速度。Adlik 中通过模型编译器、模型优化器来优化深度学习模型并根据具体的硬件环境完成模型的编译,然后由推理引擎实现模型在云、边、端等环境下的运行。

相较于上个版本,Adlik 做了很多优化,在 MLPerf 的测试中有不错的表现。看看下面的新特性,哪个是你感兴趣的呢?快来下载体验,期待你的反馈哦。

模型编译器 Model Compiler

  • Adlik 编译器扩展支持多种新的深度学习框架,包括 PaddlePaddle、Caffe 和 MxNet

  • Adlik 编译器目标模型格式扩展支持 TVM

  • 编译器支持 OpenVINO 量化

  • 支持 TVM 自动搜索,通过重新规划调度模板,采用全局自动调度搜索方案,对 Resnet50 模型进行优化,推理时延在x86 CPU 下略优于 OpenVINO(基于 MLPerf 测试结果)

模型优化器 Model optimizer

  • Yolo V4 模型优化

  • Resnet-50 最新剪枝,蒸馏,量化等优化,模型大小压缩 93%,精度 76%,推理时延 1.33ms(MLPerf测试),8 核推理比原始模型提升 5.0x,单核提升 10.7x

推理引擎 Inference Engine

  • 支持 TVM TF-TRT 运行时

  • 云原生镜像发布 0.3 版本,支持引擎各组件最新版本:

–   OpenVINO:2021.1.110版本

–   TensorFlow:2.4.0

–   TensorRT:7.2.1.6

–   TFLite:2.4.0

–   TVM:0.7

Benchmark Test

  • 支持 Paddle 模型的性能测试,包括 Paddle OCR、PP-yolo、PPresnet-50


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

关注码农网公众号

关注我们,获取更多IT资讯^_^


查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

CSS商业网站布局之道

CSS商业网站布局之道

朱印宏 / 清华大学出版社 / 2007-1 / 75.00元

本书是一本CSS技术专著。 主要从布局角度全面、系统和深入地讲解CSS在标准网站布局之中的应用。很多读者经过初步的学习之后就能够使用CSS设计出一些漂亮的网页样式,于是便乐在其中,踌躇满志,这是好事,但千万不要自我陶醉,因为你还未领略CSS的博大精深。用CSS容易,难的是全部都用CSS。CSS的精髓是布局,而不是样式,布局是需要缜密的逻辑思维和系统设计的,而样式只需要简单地编写代码或复制即可。本书......一起来看看 《CSS商业网站布局之道》 这本书的介绍吧!

SHA 加密
SHA 加密

SHA 加密工具

XML、JSON 在线转换
XML、JSON 在线转换

在线XML、JSON转换工具

XML 在线格式化
XML 在线格式化

在线 XML 格式化压缩工具