速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

栏目: IT技术 · 发布时间: 3年前

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

OPEN AI LAB(开放智能)于7月6日正式开源拥有自主知识产权的全新下一代AI端侧推理框架Tengine-Lite。作为Tengine整体软件架构重构的全新下一代产品,Tengine-Lite的推出不仅为开发者提供了整套便捷的MCU AI开发工具,还为嵌入式AI软件产业建立了开放的开发生态平台。

基于纯C代码重新搭建的更简洁、高效、代码可读性更好的Tengine-Lite,可以说将轻量化无依赖做到了极致。特别适合在各种软硬件资源受限的嵌入式环境下使用部署轻量的AI算法模型,并可用于 语音、视觉 等多种场景。

AI风口下,新秀Tengine-Lite C位出道,都有哪些不容错过的看点呢?

Tengine-Lite,驱动最强大脑

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

越来越多的手机市场用户,会在意APP的大小。 当然,IoT领域用户也不例外。 在低功耗的浪潮下,芯片越来越倾向于片上SRAM与Flash的结构。 Tengine-Lite二进制文件库(包括.a静态库与.so的动态库)大小急剧减小,以.so动态库为例,Tengine-Lite库文件大小相较Tengine,减小非常显著。

目前安卓的库大小在1MB以内,Linux版本在500KB以内。

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

Tengine-Lite,独具高效思维

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

Tengine-Lite采用前后端松耦合设计,框架和计算库采用Plug-in,可以更好地保证后续异构后端的灵活挂载。 同时,Tengine-Lite高效的运作思维,使得源代码编译时间大幅缩减,极大的增强了用户代码编译的体验感。

Tengine-Lite,给你“稳稳的幸福”

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

性能抖动会对嵌入式平台和手机平台的系统性能设计、用户使用体验带来较大影响。考虑到这一点,Tengine-Lite在单核、双核、多核的性能稳定性方面,相较Tengine有明显提升。

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

Tengine-Lite,用智慧“流畅运行”

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

目前,Tengine-Lite是市面上唯一可在各种嵌入式操作系统上运行的AI计算框架。不但可以在FreeRTOS\RTT\Lite-OS等极简的实时操作系统或裸机Bare-matel上运行,还可以在MCU、RISC-V等低功耗、资源极为有限的IoT芯片主控上运行。

架构重构后兼容性方面,也是用户比较关心的。现有以下四点说明:

1、 NNIR模型格式保留现有tmfile格式,兼容当前应用,用户现有tmfile模型可以无缝切换到新的Tengine-Lite上运行;

2、 编译方式统一,采用CMake进行编译管理,并将新增一些编译配置选项(新功能和新特性);

3、 依旧提供.so动态库和.a静态库形式,若想不修改代码可以通过rename库文件的方式进行代码复用;

4、 保留绝大多数常用API不变,会增减部分API。原则是删减对用户无效或极少使用的API,新增API主要是功能性的,更改的API是提升用户反馈的易用性;当然也会提供API修改对比文档。

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

Tengine开源3年来,表现可圈可点。相信此次“后浪”Tengine-Lite开源,定会在保持原有优势项的基础上,不断精进,继续为海量AIoT应用和设备提供高性能AI推理的技术支持,赋能万物,万物智能!

另外再介绍两个工作:

1、 OPEN AI LAB AIoT智能开发平台Tengine与OpenCV合作共同加速边缘智能

下图展示了Arm CPU上提速情况,可以看出速度最快可以翻倍!使用Arm平台开发产品的工程师,可以降低产品的硬件成本了!

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

OpenCV4.3.0 Change Logs

https://github.com/opencv/opencv/wiki/ChangeLog#version430

Tengine开源版本

https://github.com/OAID/Tengine

2、 TengineKit开源人脸分析应用

TengineKit为开发者提供了以下功能:

  • 人脸检测

  • 人脸关键点检测

  • 人脸属性识别:性别,年龄,是否戴眼镜,是否微笑,颜值

TengineKit在不同CPU下的耗时

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

demo:

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

视频展示:

人脸分析模型请在官方QQ群下载。

如果您想了解更多Tengine-Lite的功能、应用信息,请扫描下面的二维码加入技术交流QQ群,有数位行业大佬坐镇,随时与我们沟通。

Tengine-Lite 开源链接

https://github.com/OAID/Tengine/tree/tengine-lite

支持国产!欢迎大家Star、Watch、Fork三部曲

速度快、模型小,加成OpenCV,自带人脸分析!端侧推理新选择Tengine-Lite

QQ群号:829565581


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

产品的视角:从热闹到门道

产品的视角:从热闹到门道

后显慧 / 机械工业出版社 / 2016-1-1 / 69.00

本书在创造性的提出互联网产品定义的基础上,为读者提供了一个从0基础到产品操盘手的产品思维培养方法! 全书以互联网产品定义为基础,提出了产品思维学习的RAC模型,通过认识产品、还原产品和创造产品三个阶段去培养产品思维和产品认知。 通过大量的图片和视觉引导的方法,作者像零基础的用户深入浅出的描绘了一条产品经理的自我修养路径,并且提供了知识地图(knowledge map)和阅读雷达等工具,......一起来看看 《产品的视角:从热闹到门道》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

RGB HSV 转换
RGB HSV 转换

RGB HSV 互转工具

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具