安防创新百人会丨深耕高性能计算,比特大陆如何制定ASIC芯片终极方案

栏目: 编程工具 · 发布时间: 5年前

内容简介:当前,安防市场的热度有增无减,随着人、车、物识别水平的不断提高,安防市场场景落地的广度、深度以及精确度越发成熟和完善。而AI芯片作为安防产业链的上游端,相较于中游的产品生产商和软硬件提供商,智能化的更迭速度更快应用性更强,除了传统安防类公司,也引起越来越多的新兴科技公司进行逐鹿。

安防创新百人会丨深耕高性能计算,比特大陆如何制定ASIC芯片终极方案

当前,安防市场的热度有增无减,随着人、车、物识别水平的不断提高,安防市场场景落地的广度、深度以及精确度越发成熟和完善。而AI芯片作为安防产业链的上游端,相较于中游的产品生产商和软硬件提供商,智能化的更迭速度更快应用性更强,除了传统安防类公司,也引起越来越多的新兴科技公司进行逐鹿。

北京比特大陆科技有限公司,是一家高性能计算芯片公司,专注于研发高性能、低功耗的ASIC芯片,目前主要应用于区块链与人工智能两个领域。 当英特尔致力于CPU的研究、英伟达开发GPU时,比特大陆与谷歌公司一脉相承,深耕到TPU。然而本质上看,不同于谷歌“训练+推理”的应用模式,比特大陆是基于硬件产品来研发销售服务器,从而打造AI芯片系统化,且侧重在云上的推理。下面我们将细致解析何为ASIC芯片,以及该芯片的应用意义有哪些?

软件定义芯片,聚焦视频图像结构化

AI芯片的制作流程,是从原理设计开始,然后经过物理设计、台积电厂商完成工艺设计、制成小的芯片后,再由封装厂封装,经由测试筛选出优质芯片,最后进行出产。出产之后,比特大陆会做一套小的核心系统,系统外围会有内存、电源等模块,还有一些其他小型器件,诸如时钟发生器等器件。核心系统组成之后再增加一些控制单元,就组建成一款服务器。

2017年11月,比特大陆推出了其第一代AI芯片——BM1680,并基于这款芯片打造出了深度学习加速卡板卡SC1/SC1+、智能视频分析服务器SS1。 BM1680,作为比特大陆的第一款张量加速计算专用芯片,采用改进型脉动阵列技术,适用于CNN/RNN/DNN的训练和推理。BM1680芯片能够提供2TFlops单精度加速计算能力,芯片由64 NPU构成,特殊设计的NPU调度引擎可以提供强大的数据吞吐能力,并将数据输入到神经元核心,性价比高。

而在今年3月,比特大陆推出了其第二代AI芯片——BM1682,该芯片是以应用场景为驱动,用软件来定义芯片系统,致力于云上的推理计算,从而落地安防产业。 比特大陆的产品战略总监汤炜伟告诉亿欧,在定义第二代AI芯片的过程中,我们发现,对于安防AI芯片,AI是其中重要的一部分,但不是全部。即不止于深度学习加速,而是对视频AI全流程优化软件定义芯片,进而实现完整的视频图像结构化。

安防创新百人会丨深耕高性能计算,比特大陆如何制定ASIC芯片终极方案

汤炜伟提到,比特大陆之所以要做云上的推理计算,主要有以下原因:

芯片对视频或图像的处理,会经过25-30帧的解码、视频图像的抽帧、然后是四维变换、视频结构处理。汤炜伟告诉亿欧,比如视频中出现非正面或模糊的人脸图像,就需要对图像做大小变换,调整成正面角度,最后再送至NPU,即神经网络处理单元。需要做图像目标检测、目标跟踪、以及特征提取。人脸特征提取之后,是向量组,利用该类向量可以去做比对、或者做分类,人脸识别往往是在做比对过程。

这种比对就是拿人脸向量与比对向量做余弦变换,计算两个向量在空间的距离,距离越小,相似度越大。所以便有了相似度95%、99%的说法,即根据空间距离、位置去测算得出的结果。虽然相似度并不是标准化的定义,但是相似度的对比基本就是数据从采集到预处理、处理、后处理的一系列的过程。

专注推理计算,ASIC专用芯片可达低暗硅高利用

不同于英特尔和谷歌定位于通用的AI生态,AI芯片大范围应用于医疗影像、安防、互联网、教育等方面。汤炜伟告诉亿欧,比特大陆专注于推理,在推理中加入视频解码,落地安防。此外,巨头公司的决策周期较长,可能会达1-2年的时间,巨头公司做一件事情,形似大象跳舞。他们需要倾注许多力量,瞄准一个非常通用且拥有足够容量的市场,以便能将投入的成本收回来。

汤炜伟形象的比喻道:“我们聚焦在具体应用场景,就像一米宽,一公里深的市场,而他们做的是一公里宽,一米深的市场。”

推理市场背后用户群体可承载的庞大容量和巨大的发展前景。本质上,训练是为了训练一些算法,训练的算法只会由算法工程师和科学家去使用。目前属于研发阶段,而适用人群大概为几十万人,但是推理业务及相关行业业务会与个人业务紧密联系,将来每个人的手机和随处安装的摄像头,这类电子设备所蕴含的推理与个人息息相关,所以推理市场的应用前景是巨大的。汤炜伟提到,在市场容量和市场发展上,推理市场会是一个十倍、百倍的训练市场,对于芯片来说,有量才能活下去。

在推理市场上,IC专用芯片才是一种终极方案。因为这类芯片可针对特定场景(安防、互联网)进行应用,专一性强效率更高。 早期的推理市场,一些芯片的BAT厂商会有部分AI需求,但是他们是利用CPU做推理,当芯片在做AI推理和AI训练时,它只用了其中的一小部分,而其他99.9%是“暗硅”,基本都处于闲置。因为CPU是通用处理器,它在做一件事情时,利用率较低。

而现在有些公司是用GPU做推理,因为GPU相对于CPU在性能功耗方面有十倍的提升,但这并不是一种最优方案。因为GPU要兼顾图像、图形等一些科学计算,对深度学习的订制和加强,没有ASIC优越,因此,ASIC专用芯片“暗硅”比例一定是最低,而利用率会是最高。

安防市场日新月异,视频云服务是大势所趋

安防市场经历了模拟到数字、再到高清、AI这几个阶段阶段,AI带给了安防市场巨大的翻新变化与价值提升。基于数字和视频的丰富累积,人肉搜索现象一去不复返,智能化搜索和自动化特征提取已成必然。而提取出的基础结构化数据可以被计算机理解,从而生成完整智能化的信息链。通过数据的碰撞、分析,巧用大数据从而把其中隐藏的信息和观点寻找到,能够更准确更快速地解决问题。

汤炜伟举例轨迹、同行分析,提到在视频里发现某人连续一百天和某人同行,且发生异常行为,可分析他们是否是同伙?在某个视角里,有两个人在定期碰面,他们是不是在做交易?在某个晚上,有一些人连续去了20个KTV,他们是不是在贩毒?这种大数据碰撞出来的分析,所带来的一些应用价值不仅能够解决海量警力带来的问题,还能提高解决问题的效率。

对于当前安防市场的发展趋势,汤炜伟提到现在存在一个很有意思的现象。集成商和运营商的角色在相互交织,海康、大华正在往集成领域迈进,这样得到的结果,就是在未来也许只有集成商排行前30左右的数量留下。而这些集成商可能会向运营商去变化,从硬件市场向软件市场过渡,通过了解用户需求,以服务的方式去解决用户的问题。

而现在诸如电信、中国联通、广电等运营商正在往集成商的角色发展,这种趋势越发明显。而运营商比集成商拥有更大的优势是天然的运维数据中心,在集成领域里能够放入数据中心的部分,运营商会更倾向于放入数据中心。这样的发展结果,就是会与华为、阿里的目标方向一拍即合,大家同时瞄准安防视频云,而这种云可以以服务的方式提供给公安、交通等部门,在未来,对于图像视频的存储、分析、比对这类公司可以完成一条龙服务。

现在大部分的公安客户是在探索算法的先进性、并体验创新性的研究成果,在此基础上想要步入规模化部署的阶段。然而落地规模化部署,成本和功耗就是重中之重的问题,在目前GPU非常昂贵的情况下,更多的商家是在追寻和平衡,自研设备成本价值实现最大化的点。

安防创新百人会丨深耕高性能计算,比特大陆如何制定ASIC芯片终极方案

比特大陆深耕硬件而非算法的落地模式,可无缝的将GPU上的软件语言和代码迁移到自研的AI芯片上。 自动化的编译,便是将高级语言编译成机器代码,从而自动化的在芯片上运行,这一过程中,比特大陆通过自己的工具,让不同的软件代码编译成不同的机器代码,此外,比特大陆的AI芯片所拥有的架构具有高性能、低成本、低功耗的产品优势,可做到视频图像硬解码、为视频AI优化、数据中心易部署、易扩展等特点。

随着安防产业的不断智能化,比特大陆认为,算法和应用会越来越普及,其所扮演的提供AI计算基础设施角色也会越来越重要。在未来2-3年,比特大陆会扎根于人工智能的具体应用领域深耕优化,致力于推出更为完善与先进的专用芯片,值得我们共同期待!

版权声明

凡来源为亿欧网的内容,其版权均属北京亿欧网盟科技有限公司所有。文章内容系作者个人观点,不代表亿欧对观点赞同或支持。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Automate This

Automate This

Christopher Steiner / Portfolio / 2013-8-9 / USD 25.95

"The rousing story of the last gasp of human agency and how today's best and brightest minds are endeavoring to put an end to it." It used to be that to diagnose an illness, interpret legal docume......一起来看看 《Automate This》 这本书的介绍吧!

在线进制转换器
在线进制转换器

各进制数互转换器

MD5 加密
MD5 加密

MD5 加密工具

HSV CMYK 转换工具
HSV CMYK 转换工具

HSV CMYK互换工具