OPEN AI LAB推出专为嵌入式平台设计的AI推理框架—Tengine

2018-09-14来源: 互联网 关键字:OPEN AI LAB  Tengine

边缘AI应用正处于大规模落地的前夕,巨大的IoT市场和革命性的AI技术产生的剧烈交互将带来前所未有的应用革命和商业机会。那么在边缘设备部署AI应用的瓶颈都有哪些?

n 有人有现成的芯片和应用场景,却为缺乏算法和平台苦恼。

n 有人有自己的算法,却为缺乏一个好用的嵌入式跨平台框架而苦恼。

n 有人有自己的算法和硬件平台,却为嵌入式平台有限算力苦恼。

OPEN AI LAB看到了业界痛点,顺应市场需求推出了专为嵌入式平台设计的AI推理框架——Tengine

 

专门针对Arm嵌入式设备优化的神经网络推理引擎

OPEN AI LAB于2016年12月成立,由Arm中国联合产业伙伴发起,致力于推动芯片、硬件、算法、软件整个产业链的深度合作,加速人工智能产业化应用部署和应用场景边界拓展。Tengine便是一款轻量级模块化高性能的神经网络推理引擎,专门针对Arm嵌入式设备优化。完美支持Arm平台,支持Arm Cortex CPU,Arm Mali GPU,Arm DLA,第三方DSP,堪称兼容“全能王”。

 

而开发者可以使用Tengine一网打尽主流框架模型和嵌入式操作系统,还能异构调度平台里的各类硬件,充分利用硬件算力。此外,Tengine还提供了常见AI应用算法,包括图像检测,人脸识别,语音识别等。不懂AI没关系,上手就能跑AI应用。Tengine同时还支持各类常见卷积神经网络,包括SqueezeNet,MobileNet,AlexNet,ResNet等,支持层融合、8位量化等优化策略。并且通过调用针对不同CPU微构架优化的HCL库,将Arm CPU的性能充分挖掘出来。

 

 

 

Tengine的“发动机”——HCL计算库

有人说NCNN是一个为手机端极致优化的高性能神经网络前向计算框架,从设计之初深刻考虑手机端的部署和使用。在过去,NCNN确实是这样的,只是那时候还没有Tengine。

 

现在,HCL计算库作为Tengine的插件,是性能最快的Arm CPU NN计算库,并且支持动态8位量化计算,精度几乎不变,相比于NCNN最快能带来2-3倍的性能提升,内存使用减少为三分之一。

 

 

*Tengine性能数据A72,A53性能基于RK3399平台测试,A17性能基于RK3288平台测试

NCNN数据为2018年9月7日

 

*采用ILSVRC2012_VAL数据集测试5000张图片得到量化精度测试结果如下


Tengine + HCL,不同人群的量身定制


Tengine作为AI 应用框架,不仅对上层应用提供推理API接口,支持主流模型与格式,还在下层定义硬件接口,适配嵌入式平台各类计算模块,此外支持同时运行多个AI应用算法以及调用多个计算模块计算。因此,Tengine的面世对AI开源生态具有里程碑的意义。有了Tengine,应用和算法厂商可以摆脱复杂的嵌入式平台适配工作,配合HCL直接挖掘硬件的全部潜能;有了Tengine,芯片厂能够站在Arm 嵌入式AI生态的肩膀上,以最快的速度顺利将芯片推向市场,在边缘AI应用中部署。作为OPEN AI  LAB为边缘AI应用部署开发的两大利器,Tengine + HCL将助力嵌入式人工智能产业加速向前推进,为最终实现万物智能贡献力量。


关键字:OPEN AI LAB  Tengine

编辑:baixue 引用地址:/qrs/2018/ic-news091451444.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:微软考虑用华为AI芯片 撼动美国企业霸主地位
下一篇:最后一页

关注ڲע公众号 快捷获取更多信息
关注ڲע公众号
快捷获取更多信息
关注ڲע服务号 享受更多官方福利
关注ڲע服务号
享受更多官方福利

推荐阅读

​目标人工智能 安创空间携伙伴成立OPEN AI LAB

从去年底开始,OpenAI成立,谷歌、Facebook、亚马逊、微软、IBM、百度等巨头纷纷宣布人工智能工具开源,可见开源人工智能大势所趋。2016年12月1日,北京——由ARM生态系统加速器安创空间联合全志科技、地平线机器人发起的开放人工智能实验室OPEN AI LAB今天下午在北京正式成立。作为国内首个跨企业间的联合实体人工智能实验室,OPEN AI LAB旨在探索新的合作模式推进嵌入式人工智能的软硬件和应用产业化协同发展,发挥上述几家机构各自的优势。中科院院士、清华大学张钹教授莅临发布会现场祝贺,并在成立仪式上致辞,对OPEN AI LAB表达深切的关注。工信部软件与集成电路促进中心卢山主任对OPEN AI LAB的成立
发表于 2016-12-02
​目标人工智能 安创空间携伙伴成立OPEN AI LAB
热门资源推荐
更多
  •  doc文件测试测量常用英语中文对照表
  •  嵌入式硬件设计(第二版)
  •  初学嵌入式开发指点
  •  ARM9嵌入式系统设计与开发教程
  •  ARM启动代码分析——高手手把手教你理解boot

小广播

热门活动
换一批
更多

【泰有聊】第二期:泰克CEO为你解读低噪声背后的科学

最新视频课程更多

信号与系统 东南大学 孟桥
信号与系统 东南大学 孟桥
linux操作系统之父
linux操作系统之父
计算机科学及编程导论
计算机科学及编程导论
Linux下vivado安装教程
Linux下vivado安装教程
xilinx zynq fpga视频教程
xilinx zynq fpga视频教程

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

更多相关热搜器件

  •  MC68334GEH16
  •  SIT9001AC-43-25E6-5.00000Y
  •  LFXTAL003665Bulk
  •  EC2600ETTS-40000M
  •  FXO-LC738-945
  •  402F27111CAR
  •  EMRA23X2H-24576M-TR
  •  EMRA22K2H-75.000M
  •  CY8C22345H-24PVXA
  •  FXO-PC738-622.080
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
ע39ַ ͼag콢 lolͶעʲô agֳ Űע ggٷ ɳַ ɳ Ű 7777 վٷվ GNSǮ Ԫ Ѷ1.5ֲ mgϷˮʱ ƶ Ѷ չ˾ Ȥζ ag Ǯ bbinհײ˴ȫ bbinϷͲʽ gnsվ 940 ճ淶 羺 ƱϷԪ ע mgЩ