首页 > 专访 > 技术专访
[导读]强化端侧AI体验,DSP需要有更高效的结构。Cadence的DNA 100和HiFi 5分别面向视频和语音识别的NN算法加速,通过稀疏计算引擎来实现高效高性能。

想要实现更有效率的人工智能体验,很多工作都需要在设备端直接完成。在视觉识别和语音助手这两大热门应用中,常常都会见到DSP的身影;而Cadece的Tensilica系列DSP产品,一直受到华为等诸多厂商的喜爱。近日,Cadence在北京召开了发布会,发布了全新的DNA100和HiFi5的产品。作为Vision系列和HiFi系列的最新产品,有何高明之处?Cadence公司IP事业部Tensilica资深产品总监Lazaar Louis先生和IP事业部Tensilica技术营销总监Yipeng Liu进行了详细的讲解。

DNA100: 通过稀疏计算引擎实现高效人工智能结构

Cadence最新发布的DNA 100是其首款神经网络加速器IP,作为端侧的运算单元,功耗仍然是客户非常敏感的指标;从0.5到数百TMAC均可实现高性能和高能效。换言之,不论是电池驱动的小型IoT设备,还是譬如手机等多核处理器中,DNA 100均可发挥巨大作用。

相较其它采用相似阵列尺寸大小的乘法累加运输商解决方案,DNA 100的性能提升高达4.7倍,每瓦性能提高2.3倍。据悉,这种性能提升和功耗的降低得益于其采用了稀疏计算引擎。“神经网络的特征在于权重和激活函数的固有稀疏度,加载和乘以零会早晨其它处理器不必要的MAC消耗。DNA 100移除了这两项任务,利用稀疏度提高能效并降低计算量。神经网络再训练有助于提高网络的稀疏度,并通过DNA 100处理器的稀疏计算引擎实现最高性能。DNA 100处理器能够利用更小的阵列实现最大吞吐量。作为例证,4K MAC配置环境下,ResNet 50推理性能预计能实现每秒高达2550帧(fps)和3.4TMAC / W(在16 nm工艺)。”

document_image_rId7.png

稀疏计算引擎专门处理卷积阶段以及完全连接的分类层的任务。 单个稀疏计算引擎可以在256,512或1024 MAC中扩展,之后IP通过添加更多引擎进行扩展,上图中可见最多可以达到4个引擎。 这意味着最大配置的单个DNA 100硬件块最多包含4096个MAC。

带宽是限制NN硬件效率的一个关键瓶颈,因此压缩带宽是实现最佳性能必备条件。就原始带宽而言,DNA 100提供了从1到4 AXI 128或256位接口,这意味着在最宽的配置中,最高可达1024位总线宽度。

document_image_rId8.png

Cadence仍然提供DNA 100和Vision Q6产品的耦合使用方案,可以在执行某些特定NN运算时实现更高效率。这种方案相较之前的P6+C5的方案有了很大提升,客户也可以进行深度的定制。

document_image_rId9.png

在软件方面,Cadence提供完整的软件堆栈和神经网络编译器,以方便客户充分利用硬件,包括网络分析仪和优化器以及所需的设备驱动程序。Cadence最近还宣布将支持Facebook的Glow编译器——一种跨硬件平台的机器学习编译器。

HiFi5:实现设备端语音UI

随着家庭数字语音助手的兴起,HiFi 4得到了大量的应用,而数字语音助手的下一个升级体验是实现更好的语音UI,这需要更好的原场处理算法和基于NN的语音识别,HiFi5将帮助客户实现这一设计。重点仍然是,能在端侧完成的 ,要实现快速反馈,这样才能带来更好的用户体验。

高性能的DSP核是语音UI实现的关键器件,另外,还需要耕地精度的NN内存权重,以减少内存大小和带宽需求;这两个指标在端侧同样是非常敏感的资源,如此这般才能构建节能高效的边缘语音交互设备。

document_image_rId10.png

HiFi 5可根据其可使用的执行单元和内存控制器进行配置。 为了支持波束成形等任务,DSP管道能够使用浮点数。而在DNN的工作任务中,DSP的管道可以由浮点单元转为专注于低分辨率定点运算,降低到多个8x8并行乘法;或者可以在没有用于传统音频处理的DNN聚焦模式的情况下部署DSP。同样的,因为采用了其专有的稀疏计算引擎,因此可以减少零权重操作以及压缩带宽,从而实现更高效能。此特性已经在DNA 100的介绍中提及,此处不再赘述。

document_image_rId11.png

作为HiFi 4的升级产品,HiFi 5的预处理和后处理的MAC性能提高2倍;神经网络处理MAC性能提高4倍;而且提供专门优化的函数库,可以与主流机器学习框架集成;兼容HiFi产品线300多个语音增强软件包。

据悉,首批客户之一是Ambiq Micro,想必大家并不陌生,这是一家专门构建电池驱动音频控制器的厂商。

 

未来端侧的高性能推理的工作将越来越多,比如汽车的自动驾驶、语音UI、物联网边缘的AI处理以及手机AI强化。如何在有限的资源条件下,实现实时高效的AI处理,这是端侧需要解决的问题。而这一问题的解决,Cadence的DNA 100和HiFi 5无疑都是最佳助手。

换一批

延伸阅读

[新闻速报] 宜鼎国际进军德国纽伦堡,大秀AIoT整合实力

宜鼎国际进军德国纽伦堡,大秀AIoT整合实力

2019年2月13日, 纽伦堡,德国 ? 全球工业储存领导大厂宜鼎国际,连续多年在德国Embedded World (嵌入式电子与工业计算机应用展)亮相,随着今年AI与物联网应用持续发酵,宜鼎国际整合工业计算机接口设备、技术,以及软件,现场......

关键字:宜鼎国际 AIoT

[智能硬件] 特朗普为美国AI发展出力,签发人工智能行政令!

特朗普为美国AI发展出力,签发人工智能行政令!

这份行政令要求各个政府机构优先处理人工智能的研发投资,增加联邦政府数据和模型的访问度,以便研究如何适应人工智能时代。 ......

关键字:特朗普 AI 人工智能

[新闻速报] 地平线荣登CB Insights全球AI百强 成唯一上榜中国AI芯片企业

地平线荣登CB Insights全球AI百强 成唯一上榜中国AI芯片企业

日前,硅谷最强智库之一的CB Insights发布AI 100 2019报告,该报告在全球范围内评选出了100家“最有前景”的AI创业公司,其中有6家为中国公司。而致力于将AI算法和芯片进行软硬结合的人工智能创业企业地平线(Horizon ......

关键字:地平线 CB Insights AI芯片

[通信技术] 女子起诉T-Mobile,因该公司员工偷看其手机私密视频

女子起诉T-Mobile,因该公司员工偷看其手机私密视频

据外媒Arstechnica报道,一名女子起诉了美国运营商T-Mobile,因为后者的员工偷看其手机内的私密视频,侵犯了她的隐私。 ......

关键字:T-Mobile 数据传输 AirPods无线耳机

[智能硬件] 有没有危机感?主持人都要被AI取代了!

有没有危机感?主持人都要被AI取代了!

昨天是北方的小年,2019央视网络春晚于小年夜晚黄金档在综艺频道、央视网多终端同步播出,以“把爱带回家”为主题,在此次网络春晚上,人工智能虚拟主持人团队正式登台。 ......

关键字:AI 人工智能 机器人

[智能硬件] AI能力受认可,比特大陆拿下福建“城市大脑”大单

AI能力受认可,比特大陆拿下福建“城市大脑”大单

比特大陆董事长詹克团表示,比特大陆将利用自身优势,建设好福州“城市大脑”,全力推动“数字福州”发展。 ......

关键字:AI 必特大陆 人工智能 区块链

[智能硬件] 弥补AI人才短板,华中科技大学也成立人工智能学院

弥补AI人才短板,华中科技大学也成立人工智能学院

1月26日,华中科技大学举行人工智能与自动化学院、人工智能研究院揭牌仪式。 ......

关键字:AI 人工智能 大数据

[智能硬件] 华为AI音箱新技能:可与微软小冰互动

华为AI音箱新技能:可与微软小冰互动

据介绍,不仅是华为智能音箱,该联动功能也覆盖华为手机用户。所有升级至EMUI系统9.0(含9.0)以上的华为及荣耀手机用户,只要在负一屏搜索中输入“召唤小冰”,也可召唤出微软小冰,在手机端体验此次发布的“新年版猜歌名”等一系列小冰的特有技能......

关键字:华为 AI音箱 微软小冰

[智能硬件] 苹果将会在今年上半年推出AirPods 2,支持健康监测功能

苹果将会在今年上半年推出AirPods 2,支持健康监测功能

苹果将会在今年上半年推出AirPods 2。报道指出,全新的产品将会重新设计,以使得新一代产品支持健康监测功能。......

关键字:苹果 AirPods 2 健康监测功能

[高端访谈] 21ic 2018年度专题采访——Maxim Integrated

21ic 2018年度专题采访——Maxim Integrated

作为众多互联网及软件巨头企业数据中心光模块的主流方案供应商,Maxim的100G单模光模块方案目前在全球市场占据了最高份额。......

关键字:美信半导体 Maxim 边缘计算 AI

[智能硬件] 三星接二连三收购,为寻找存储产业以外的增长点?

三星接二连三收购,为寻找存储产业以外的增长点?

业内人士称,三星接二连三的进行投资,就是要在存储产业以外寻找新的增长点。 ......

关键字:三星 存储 5G AI

[智能硬件] 全球人工智能科技支出,2020年将达到193亿美元

全球人工智能科技支出,2020年将达到193亿美元

全球人工智能的科技支出,2016年约为4.5亿美元,但预计于2020年达到192.8亿美元、 2021年更将突破达到289.6亿美元,显示全球公私领域皆将人工智能视为科技研发投入的重点,并将逐渐导入应用以强化自身竞争力。......

关键字:人工智能 AI 机器人

[单片机新闻] MCU发展竞争激烈,2019年会哪些新的战术选择呢?

MCU发展竞争激烈,2019年会哪些新的战术选择呢?

回顾MCU的发展史,基本上就是将分立协处理器不断集成的历史。因而,唐晓泉也判断,AI肯定也要走同样的路数,当技术、市场成熟时,AI IP就有可能整合到MCU中,最终实现量变到质变。......

关键字:MCU AIoT

我 要 评 论

网友评论

芯闻号

热门关键词

澳门必赢国际

更多

项目外包

更多

推荐博客