首页 Paddle Lite 帖子详情
百度AI快车道Paddle Lite深圳开讲!
收藏
快速回复
Paddle Lite 其他端侧 1611 1
百度AI快车道Paddle Lite深圳开讲!
收藏
快速回复
Paddle Lite 其他端侧 1611 1

11月起,中国5G商用时代正式到来。手机续航、散热、天线等技术革新不断突破瓶颈,也将为用户带来新的想象和惊喜。随着科技的进步,人工智能技术也已进入了大规模落地部署阶段,手机等移动设备和边缘设备已成为非常重要的本地深度学习载体。这其中,端侧推理引擎的作用至关重要。

今年8月,百度深度学习平台飞桨(PaddlePaddle)对端侧推理引擎进行全新升级,重磅发布Paddle Lite,旨在推动人工智能应用在端侧更好落地。该推理引擎完备地支持了多硬件、多平台和硬件混合调度,同时对推理性能进行了优化提升,整体上具有高扩展、训练推理无缝衔接、通用、高性能和轻量化等特点。

11月16日,百度AI快车道将在深圳百度国际大厦举办Paddle Lite专场活动,由百度深度学习技术平台部高级产品经理、百度深度学习技术平台部资深研发工程师、百度深度学习技术平台部高级系统工程师主讲,详细解读Paddle Lite的技术特点、使用方法和相关应用,同时也会通过实践,实现人脸检测在手机上的部署,完整体验Paddle Lite在实际业务中的应用。 心动不如“手动”,点击链接前来共享技术落地的快乐吧~!

活动主题:Paddle Lite

活动时间:2019年11月16日

活动地点:深圳·深圳百度国际大厦

课程安排: 

   ●   13:30–14:00 签到,现场交流

   ●   14:00–14:15 百度深度学习平台-飞桨全景介绍

   ●   14:15–15:15 Paddle Lite深度学习技术解读及应用

   ●   15:15–15:35 Q&A

   ●   15:35–16:35 基于PaddleLite的移动端目标检测部署实践

   ●   16:35–17:35 Paddle Lite在Edgeboard(FPGA)上的部署实践

报名链接

https://iwenjuan.baidu.com/?code=3ufrnc

 

关于Paddle Lite 

PaddleLite 的架构有一系列自主研发技术,整合了百度内部多个预测库架构优势能力,并重点增加了多种计算模式(硬件、量化方法、 Data Layout )混合调度的完备性设计,新架构设计如下:

其中最上面一层是模型层,直接接受 Paddle 训练的模型,通过模型优化工具转化为 NaiveBuffer 特殊格式,以便更好地适应移动端的部署场景。

第二层是程序层,是 operator 序列构成的执行程序。

第三层是一个完整的分析模块,包括了 MIR ( MachineIR ) 相关模块,能够对原有的模型的计算图针对具体的硬件列表进行算子融合、计算裁剪在内的多种优化。

不同于飞桨训练过程中的 IR ( InternalRepresentation ),硬件和执行信息也在这一层加入到分析中。

最底层是执行层,也就是一个 Kernel 序列构成的Runtime Program 。执行层的框架调度框架极低,只涉及到 Kernel 的执行,且可以单独部署,以支持极致的轻量级部署。

整体上来看,不仅着重考虑了对多硬件和平台的支持,而且也强化了多个硬件在一个模型中混合执行的能力、多个层面的性能优化处理,以及对端侧应用的轻量化设计。

 

关于AI快车道 

百度AI快车道——企业深度学习实战营是百度依托自身深厚的深度学习技术实践经验,面向有AI技术需求企业的算法工程师、架构师群体提供的快速应用扶持计划。该计划的学习内容囊括了6套工程实施与深度学习技术落地结合的详细方案,覆盖百度领先的AI技术和业务应用场景的深入剖析,如OCR、精密仪器质检、推荐排序经典场景、遥感图像处理等;源于百度业务实践的深度学习框架飞桨的性能优势、模型优势、生态优势的解读;百度自研和顶级学术会议魁首算法、预训练模型的详细介绍,还有与案例与算法紧密相扣的在线实验,并以“短平快”的课程,进行对业务问题定位、框架及算法的快速应用培训,为更多企业带去深度学习技术和经验分享,并计划在年内于上海、深圳、杭州等多地,支持1000家企业的深度学习技术快速应用。

赶快扫码报名百度AI快车道Paddle Lite专场吧~

0
收藏
回复
全部评论(1)
时间顺序
w
wangwei8638
#2 回复于2019-11

部署到移动端是比较好的方向

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户