AI部署实操课!手把手带你快速掌握AI模型推理部署
收藏
快速回复
AI Studio平台使用 其他热门活动学习资料 406 0
AI部署实操课!手把手带你快速掌握AI模型推理部署
收藏
快速回复
AI Studio平台使用 其他热门活动学习资料 406 0

近年来,深度学习技术在诸多领域大放异彩,因此广受学术界和工业界的青睐。随着深度学习的发展,神经网络结构变得越来越复杂。复杂的模型固然具有更好的性能,但是高额的存储空间与计算资源消耗使其难以有效地应用在各硬件平台上。因此深度学习模型在端上部署和加速成为了学术界和工业界都重点关注的研究领域。 

一方面,有许多深度学习框架可以让开发者和研究者用于设计模型,每个框架具备各自独特的网络结构定义和模型保存格式。AI 工程师和研究者希望自己的模型能够在不同的框架之间转换,但框架之间的差距阻碍了模型之间的交互操作。另一方面,由于深度学习模型庞大的参数量,直接在边缘端部署模型会产生较高的时延。 

百度 EasyEdge 端与边缘 AI 服务平台可以很好地解决上述问题。EasyEdge 可以支持多种主流深度学习框架的模型输入,提供了方便的部署功能,针对业内各类主流芯片与操作系统进行了适配,省去了繁杂的代码过程,可以轻松将模型部署到端设备上。EasyEdge 在集成了多种加速技术的同时对外提供多个等级的加速服务,以平衡模型推理时间和精度,一方面可以最大限度的减小模型在端上部署的延时,另一方面可以匹配更广泛的使用场景。 

EasyEdge 支持多种不同类型深度学习模型的部署,包括常见的模型类型包括图像分类、检测、分割以及部分人脸检测、姿态估计。目前 EasyEdge 支持的经典网络种类超过 60 种以及多种自定义的网络类型。 

EasyEdge 对于端设备的支持也是很广泛的,既支持常见的通用芯片 CPU、GPU 以及通用 arm 设备,也支持市面上主流的专用芯片,如 Intel Movidius 系列,海思 NNIE 等,如图  所示,EasyEdge 目前已建设为业界适配最广泛的端与边缘服务平台。

-----------------------------------------------------------------------------------------------------------------------------------------

6月14日(周二)晚8点,百度边缘部署专家带你了解EasyEdge,手把手教你快速掌握AI模型推理部署!

更有年中大促活动加持,SDK一元购助您实操落地!!!

扫码加入技术交流群,关注AI模型边缘部署实操课,

赶快行动吧!!!!

 

0
收藏
回复
在@后输入用户全名并按空格结束,可艾特全站任一用户