大约十年前,云端运算概念开始风行,企业纷纷拥抱这个集中式运算架构,充份运用强大算力,执行AI建模等需要消耗资源的工作,加速满足一些进阶应用目标。尽管云端运算蕴含许多优势,但也不乏缺点,特别是企业若将数据传送到云端进行计算,不仅需要承担吃重的传输费用,也无可避免承担较高的延迟,偏偏有愈来愈多应用讲求实时反应、对延迟极为敏感。
因此分布式计算概念逐渐兴起,要求资源优化配置,有些在云端、有些在边缘,彼此间达到充份搭配与协调,进而降低端云之间数据传输、也避免对后台造成繁重负担。
研华已推出完整Edge AI方案
研华IoT嵌入式平台事业群副总经理张达文指出,综观以往上传云端的数据,当中高达八成为影像,现在这个部份可透过边缘端智能设备直接进行推论与判断,此即为Edge AI;意谓今后不需继续依赖云端处理大小事,仅传输必要信息上云端即可,大幅降低数据传输量,而云的任务便是学习与分析,至于数据的预处理与逻辑执行的工作,边缘端可胜任无虞。
张达文表示,现阶段研华已推出完整Edge AI方案,包括VEGA系列AI加速卡、AIR系列AI推论系统以及EIS系列边缘智能系统;另为了协助企业快速透过其边缘装置结合运用研华Edge AI产品、进行深度学习推论,还提供Edge AI Suite软件套件,内含Intel的OpenVINO工具包(兼具优化推论效能、跨CPU/VPU/GPU优化工作负载、提供逾20款预训练模型等多重价值),及来自第三方产业伙伴(CyberLink)的人脸辨识、车牌辨识等AI SDK。
截至目前,研华以Edge AI解决方案为基础,已经与系统集成商伙伴共同瞄准各领域用户的痛点,藉由这些刚性需求连手推进许多应用。
张达文说,谈到现今的Edge AI应用伙伴,主要分为两大类。一类是系统集成商(SI),通常会直接引进研华的加速模块或推论系统,再搭配OpenVINO执行系统整合,利用脸部辨识或车牌辨识等预训练模型为基础,快速打造最终的应用模型、快速落地到场域。
例如为工具机赋予在线执行瑕疵检测的能力,一旦发现不良品,旋即将讯息传达至机械手臂控制器,由机械手臂将该物品移出产线。此外研华与与电梯制造业者完成概念验证(POC),由AI辨识电梯访客、并学习他平时造访的楼层路径,之后只要此人进电梯,便由系统自动按下楼层键,减少接触按钮机会、连带降低COVID-19(新冠肺炎)感染机率。
同样基于防疫,研华与SI伙伴合作开发一套适用校园的系统,可架设于每一间班级教室,负责定时辨识所有学生的脸部并测量体温。此外针对智慧零售场域,在研华及SI协助下,业主可利用摄影机结合脸部辨识模块,快速掌握所有消费者图谱(包含每个人的性别、年龄等),便于执行精准营销。
另一类伙伴为医疗设备制造商,比方说制作医用超音波设备的业者,过去他们主要向研华购置嵌入式CPU模块,如今为因应AI影像判断的发展需求,需要在产品设计上预先纳入FPGA或GPU,以便预留AI加速功能、为AI铺路;所以将采购目标从CPU板转为CPU+FPGA/GPU,大幅提升产品在应用上的未来性
张达文透露,展望下一步,研华与SI伙伴将连手催生更多应用,例如长途货运车驾驶的行为监控,乃至餐厅的前台监控(帮助前台服务员精确判断何时上菜、收盘子、招呼客人等等,给予最贴心服务),都是可行的发展方向。
评论
加载更多