让AI无处不在!HUAWEI HiAI 3.0用分布式重构泛终端生态
在11月19日召开的2019软件绿色联盟开发者大会上,有一个名词被不断提及,那就是“泛终端”,CSDN创始人蒋涛更是提出:“今天,我们已经进入泛终端软件时代”。
二十年前,我们的生活场景里,智能终端设备只有电脑,十年前增加了一部智能手机。现如今,我们的智能终端设备还包括电视、平板、手表、音箱、体重仪、汽车......
越来越多的设备拥有了自己的“芯”与“智”,能为我们的生活提供全新的服务,随着5G和AI等技术的发展,全场景泛终端开始走进人们的生活了。
然而一个问题横亘在我们面前,这些终端之间怎么联系?
作为下一代通信网络技术,5G铺就的信息高速公路带来多样化的应用开发,它就像是一盏明灯,照亮了万物互联的新时代场景。
5G与人工智能、大数据等新技术融合,不断促进传统产业升级,孵化新的应用,催生新的业态。
但令人烦恼的事情出现了,我们的终端设备能够提供智能化的服务,但它们之间的互联互通却异常艰难,从底层的IT架构到数据传输协议,不同的生产厂家,甚至同一生产厂家的不同设备,都有自己的一套智能算法与运行体系。
你有精力去控制一台PC和手机,但面对泛终端组成的智慧生活场景,你是否应接不暇了呢?
人工智能已经从幕后走向前台,从科技改变生活,变为了生活享受科技,端侧智能的发展正在推动生活的全面智能化升级。
但是AI开发者的高成本使得用户反馈响应缓慢,跨终端的开发遭遇软硬件难题,设备间的技术隔阂并未打通,消费者还不能真正体验到智能生活的便捷。
当前的泛终端设备正在欢迎5G的到来,利用AI技术打造全新生活场景,然而对于互联互通却讳莫如深。一个个的AI孤岛,最终导致泛终端设备联网率和使用率低下,消费者从购买到使用,每个操作环节都在考验用户的耐心,厂商存在巨大潜在损失。
开发者早已看到痛点所在,不论是IT技术服务商还是终端硬件厂商,都打造了自己的开源平台,邀请更多产业链企业共建生态。然而这种局面下又有了不同挑战,多操作系统、多设备类型、多语言开发、开发多形态UI、代码库维护、数据源集成等诸多问题,都在泛终端软件生态的变化中,构成了新的难题。
安全、响应、协同,阻隔连接的山峰一座接着一座。
华为公司消费者业务软件总裁王成录博士认为,分布式AI可以解决泛终端的痛点。“从软件应用层面来讲,要摒弃物理设备的单体差异,将他们看做一个个能力资源池,我们完全可以根据应用本身的诉求,对能力资源进行模块的组装,用软件来定义任何想要的终端,破除对手机入口的依赖,迎来中国分布式AI的整体生态。”
为了打破泛终端边界构建完整AI产业链,华为在近期发布了面向智能终端的AI能力开放平台HUAWEI HiAI 3.0。它支持多终端共享AI算力,让端侧AI正式走向分布式,开发者能够快速地利用华为强大的AI处理能力,为用户提供更好的智慧应用体验。
王成录表示:“此次HUAWEI HiAI 3.0升级,实现从单设备、多设备向分布式演进,打破单一硬件边界,实现跨终端无缝体验,再一次引领端侧AI技术创新。”
在一年前,华为发布了HiAI 2.0平台,一年的时间里,HUAWEI HiAI 2.0有超过4000家合作伙伴加入,日活用户接近1亿,月调用量超过6000亿。王成录说:“HiAI实际调用量远超这个数字,这是一个非常大的平台,希望合作伙伴充分的利用这个平台,进一步打开应用的创新空间。”
HiAI 2.0覆盖的终端设备只有手机、平板等,而HiAI 3.0则进一步向分布式AI演进,使任何终端设备都能够实现资源共享、算力共享,不同于其它开发平台以软件为核心,HUAWEI HiAI基于“芯”、“端”、“云”三层开放架构,构筑全面开放的智慧生态。
一、“芯”的共享
芯片能力开放(HiAI Foundation)方面,华为依托于最新的麒麟芯片将向开发者提供更高性能、更多算子,开放了NN类计算、数学运算、数组运算、图像运算、逻辑控制五大类、超过300+的算子数量,可快速转化和迁移已有模型,借助异构调度和NPU加速获得最佳性能,让开发者可以专注于AI应用开发,而不必花费精力进行底层算力调优。
在算力能力上,手机具有极强的算力优势,但是其它终端设备却因为成本与技术限制,无法满足AI需求带来的算力提升,HUAWEI HiAI 3.0与分布式技术相结合,打通算力的硬件隔阂。
比如汽车驾驶过程中极易产生疲劳驾驶,但对此提供安全防范措施的应用极少,用户可以将智能手机和汽车连接起来,通过汽车内部摄像头对用户驾驶行为进行分析,使用智能手机芯片的AI算力,对疲劳驾驶等潜在危险行为进行安全提醒,让司机在驾驶时可以更好地保护自己。
二、“端”的联结
为了满足分布式AI设备端的海量应用需求,在应用能力开放(HiAI Engine)上,华为开放计算机视觉(CV)、自然语言理解(NLU)、自动语音识别(ASR)三大引擎,并新增手写识别、动态手势识别等多个API接口,提升图片超分等API接口性能,开放API数量超过40个,可以轻松将多种AI能力与App集成,使App更智慧强大。
每日瑜珈App就基于HiAI 3.0平台的服务能力,为消费者提供全新的家庭私人瑜伽教练。HUAWEI HiAI 3.0开放分布式计算机视觉(CV)对用户进行3D人体关键点识别,利用家中多个不同位置的摄像头,实时捕获多个角度的运动姿态,多个屏幕显示纠正姿势。通过分布式语音识别(ASR),用户可以用智能音箱把控运动节奏,进一步提升家庭健身体验。
每日瑜珈的产品总监周帆说:“家庭健身运动有两大痛点,一个是难以持之以恒,另一个是缺乏专业指导。通过与HUAWEI HiAI 3.0合作,每个人都会拥有一个AI健身私教,在家运动也能拥有健身房私教指导的效果。”
HUAWEI HiAI 3.0分布式场景还向教育领域延伸。小艾帮帮是一家面向低视力群体的视音频服务公司,低视力人群不认为自己是盲人,也渴望正常人的生活,但需要相关辅助设备。
接入HUAWEI HiAI 3.0通用文字识别API,小艾帮帮的硬件产品离线即可完成文字识别,不再受限于网络状况,支持更稳定快速的文字识别放大、以及文字语音播报功能。此外,HUAWEI HiAI 3.0的通用文字识别AI能力将助视器“装”进手机,一款手机应用即可涵盖传统高级电子助视器功能,用更低价格带来阅读辅助工具,硬件购买成本更低、携带更方便。
三、“云”的通达
在服务能力开放(HiAI Service)上,HUAWEI HiAI 3.0有上万的原子化服务,支持多模态,多端部署的能力。如在手机及电脑平板上,通过文字、语音、视觉等自然交互的方式触发服务(卡片、图标、语音),实现服务直达,在智能音箱上,通过语音对话方式交互,获取直达服务,支持天气查询、听故事、听歌、接龙游戏等服务。
HUAWEI HiAI 3.0提供“服务一次接入,多终端自适应”的操作体验,用户可以在多终端享受语音助手、负一屏等便捷服务,让同样的服务在不同终端实现相同体验。开发者可以充分利用华为终端的快捷入口,根据用户所需,适时推送服务,让服务主动找到用户。
随着端侧AI走向分布式,开发者期望建立端侧全连接,消费者想要智慧化用户体验。打破单一硬件边界,分布式全场景形成的超级终端,已经成为行业趋势所在。
懂懂笔记十分欣赏HUAWEI HiAI 3.0面向多终端开发的IDE(集成开发环境),开发者只需要一套代码,通过IDE提供的多终端统一编程框架以及响应式布局等技术,可以实现一次开发,多端部署,使开发效率倍增。作为分布式AI集成工具,IDE是跨境生态共享的重要实现途径。
HUAWEI HiAI 3.0作为更为可靠和便于开发的平台,将硬件能力与终端解耦,多终端硬件能力融合成能力资源池,终端之间充分互助与共享,通过跨终端、一站式开发让端侧智能变得更为易用和可用,给用户、给行业带来双重影响。
当前,消费者接触较多的AI应用,主要是语音助手、AI摄影、图片美化等,应用场景比较单一,随着分布式AI的出现,多终端的资源与算力共享,将大幅拓宽端侧AI应用场景,为消费者带来更多智慧创新。
过去公众对于端侧 AI 最感兴趣的体验之一,就是希望设备足够智能,可以学习周边环境,掌握自己的生活习惯,为生活增添便利。现在除了手机中的个人语音助手,端侧AI的运用因为能够与设备无缝连接,可以为用户带来更多益处。
借助终端侧AI,许多任务可以完全在本地进行,个人信息不需要传到云端上,大大提升隐私性和可靠性;当很多决策可以在本地进行时,端侧 AI大幅降低了数据经过更长的通路产生错误的几率;另外,端侧 AI 能够在无网络或Wi-Fi连接的情况下完成任务;而低延时和高效利用网络带宽特性,让端侧AI可以借助5G通讯技术实现更高效的数据传输。
虽然端侧AI具有诸多技术优势,但端侧AI并没有统一的行业标准与技术准则,泛终端软件生态如何构建依然处于探索之中。
蒋涛说:“泛终端软件生态必定从分散走到融合,一个设备厂商要支持上百个操作系统,一个操作系统要支持上百个设备,这是非常糟糕的状况。协议、接口需要通过市场化发起,大家愿意接受,开放才能获得更大的生态,之前国内有的企业搞过软件标准,却只适用自己封闭式平台。”
为了加速AI技术产业化与应用创新,华为携手百度、阿里巴巴等公司,在新一代人工智能产业技术创新战略联盟(AITISA)启动端侧AI软件标准研究工作,通过标准化推理接口与标准化应用接口,促进端侧AI产业规模化有序发展,更好地助力开发者使用端侧AI进行应用创新。
【结束语】
当前终端硬件越来越智能化,AI已经得到广泛应用,但软硬件的边界仍旧存在,成为制约分布式AI演进的最大阻力。HUAWEI HiAI 3.0不仅是一个开发平台,更是一种态度,希望开发者能够摒弃成见,在开源的生态中共同打造智慧新生活。