文/Phil Lapsley,Edge AI and Vision Alliance副总裁

当您构建一套计算机视觉系统时,特别是包含计算密集型的深度神经网络或视觉AI技术的系统,必要解决一个问题:在哪里执行图像处理功能?是边缘还是云端?抑或是两者的某种结合方案?

这可能是一个棘手的问题,会有一个或多个答案;当然,有些答案是对的,有些是错的!而且,要彻底地想清楚这个问题往往很有挑战性。边缘人工智能与视觉联盟(Edge AI and Vision Alliance,其前身为嵌入式视觉联盟 Embedded Vision Alliance)通常使用几个各具代表意义的首字母缩写“BLERP”(分别是带宽、延迟、经济性、可靠性和隐私性的首字母)来帮助选择者最终决定应该在哪里执行处理操作。

以下将详细介绍在“边缘处理”和“云端处理”之间进行权衡时,需要重点考虑的这五个重要因素。

带宽

显然,在云端做视觉处理,需要一个网络连接来发送图像。根据具体应用的不同,其对带宽的需求也不一样:有可能对带宽的要求并不高(比如只需要发送一幅很小的图像),也有可能对带宽的需求非常饥渴(比如监控杂货店中实时工作的数百甚至数千个摄像头)。

接下来需要考虑的问题是:能否获得能够满足带宽需求的网络连接。在某些情况下,可能根本没有互联网连接可供选择(比如,在一个与世隔绝的地方拍摄野生动物);而在某些情况下,可能存在一个相当可靠且低成本的云端连接方案(如消费者靠Wi-Fi连接门铃)。权衡具体的应用需求和可用的网络容量至关重要。当带宽需求较高或可用带宽较低(或不存在)时,选择边缘系统更为合适。

延迟

有些应用需要即时响应,要求低延迟,甚至是实时。例如,自动驾驶的汽车,如果基于云的图像处理系统需要几秒钟才能识别物体,那么当司机意识到该停车时,很可能车子已经从行人身上碾过,并且驶出了很远一段距离。

也有一些系统可以容忍更长的时间延迟。例如,一个用于识别冰箱里有什么食物的视觉系统,我们能够允许它花上几十秒甚至几分钟的时间,来识别出冰箱里新放入了一盒牛奶。

越是要求低延迟的应用,对边缘处理的要求也越高。

经济性

生活中最好的东西可能都是免费的,但遗憾的是,带宽和计算并不在其中。如果您曾经为云计算支付过费用,就会知道这些费用加起来有多贵。同样,只要看看您的有线电视或手机流量的费用(包月情况除外),就能知道带宽有多贵。

边缘处理可以节省在带宽上的费用(在设备上做的处理越多,在云上做的处理就越少),但是在设备中添加功能更强大的处理器,也需要费用。

对于许多产品来说,一个关键的商业洞察力是了解谁在为计算和带宽付费,他们付费的意愿是什么,以及他们是否已经以某种形式为其付费。例如,如果您正在制造一种使用家庭现有互联网的家用电器,那么,是消费者在为网络连接付费;从您的角度来看,带宽就是免费的。相反,如果您的客户愿意为功能更强大的设备买单(或者是已经有了这样的设备,比如高端手机),那么就可以将处理转移到边缘来降低云计算成本。

可靠性

即使发生网络中断,系统也能继续运行。这一点是否非常重要?

例如,基于面部识别的家庭门锁,如果房主的WiFi网络出故障的话,则可能需要本地处理(至少作为一种备用方案!)。通常,对可靠性的要求越高,对边缘处理的需求就越大。

隐私性

美国有句谚语:让拉斯维加斯的故事,留在拉斯维加斯吧。同样,我们也可以说:让边缘发生的事,留在边缘。换句话说就是:如果不将图像或视频发送到云端进行处理,那么云端就没有什么东西可以让坏人窃取,也没有什么东西可能会因为错误配置的AWS S3存储而意外泄漏。这不仅可以减少您的责任,而且对关心隐私的客户来说也是一个很好的卖点。

究竟选择在哪里执行视觉处理任务,是一个需要多方权衡的过程,最终的决定取决于各种因素,包括带宽、延迟、经济性、可靠性和隐私性。通过思考这五个因素对特定的具体应用的重要性,将有助于确定处理是在边缘进行,还是在云端进行,抑或是选择两者的某种组合。当然,最终答案取决于特定应用的具体要求和限制条件,希望BLERP分析能帮助您快速选定合适的方案。