利用边缘计算如何构建应用平台

物联网（ IoT ）的发展和企业对人工智能的采用，使人们重新关注边缘计算。组织正在寻求利用这些物联网设备在边缘产生的数据，解决以前集中式数据中心或云计算无法解决的挑战。

当边缘计算和人工智能（也称为 Edge AI ）相结合时，用于实时推理，从而推动业务流程的数字转换。 Edge AI 是智能空间的核心技术，可提高效率、自动化工作流程、降低成本并改善整体客户体验。

如今，所有行业的组织都在工厂、零售店、石油钻塔和自动机器上推出 edge AI 解决方案。

与任何新的 IT 计划一样，充分利用边缘计算需要精心规划，以构建一个能够满足当今和未来任何扩展需求的平台。

什么是边缘计算？

从广义上讲， 边缘计算 指的是数据中心或云之外的任何东西。更具体地说，这是一种将计算能力从物理上转移到更接近数据生成位置（通常是物联网设备或传感器）的做法。

与云计算相比 ，边缘计算提供更低的延迟、更低的带宽要求和更好的数据隐私。有 不同类型的边缘计算 ，通常根据用例、网络需求或位置进行细分。内容交付网络、工厂检查、无摩擦商店和机器人都被认为是边缘计算的例子。

尽管存在差异，但好处仍然是一样的：低延迟、降低带宽要求和数据隐私。

边缘计算的成本是多少？

边缘计算的成本因规模、数据、位置和专业知识而大不相同。总体成本可能会增加或减少，具体取决于边缘环境中当前的基础设施。图 1 显示了几个关键因素。

图 1 影响成本的边缘计算解决方案的组件

基础设施成本

在边缘部署人工智能应用程序的首要考虑因素之一是支持用例所需的系统和传感器。一般来说，在添加新的硬件或软件之前，已经有了某种基础设施。边缘基础设施最常见的组件是传感器、计算系统和网络。

传感器

传感器的数量和类型都会影响组织的成本。许多组织已经对物联网传感器进行了投资，从而减少了边缘计算推广所需的总体投资。在添加传感器时，一次性使用的扫描仪可以快速添加。

摄像头是最通用的边缘设备之一，可以让您同时运行多个应用程序。其他传感器包括麦克风、条形码扫描仪或支持 RFID 的智能标签。

计算系统

边缘计算可以在一个简单的嵌入式设备上运行，成本高达数百美元。或者，它可以运行到半个甚至全机架的服务器，花费数十万美元。计算系统的大小取决于收集和处理的数据量、一个或多个人工智能模型的复杂性，以及在任何给定时间运行的推理次数。

当在边缘建立计算时，重要的是要考虑在环境中运行的现有和将来的边缘用例。一些应用程序可以在仅CPU的系统上运行，而其他应用程序需要 GPU ，或者可以从 GPU 中受益匪浅。

嵌入式设备，甚至是单 GPU 系统在前端都比较便宜。但是，如果您的计划是运行多个 AI 应用程序，那么一个具有多个 GPU 且可以运行多个工作负载的单一系统可以节省成本。在空间有限的地区，它通常也会更有效。

网络

大多数企业边缘使用案例都是在本地运行的，可以是硬连线到网络，也可以是 Wi-Fi 。这使得网络组件基本上是免费的。依赖蜂窝网络的远程设备确实会因传输的数据产生成本，如果数据是视频，成本会特别高。

AI-on-5G 是许多组织需要考虑的一个关键话题，尤其是那些正在研究依赖有保证的性能和高速无线网络的用例的组织。这些解决方案仍处于开发的早期阶段，这使得成本难以确定。

边缘计算的另一个网络考虑因素是查看将向数据中心或云发送哪些数据以及发送多少数据。大多数组织使用来自边缘的数据在一个集中的位置验证和再培训他们的人工智能模型。围绕数据构建一个考虑到网络和存储的战略对于确保管理维护边缘应用程序的总体成本至关重要。

申请费用

在未来几年，人工智能应用程序的生产数量预计将增长到 60% 以上。不是组织是否会部署人工智能应用程序，而是何时部署。组织要么构建或购买应用程序，要么使用混合方法。

构建人工智能应用程序

从头开始建设数据科学团队可能是一项艰巨的任务，尤其是由于大多数地区对合格候选人的需求很高，且供应有限。数据科学家的平均工资从 10 万美元到 15 万美元不等，取决于技能水平。即使是内部有人工智能开发人员的组织，也经常采用构建和购买相结合的策略，将其内部专业知识用于帮助其与众不同的关键应用程序。

购买人工智能应用程序

对于那些还没有数据科学家和人工智能开发人员的组织来说，购买人工智能应用程序是首选方法。

Prebuilt applications 可以定制，价格从数千美元到数万美元不等，具体取决于它们的许可方式。

Custom applications 从头开始构建，包括开发和推出，成本高达数十万美元。

根据客户需求，可以购买额外的服务合同，用于对这些应用程序进行持续管理和升级。

管理成本

边缘计算为管理带来了独特的挑战。这些环境高度分散，部署在远程位置，没有经过培训的 IT 人员，而且通常缺乏数据中心预期的物理安全性。

管理软件

专用边缘人工智能管理解决方案通常根据使用情况定价，管理中的系统或 GPU 是决定因素。这些解决方案具有为边缘部署量身定制的关键功能，以及随着成本增长而扩展的能力。这些解决方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。

另一个管理选项是将传统的数据中心管理解决方案扩展到边缘。 VMware Tanzu 和 RedHat OpenShift 通常都存在于许多数据中心部署中，这意味着 IT 团队对它们有经验。将这些解决方案扩展到边缘可能需要增加许可成本，具体取决于公司签订的合同。

应考虑的其他成本包括使这些解决方案与边缘部署兼容所需的时间，以及对这些环境的持续管理。

托管服务

一些组织希望将其边缘计算环境的管理外包给系统集成商或其他管理合作伙伴。这些活动可能会有很大不同，包括人工智能模型的开发、基础设施的供应和管理，以及人工智能应用程序的推出和更新。

当构建和管理 edge AI 解决方案的内部专业知识有限时，通常会考虑此选项。根据范围、规模和持续时间的不同，这些项目的成本从数十万美元到数百万美元不等。

边缘计算比云计算便宜吗？

许多组织都在云计算领域进行了大量投资。现在，随着边缘计算的兴起，他们正在寻求节约成本。当 将边缘与云进行比较 出现时， edge AI 通常是一项新的投资，因此需要提前开始。如果将这一成本与移动流媒体数据并将其存储在云中的成本相比较，成本可能会有所降低。

大多数情况下，向边缘计算的转移是由于一个需要实时响应或部署在带宽有限的远程位置的用例。例如，由于延迟要求，云环境不可能提供预测性维护、安全警报或自动机器等工作负载。

在这种情况下，降低边缘计算的成本并不重要；相反，人工智能算法为组织带来了巨大的商业价值。

边缘计算的价值是什么？

对于大多数组织来说，边缘计算是一种范式转变。与其他转型转变一样，如果不仔细思考，这个过程可能会很复杂，成本也很高。然而，当与人工智能结合时，您的组织可以看到巨大的好处。从提高效率到降低运营成本，再到改善客户智能和体验， edge AI 带来的经济效益可以用数百万美元来衡量。

人工智能提供了一种无摩擦的购物体验，顾客可以走进商店，选择他们想要购买的商品，然后离开，商品会自动记入他们的账户。

零售商通过人工智能解决劳动力短缺和供应链问题 ：在过去的一年里，零售商经历了令人难以置信的挑战，劳动力减少了 6.2% ，停工对全球供应链造成了严重破坏。使用人工智能解决方案，商店和餐馆已经能够改进自动化、预测和物流，为客户提供更好的体验。

人工智能检验降低了总制造成本 ：在任何生产线上，手动检查都需要大量时间，并且需要高技能工人来保持高质量。当需要准确、快速的缺陷检测时，人工智能可以是提高整体设备效率（ OEE ）和提高生产线产量的完美解决方案。一家制造商能够通过在工厂使用人工智能光学检测，将检测成本从总制造成本的 30% 降低到 30% 。

智能医院优化工作流程，改善临床医生体验 ：医疗服务的提供变得越来越具有挑战性，提供者、员工和 IT 都必须用更少的资源做更多的事情。人工智能有助于增强这些供应商的工作，为他们提供有价值的及时见解，不仅减轻他们的负担，还拯救生命。使用视觉人工智能监控患者和自动化工作流程，一个拥有 100 张床位的设施每年可以节省 1100 万美元。

开始

鉴于 Edge AI 的价值，如何推出成功的 edge 战略无疑是组织和 IT 部门关注的一个关键话题。作为人工智能领域的领导者，NVIDIA 与客户和合作伙伴合作，创建了能够提供强大分布式计算的边缘计算解决方案；安全远程管理；以及与业界领先技术的兼容性。

关于作者

Amanda Saunders 在 NVIDIA 负责 Edge 和企业计算解决方案集团的 Edge AI 产品营销。她为医院、商店、仓库、工厂等带来了智能的边缘计算解决方案。除了从事 edge 解决方案之外， Amanda 还在 NVIDIA 担任销售和营销角色，与 AI 、数据科学、虚拟 GPU 和许多不同行业合作。

审核编辑：郭婷