边缘人工智能与云人工智能：优势与责任

边缘计算是一种分布式方法，处理和存储数据在其源头附近，即网络的“边缘”。大多数边缘计算基础设施依赖嵌入式设备，这些设备无处不在，从消费电子、医疗设备、汽车到航空航天和安全关键系统。嵌入式设备不再将数据发送到远方的云服务器，而是在本地处理和存储数据。

边缘人工智能是边缘计算的一部分，在嵌入式设备上执行机器学习和人工智能密集型任务。嵌入式产品变得足够智能，能够完成所有的脑力工作。Edge AI 可能依赖互联网连接，也可能不依赖。

虽然边缘计算正在逐步增长，但云计算是一种可扩展的基础设施，已经取代了本地的遗留系统。

嵌入式系统云人工智能

主流AI应用依赖云AI，但它对嵌入式系统依然具有相关性。“云”一词暗示的是可扩展性，而Edge AI却未能达到这一点。边缘AI的问题源于常见硬件限制的核心。

据Cloudera欧洲、中东和非洲地区现场首席技术官Christopher Royles介绍，边缘AI应对着连接性、功耗和温度管理等严格限制。

“归根结底，边缘人工智能需要大量相关数据，这些数据在边缘收集，并输入仿真环境，在那里模型可以被训练和优化，从而创造最佳的整体结果，”他说。“所有这些都必须在网络、电力和热量限制的限制下完成。”

这些因素并不限制云人工智能，因为虚拟计算资源会发挥作用。AI加速器、GPU、TPU、SmartNIC和并行处理器能够处理云端的庞大工作负载。

在某些深度学习应用中，机器学习和人工智能算法需要部署在嵌入式设备上。Royles表示，边缘系统的主要挑战在于运行非确定性进程，并对其进行更新以实现准确性、精准性和安全性。

边缘人工智能无法部署复杂模型，这正是云人工智能变得更为重要的地方。借助云人工智能，嵌入式工程师可以访问大型语言模型（LLM）和更大规模的训练模型，构建更智能的代理。

“云人工智能在模拟和训练阶段的嵌入式系统中受益，”罗伊尔斯说。“它也可以成为低成本存储、灵活性和计算选择的关键驱动力。”

在这些阶段，嵌入式系统可以使用小型语言模型或压缩数据集，以高效利用云人工智能。

云人工智能责任

对远程服务器的过度依赖是嵌入式系统逐渐远离云依赖的关键驱动力。Dedicated Computing首席执行官、英特尔美国渠道顾问委员会投资人兼董事会成员Phil Spivey表示：“当系统依赖远程数据中心时，它会继承该环境的所有不确定性：延迟、带宽、故障，甚至软件变更带来的运行负担，超出其控制范围。”

将数据发送到云服务器、接收更新和存储数据的过程，阻碍了任何嵌入式产品的关键功能和商业案例。在关键任务系统中，如手术室中的医疗设备或战斗环境中的防御平台，斯派维补充道，“哪怕几毫秒的延迟也是不可接受的”。

云计算模型一直押注于只向客户收取消耗资源费用的议程。整个云计算模型成为原始设计制造商（ODM）的负担，这些制造商正在为原始设备制造商（OEM）构建工程计算系统。

基于云的人工智能产品打破了一次性销售收入模式，转而促进长期运营成本循环。OEM需要为每项云服务付费，包括通话、周期、托管、带宽、存储等。如果OEM客户被迫为服务付费，将面临巨大的运营费用负担。

这些应用场景包括为医院提供扫描仪、为安保公司提供基于eSIM的摄像头，以及向发电设施提供测量设备。当OEM厂商在全球范围内运输数百万此类产品时，这一应用场景就成立了。

因此，OEM厂商失去了对产品生命周期成本的控制。供应商锁定的风险使云人工智能成为OEM厂商的“运营合作伙伴”。除了价格模式的颠覆外，云访问还可能带来数据合规风险。

为什么选择边缘AI？

除了企业业务优势外，边缘人工智能还降低了OEM厂商的成本。没有，或者至少只有少数云层往返。小块数据会在云端之间来回传递。

有了边缘人工智能，带宽使用大幅降低。因此，有限的云端交互降低了实施和持续维护的成本。OEM和立体机制造商可以提升投资回报率。

边缘人工智能可以被视为小型企业和初创企业中更廉价但更有效的云人工智能替代方案。此外，高质量的本地边缘和物联网产品也需要大量投资。

Edge AI的优势包括：

• 本地加工：Spivey分享了为什么“本地加工不仅是性能优势，更是安全要求。”他说，在机器人辅助手术的现实案例中，边缘人工智能允许数据保持在生成位置、设备上或作时立即需要实时决策的地方。由于缺乏向云端进行信息交换，边缘人工智能提高了物联网设备的响应速度。

• 网络安全：由于边缘AI中的“一切”都发生在本地，没有双向云连接，数据对网络攻击的脆弱性较低。数据隐私和合规使得依赖本地处理以实现安全的行业中，如金融、医院、智能工厂、制造单位、自动驾驶汽车和军队等行业中，成为边缘人工智能的应用场景。

• 嵌入式智能：机器学习算法，如人工神经网络，专为嵌入式产品设计为轻量级。FANN-on-MCU和TinyML支持在嵌入式产品上运行嵌入式智能。凭借超低延迟、毫瓦功率和较低带宽使用，它们消除了向云端广播原始数据的需求。

混合方法

Spivey解释说，开发者必须设计有限的空间、受限的散热和可预测的性能。“正确的答案不是云与边缘。这是一种混合模型，将智能置于最合理的位置。密集的培训和长期分析应在云端或企业数据中心进行，因为规模优势对你有利。但实时推断、安全关键响应和受保护的数据必须保持在边缘。

“归根结底，混合边缘人工智能关乎运营保障，”他补充道。“你可以同时获得本地计算的确定性性能和云的可扩展性，同时不会强迫系统陷入对连接性的脆弱依赖。对于每个决策都带来实际后果的行业来说，这种平衡不仅是理想的;更是必不可少的。”

一些企业已经将云AI和边缘AI的整合纳入其IT战略。Edge AI 提供了人类与人工智能之间的个性化、实时重叠。另一方面，云人工智能增加了云的功能，如集中管理、更多资源访问以及更强的处理能力。

云人工智能允许嵌入式产品通过调整计算能力与云服务集成。集成于云端的边缘人工智能，在IT基础设施中保持统一一致。

罗伊尔斯说：“许多拥有本地部署或网络内嵌入式系统的组织会利用云端收集、聚合和存储其嵌入式系统的遥测数据。”“然后他们会带走数据重建并更新模型，重新部署回边缘。”

边缘人工智能从汽车、医疗、医疗设备、智能工厂和安全关键系统的实时流程中生成数据。未处理的原始数据会被输入云端的高级AI和机器学习模型，用于训练和自动扩展应用。

例如，在云人工智能基础设施中，低功耗的闭路电视摄像头会捕捉视频并发送到云端进行检测。

边缘AI模型使闭路电视摄像头变得“更智能”，并能做出基于数据的实时决策。同一台摄像头现在可以检测任何可疑活动，并向相关用户发送实时更新。摄像头传输的数据会被输入先进的分析软件，以评估可疑活动的性质并预测趋势。因此，企业可以建立知识库，用于产品迭代和更好地理解。

边缘AI生成的数据被输入仿真环境，如数字孪生模型，用于提前虚拟运行流程或构建产品。嵌入式数据使工程师能够估算实际执行中的性能。另一个鲜为人知的边缘人工智能应用场景是硬件在环仿真（HIL）。HIL仿真使用实际硬件或生成的数据与虚拟模型来开发和测试实时控制系统。

谁赢了：云AI还是边缘AI？

根据Precedence Research的数据，截至2025年，边缘AI市场价值达到257亿美元。另一方面，根据MarketsandMarkets的一份报告，云人工智能市场的价值高达803亿美元。云AI市场大约比边缘AI大3×。

企业对这类IT策略的采用率较低，包括云AI和边缘AI的结合。这是因为将未处理的嵌入式数据转移到高级机器学习模型中是一项缓慢且繁重的任务。

就在2023年人工智能成为主流之际，企业开始开发无代码软件。展望未来，Royles认为“在所有形态中，包括嵌入式系统，将会少写声明式代码。”

关注点也可能转向预训练模型。他补充道：“预训练模型将在所有应用中大规模取代传统编码。”“我们将看到更多嵌入式设备连接起来，先收集数据和遥测数据，然后在收集足够多的数据和遥测数据后，再用AI模型进行更新。届时，我们将看到这些嵌入式系统执行更多自动化和自主任务。”

关于作者

维纳斯·科利是一名自由撰稿技术撰稿人和记者。她专注于电子学、信息技术和量子物理。她拥有印度孟买大学电子与电信工程学位。