**如今,****数据处理架构呈现出一种“分裂”的特性。**拥有庞大规模和计算能力的“云”计算成为了关注焦点,而“边缘”计算将处理过程置于“一线”,连接着电子设备与真实世界。在云端,数据存储量巨大,处理过程需要排队和调度;而在边缘,处理工作则有针对性地即时完成。
这使得系统能够针对本地指令和应用程序反馈做出快速响应,同时减少数据流量,以确保处理过程更加安全。当然,这两个区域也会进行交互,边缘节点将数据传回云端,实现跨设备或地点的汇总与分析;而全局指令和固件更新则反向传递至边缘。
这两种处理环境都得益于人工智能(AI)和机器学习(ML)的最新发展。例如,在数据中心,包含数万颗处理器(主要为GPU)的数千台服务器执行大规模并行计算,以生成和运行ChatGPT等大语言模型(LLM)。从某些指标看,这些平台的性能现在已经超越了人类。
**在边缘,处理过程根据操作算法对反馈传感器和指令做出反应。**但借助机器学习,算法现也能够有效地从反馈中学习;由此改进算法及其计算系数,让受控过程更为准确、高效和安全。
云端和边缘的能耗差异
在能源的使用规模层面,云计算和边缘计算存在很大的实际差异。这两种情况的能耗都必须降至最低;但数据中心的电力消耗十分巨大,据国际能源机构(IEA)估计,约为240-340太瓦时(TWh),占全球需求的1%-1.3%。人工智能和机器学习将进一步加速能源消耗;IEA预测在未来几年内将增长20%-40%,而这一数字的历史数据仅为3%左右。
与游戏和视频流媒体等按需数据处理任务不同,AI包含学习和推理两个阶段;其中,学习阶段借助数据集来训练模型。据报道,ChatGPT在这个过程中消耗了超过1.2TWh的电力。另一方面,根据de Vries的统计,处于推理或运行阶段的LLM每天可能需要消耗564MWh的电力。
而在数据处理架构的另一端,物联网(IoT)节点或可穿戴设备中的边缘计算功耗可能不超过毫瓦级。即使对于电机控制和电池管理等工业及电动汽车(EV)类应用,为控制电路预留的损耗预算也很小,无法适应AI和机器学习引入带来的大幅能耗提升。
因此,微型机器学习(tinyML)已发展为一个在设备上实施传感器数据分析的应用及技术领域;同时,其也经过优化,旨在实现极低功耗。
tinyML和电源管理
在具体应用中采用机器学习技术是一个涉及到多个维度的问题。举例来说,tinyML可用于电池管理,其目标是在尽可能快速、安全并高效充电的同时,以最小的压力控制放电。电池管理还会监控电池的健康状况,并主动平衡电芯以确保其均衡老化,从而获得最高的可靠性和使用寿命。
受监控的参数包括单个电芯的电压、电流和温度;管理系统通常需要预测电池的充电状态(SOC)和健康状况(SOH)。这些参数均为动态量,与电池的使用历史及测量参数间存在复杂且多变的关系。
尽管任务复杂,但实现AI处理并不需要使用昂贵的GPU。ARM Cortex M0和M4系列等现代微控制器可轻松胜任电池管理中的机器学习任务,且它们的功耗很低,现已集成至针对该应用的专用片上系统(SoC)中。
电池管理IC十分常见,但在实施机器学习算法的MCU助力下,基于传感器的历史和当前数据的信息与模式可用于更好地预测SOC及SOH,同时确保高度安全性。与其它ML应用一样,这需要一个基于训练数据的学习阶段;数据可以来自包含不同环境条件和多个电池制造公差的日志记录;在缺少现场实际数据的情况下,也可以利用建模得到的合成数据。
正如AI的本质一样,模型可随现场数据的积累不断更新,以扩大或缩小应用规模,或用于其它类似系统。虽然学习过程通常是应用投入使用前的一项工作,但也可以成为基于传感器数据的后台任务,在本地或通过云端进行离线处理,以获得持续的性能改进。自动机器学习(AutoML)工具结合电池管理SoC的评估套件可实现这一功能。
机器学习模型
在机器学习和电池管理等边缘应用领域中,有多种可供选择的模型。一个简单的分类决策树所占用资源很少,最多仅需几千字节的RAM,但能够为此类应用提供足够的功能。该方法可将采集到的数据简单地分为“正常”或“异常”;示例如图1所示。
图1:在此决策树分类器示例中,“类别1” = 正常,“类别0” = 异常
此处使用两个参数来描述多电芯电池组放电过程中的状态:最强电芯的SOC(充电状态),以及最强与最弱电芯间的电压差。蓝色和白色节点代表正常数据;分类区域用蓝色(“类别0”= 正常)和灰色(“类别1”= 异常)表示。
如要评估输出数据的连续值,而不仅仅是类别,可以使用更复杂的回归决策树。其它常见的ML模型包括支持向量机(SVM)、核近似分类器、近邻分类器、朴素贝叶斯分类器、逻辑回归和孤立森林。神经网络建模可以包含在AutoML工具中,以增加复杂度为代价来提高性能。
一个ML应用程序的整个开发过程被称为“MLOps”,即“ML Operations”,包括数据的收集与整理,以及模型的训练、分析、部署和监控。图2以图形方式展示了使用PAC25140芯片的电池管理应用开发流程;该芯片可监控、控制和平衡由多达20个电芯组成的串联电池组,适用于锂离子、锂聚合物或磷酸铁锂电池。
图2:上述设计示例突出展示了tinyML开发流程
案例研究:弱电芯检测
退化电芯检测是电池SOH监测的一部分。这些电芯的特征之一可能体现为在负载下电池电压异常偏低。然而,电压还受实际放电电流、充电状态和温度的影响,如图3所示;图中突出显示了强弱电芯在不同温度及负载电流下的示例曲线。
图3:强、弱电芯的放电曲线
图3显示了在电芯电量接近耗尽时,强弱电芯电压间出现的显著差异;然而,在此时检测到弱电芯可能为时已晚,无法避免过热和安全问题。因此,实施ML成为一种解决方案,从而在放电周期的较早阶段从数据中寻找相关模式。
ML方法的有效性在Qorvo进行的实验中得到充分体现。该实验将一颗弱电芯插入一个由10颗电芯组成的电池组,并与一个状态良好的电池组进行比较。两组电芯在不同恒定电流倍率和温度下放电,并生成训练数据;监测参数包括它们的电流、温度、最强与最弱电芯电压差,以及最强电芯的SOC。
在20个放电周期中,每10秒对参数进行同步采样,并使用表1所列的不同模型进行分析。将结果与20个放电周期的独立测试数据进行比较,显示两种方法的一致性非常接近;随着训练样本的增加,其一致性将进一步提高。
图4:从不同ML模型的训练及测试数据中提取示例结果
SoC足以实现对ML的支持
虽然当前AI的关注焦点集中在大规模、高功率应用;然而,针对电池监测等应用,使用MCU和tinyML技术 的“边缘部署型”AI也可以成为高性能、低功耗解决方案的一部分。在这种场景下,SoC解决方案拥有所需的全部处理能力,并可集成各种机器学习算法。
所有必要的传感器和通信接口均已内置;此外,SoC还拥有丰富的评估与设计工具生态系统的支持。