HyperAIHyperAI

Command Palette

Search for a command to run...

物理增强神经常微分方程中的时间范围选择:理论洞见与磁链应用

Giulio Montecchio Benjamin Hartmann Sven Reimann Maximilian Manderla Jan Achterhold Daniel Gorges

摘要

在物理增强神经常微分方程的训练过程中,积分时间范围起着至关重要的作用。我们基于输入-输出模型的经典非线性系统辨识,对神经常微分方程训练中的时间范围扩展得出了结论。基于这一洞见,我们提出一个框架,该框架利用更长的时间范围来减少物理参数估计中的偏差,从数据中提取残差信息,并充当正则化器以提升泛化能力。在学习永磁同步电机模型时,该方法被用于联合估计磁链图和电阻。

一句话总结

借鉴经典非线性系统辨识方法,Robert Bosch GmbH 和 RPTU Kaiserslautern-Landau 大学的研究人员提出了一种框架,该框架在物理增强神经常微分方程的训练中利用更长的积分时间范围,以减少物理参数估计中的偏差,从数据中提取残差信息,并提高泛化能力,通过联合估计永磁同步电机的磁链图和电阻进行了验证。

核心贡献

  • 论文建立了物理增强神经常微分方程训练与非线性系统辨识之间的明确联系:显式步长 ODE 求解器充当 NARX 预测器,而循环积分对应于一个 k 步前向的类 NOE 预测器。
  • 提出了一种训练框架,利用更长的积分时间范围来减少物理参数估计的偏差,从数据中提取残差信息,并充当正则化器以提高泛化能力。
  • 应用于永磁同步电机,该框架联合估计了磁链图和电阻,减少了物理参数估计的偏差,并提高了分布外预测性能。

引言

物理增强神经常微分方程(PeN-ODEs)将神经网络组件与显式第一性原理动态关系相结合,提供了数据高效、物理可解释且适用于控制任务的模型。在训练期间,积分时间范围,即在计算损失之前执行的求解器步数,通常被视为一个超参数,但其选择对训练动态和估计器偏差有强烈影响,而这方面缺乏理论依据。作者建立了神经常微分方程训练与经典非线性系统辨识之间的新联系,表明显式步长求解器表现为具有外生输入的非线性自回归(NARX)预测器,而一个时间范围内的循环积分则对应于非线性输出误差(NOE)仿真。这一见解揭示了更长的积分时间范围通过强调长期保真度来减少物理参数估计中的偏差,但代价是优化更具挑战性。该框架在一个现实问题上得到了验证:从实验数据中辨识永磁同步电机的磁链图和电阻。

方法

作者将神经常微分方程的训练构建为一个系统辨识问题,在数值积分步长和离散时间非线性预测器之间建立了直接联系。从一般 ODE 开始

x˙=f(x,u,θ)\dot{\boldsymbol{x}} = f(\boldsymbol{x}, \boldsymbol{u}, \boldsymbol{\theta})x˙=f(x,u,θ)

他们表明,任何具有固定步长的显式单步 ODE 求解器都可以表示为一个一步前向预测器

x^k+1=g(xk,uk,θ).\hat{\boldsymbol{x}}_{k+1} = g(\boldsymbol{x}_k, \boldsymbol{u}_k, \boldsymbol{\theta}).x^k+1=g(xk,uk,θ).

这种表述将系统动力学 fff 和求解器内部操作整合到一个单一函数 ggg 中,这本质上是一个具有外生输入的非线性自回归(NARX)模型。通过允许使用过去的状态和输入值,多步积分器也被纳入,从而得到更通用的 NARX 形式

x^k+1=g(xk,,xknx,uk,,uknu,θ).\hat{\boldsymbol{x}}_{k+1} = g(\boldsymbol{x}_k, \dots, \boldsymbol{x}_{k-n_x}, \boldsymbol{u}_k, \dots, \boldsymbol{u}_{k-n_u}, \boldsymbol{\theta}).x^k+1=g(xk,,xknx,uk,,uknu,θ).

然后,该预测器表示被扩展到多步积分。当模型从测量的初始条件 x0\boldsymbol{x}_0x0 开始在时间范围 HHH 内展开时,预测状态会循环生成:

x^k+1=g(x^k,uk,θ)for k=0,,H1,\hat{\boldsymbol{x}}_{k+1} = g(\hat{\boldsymbol{x}}_k, \boldsymbol{u}_k, \boldsymbol{\theta}) \quad \text{for } k = 0,\dots, H-1,x^k+1=g(x^k,uk,θ)for k=0,,H1,

其中 x^0=x0\hat{\boldsymbol{x}}_0 = \boldsymbol{x}_0x^0=x0。这种结构被称为 k 步前向预测器。如果初始条件也取自模型自身的预测,则该表述变为非线性输出误差(NOE)预测器。训练损失是在整个时间范围以及从数据集中抽取的 NICN_{\mathrm{IC}}NIC 个初始条件上的均方误差:

L(θ)=1HNICj=1NICk=0H1xk+1(j)g(x^k(j),uk,θ)2.L(\boldsymbol{\theta}) = \frac{1}{H N_{\mathrm{IC}}} \sum_{j=1}^{N_{\mathrm{IC}}} \sum_{k=0}^{H-1} \big\| \boldsymbol{x}_{k+1}^{(j)} - g(\hat{\boldsymbol{x}}_k^{(j)}, \boldsymbol{u}_k, \boldsymbol{\theta}) \big\|^2.L(θ)=HNIC1j=1NICk=0H1xk+1(j)g(x^k(j),uk,θ)2.

在此框架中,神经常微分方程的训练被直接解释为对一步前向预测器 ggg 的辨识,时间范围 HHH 控制着 NARX 类(H=1H=1H=1)和 NOE 类(H>1H>1H>1)优化之间的权衡。

积分时间范围的选择基于两个关键理由。对于旨在进行长期仿真或开环操作(例如,模型预测控制)的模型,更长的时间范围可减少误差累积,并使行为更接近输出误差模型。对于作为闭环架构一部分运行的模型,其中最新测量值被持续反馈,一步前向预测就足够了。第二个关键动机是偏差最小化。当模型结构无法完美地表示真实对象动态时,使用 H=1H=1H=1 进行训练可能会产生有偏差且不一致的参数估计。增加时间范围,尽管会使优化变得非凸,但通过强制模型在更长范围内进行准确预测,即使在结构存在缺陷的情况下,也有助于减轻这种偏差。

作者将此通用框架应用于永磁同步电机(PMSM)的辨识。在同步旋转 dqdqdq 坐标系中,电压方程为

udq=Ridq+ωJψdq+ddtψdq,\boldsymbol{u}_{\mathrm{dq}} = R \boldsymbol{i}_{\mathrm{dq}} + \omega J \boldsymbol{\psi}_{\mathrm{dq}} + \frac{\mathrm{d}}{\mathrm{d}t}\boldsymbol{\psi}_{\mathrm{dq}},udq=Ridq+ωJψdq+dtdψdq,

其中磁链被建模为一个参数化的非线性函数 ψdq=ψ(idq,θ)\boldsymbol{\psi}_{\mathrm{dq}} = \boldsymbol{\psi}(\boldsymbol{i}_{\mathrm{dq}}, \boldsymbol{\theta})ψdq=ψ(idq,θ)。使用链式法则,磁链导数表示为 ddtψdq=L(idq,θ)ddtidq\frac{\mathrm{d}}{\mathrm{d}t}\boldsymbol{\psi}_{\mathrm{dq}} = \boldsymbol{L}(\boldsymbol{i}_{\mathrm{dq}}, \boldsymbol{\theta}) \frac{\mathrm{d}}{\mathrm{d}t}\boldsymbol{i}_{\mathrm{dq}}dtdψdq=L(idq,θ)dtdidq,其中 L\boldsymbol{L}L 是微分电感矩阵。将此代入电压方程,得到关于电流的状态空间 ODE:

ddtidq=L1(idq,θ)[RidqωJψ(idq,θ)+udq].\frac{\mathrm{d}}{\mathrm{d}t}\boldsymbol{i}_{\mathrm{dq}} = \boldsymbol{L}^{-1}(\boldsymbol{i}_{\mathrm{dq}}, \boldsymbol{\theta}) \big[ -R \boldsymbol{i}_{\mathrm{dq}} - \omega J \boldsymbol{\psi}(\boldsymbol{i}_{\mathrm{dq}}, \boldsymbol{\theta}) + \boldsymbol{u}_{\mathrm{dq}} \big].dtdidq=L1(idq,θ)[RidqωJψ(idq,θ)+udq].

这是一个物理增强神经常微分方程(PeN-ODE):磁链图 ψ\boldsymbol{\psi}ψ 是一个黑盒神经网络,而电阻 RRR 是一个物理可解释的参数。与所选的 ODE 求解器一起,积分步长变为一个电流预测器

i^dq,k+1=g(idq,k,uˉk,θˉ),\hat{\boldsymbol{i}}_{\mathrm{dq}, k+1} = g\big(\boldsymbol{i}_{\mathrm{dq}, k}, \bar{\boldsymbol{u}}_k, \bar{\boldsymbol{\theta}}\big),i^dq,k+1=g(idq,k,uˉk,θˉ),

其中 uˉk=[udq,k,ωk]T\bar{\boldsymbol{u}}_k = [\boldsymbol{u}_{\mathrm{dq},k}, \omega_k]^Tuˉk=[udq,k,ωk]Tθˉ=[R,θ]T\bar{\boldsymbol{\theta}} = [R, \boldsymbol{\theta}]^Tθˉ=[R,θ]T。训练最小化电流的 k 步前向预测误差,使模型能够直接在预测器结构内学习非线性磁链图。通过选择时间范围 H>1H > 1H>1,该框架可以克服传统单步磁链估计方法中固有的偏差,生成一个既准确又物理一致的模型。

实验

在仿真和测试台数据上的实验评估表明,训练期间增加预测时间范围可减少模型与对象不匹配带来的估计偏差,从而产生更物理的电阻估计和更准确的磁链图。更长的时间范围提高了对未知场景的泛化能力,充当正则化器,以略微增加训练误差为代价。在存在许多未建模动态的真实测试台数据上,这种趋势是非单调的,但总体而言,该技术有助于从不完善的数据中提取信息,而对于已经设计良好的辨识实验,该技术则没有提供额外的好处。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供