课程摘要本节承接RNN时序建模，学习Transformer如何通过自注意力直接建立载荷、边界条件、几何位置和场变量之间的全局联系。课程讲解Token、Query/Key/Value、缩放点积注意力、多头注意力、位置编码、掩码、残差连接与前馈网络，并用NumPy实际计算注意力矩阵、因果掩码和有限元场分块。学习者将理解Transformer在长时序预测、全场重建和ViT有限元结果分析中的应用方法及计算限制。一、本节学习目标完成本节学习后，你应该能够：说明RNN与Transformer处理力学数据时的主要区别。理解Token、Query、Key、Value的含义。推导缩放点积注意力的基本计算过程。理解多头注意力为什么能够同时关注不同力学因素。解释位置编码和掩码在力学任务中的作用。将有限元节点、时间步或场图像转换为Transformer可以处理的Token。使用NumPy计算注意力权重，并检