本文提出了二维非线性反应扩散方程的局部间断Galerkin谱元法.在空间方向上采用了Legendre-Galerkin Chebyshev谱配置法，即在每个子区域上，该格式按Legendre-Galerkin谱方法形成，子区域交界面处的跳跃项利用数值流量进行处理，非线性项采用在Chebyshev-Gauss-Lobatto点上的插值进行计算.时间方向上采用四阶低存储Runge-Kutta方法.文中给出了半离散格式下的稳定性和收敛性分析，以及单区域和多区域算法的数值算例，并与间断Galerkin有限元方法进行比较.

对于未知控制参数的抛物方程反问题建立了时空谱方法，在空间方向采用Legendre-Galerkin方法离散，时间方向采用Legendre-tau方法离散，对非线性项采用Chebyshev插值，可使用快速变换计算.使用显隐迭代方法求解离散后的方程，并通过增加的条件来修正控制参数.对于时间区间较大的情况，给出时间方向多区间时空谱方法，可改善迭代收敛性.数值结果验证了该方法的有效性.

本文针对双资产欧式期权定价问题构造了特征有限元方法，给出了此方法的L²-模最优阶误差估计和H¹-模最优阶误差估计.数值算例验证了该方法的收敛性与稳定性，同时表明该方法克服了数值震荡现象.

本文针对Riesz回火分数阶平流-扩散方程，采用隐式中点方法离散一阶时间偏导数，用修正的二阶Lubich回火差分算子逼近Riesz空间回火分数阶偏导数，并对平流项采用中心差商进行离散，构造出新的数值方法，获得了数值方法的稳定性和收敛性，该方法的收敛阶在空间和时间方向均达到二阶精度.数值试验验证了数值方法的有效性.

波形松弛（WR）方法的研究成果丰富，但主要集中于收敛性，罕见关于稳定性的研究.研究基于线性多步法的WR方法的线性稳定性，获得了线性稳定的几个充分条件，给出了一些具体的线性稳定WR方法的例子，并提供了一些支持理论结果的数值算例.

在五阶WENO有限差分格式的基础上，六阶WENO有限差分格式引入了额外的四点模板，减少了WENO格式的数值耗散.然而，该格式在驻点上无法达到理想收敛阶.为解决此问题，本文在非线性权重中引入整体模板的光滑性修正因子，使得驻点上非线性权重更快地收敛于理想权重，理论分析表明改进后的六阶格式能够在驻点上达到理想的六阶精度.驻点上的收敛阶测试和间断问题的数值实验表明，新提出的六阶WENO格式不仅在驻点上能够保持理想收敛精度，在间断问题上能保持本质无振荡的激波捕捉性质，同时在双曲守恒律解的光滑区域有效地求解细小尺度结构，还能够保持原有的六阶格式的计算效率.

本文设计了一种新的三维自适应迎风稳定化有限元方法（SUPG-IP），并对比研究了几种半导体器件模拟的并行有限元方法.数值模拟结果表明：稳定化有限元方法适用于大偏压以及高掺杂器件模拟；而经典的Zlamal有限元方法更适用于计算半导体器件的电学响应曲线.我们基于三维并行自适应有限元平台PHG开发了半导体器件漂移扩散模型求解器DevSim，并对几种典型的半导体器件进行了模拟测试.计算结果与商业软件Sentaurus吻合较好，验证了算法的有效性.我们对PN结进行了超大规模网格并行模拟测试，网格达8亿单元并使用2048进程计算，展示了算法良好的并行可扩展性.

本文研究了半导体器件伽马辐照电离损伤效应定量物理模型系列算法，其中包括有限元空间离散、隐式时间积分以及非线性系统解耦迭代算法.算法有效地处理了电离损伤模型多组分、电-输运-反应多物理耦合以及强刚性等难点.基于三维并行有限元平台（PHG），我们完成了半导体器件电离辐照效应三维并行求解器TIDSim的研制.针对典型场效应晶体管NMOS、双极晶体管GLPNP进行了电离辐照损伤模拟，数值模拟结果与器件辐照实验数据吻合.

本文介绍我们开发的一款适用于半导体器件及其辐照损伤效应定量模拟的三维并行仿真应用软件平台3Ddevice.该软件由中国科学院数学与系统科学研究院和中国工程物理研究院微系统与太赫兹研究中心联合开发，能直接解算半导体器件的电学响应性质及其氧化物层在电离辐照下带电缺陷与界面态缺陷累积动力学过程，计算器件损伤后的电学响应偏移.我们已经实现器件电离辐照总剂量效应以及低剂量率增强效应定量模拟，模拟结果与实验数据吻合良好.软件采用C/S架构，分为本地客户端与远程计算端两大子系统.客户端由总控模块、前处理模块、通信模块以及后处理模块组成.总控模块主要的功能是求解器挂载、数值模拟流程搭建与管理.前处理模块主要功能是器件几何建模以及网格生成与优化.通信模块主要功能是求解器参数初始化与硬件系统状态监控.后处理模块主要功能是数值模拟结果可视化与数据分析.计算端基于三维并行自适应有限元平台^[1]（PHG）开发，目前包括半导体器件模拟器（DevSim），电离辐照损伤模拟器（TIDSim）.上述求解器采用MPI通讯技术，支持大规模分布式并行，已实现十亿量级网格单元数的器件电离损伤及电学响应模拟.本文介绍的仿真软件系统是一个初级版本，将会得到持续开发更新，它的详细使用方法请参照并以软件使用说明书为准.

CMOS图像传感器是空间光学成像系统中的关键电子器件，但受到空间总剂量辐射效应影响其特性发生退化，特别是暗电流显著增大.本文利用TCAD仿真工具构建了4TCMOS图像传感器像素单元的二维仿真结构，利用总剂量效应模型计算了器件氧化层中辐射诱导氧化物陷阱电荷和界面态在不同累积剂量下的分布，并计算了器件暗电流随累积剂量的变化，以及传输栅对辐照暗电流的影响.通过分析辐照前后器件内部耗尽区的变化，以及传输栅偏置电压对器件电势分布的影响，获得了器件暗电流总剂量效应损伤机制.本文中电离总剂量效应的数值仿真方法和图像传感器暗电流损伤机制的分析可为评估器件抗辐射能力和设计加固提供技术支撑和指导.

半导体器件的电离辐射效应涉及到材料内部的一系列物理过程，包括空穴对的产生与复合、载流子的输运以及氧化物陷阱电荷和界面态电荷的形成与累积.空穴和H⁺的输运机制是理解电离辐射效应的关键环节，其中空穴的输运影响着氧化物陷阱正电荷的形成、退火以及H⁺的释放，从而影响界面态电荷的形成.本文建立Si/SiO₂界面的物理模型，借助TCAD数值模拟方法，分析不同剂量率辐照条件下空穴和H⁺在SiO₂体内的输运机制和浓度分布.

本文针对文献报道的2N2222晶体管中子辐射实验结果，开展了硅基三极管的脉冲中子辐射效应仿真研究.首先，介绍了基于连续性假设的硅基器件脉冲中子辐射效应TCAD仿真方法：通过求解中子诱发缺陷与载流子的连续性方程，可计算脉冲中子辐射过程中缺陷的动力学演化过程，以及器件电学性能的瞬态响应；给出了仿真方法使用的物理模型、缺陷种类、缺陷之间的反应类型和反应参数等，以及在TCAD软件中的实现过程.然后，以文献中2N2222晶体管为对象，进行了中子辐射损伤模型与仿真方法的验证，结果表明辐射退火完成后2N2222基极电流和集电极电流计算结果与文献报道的实验结果一致，证明了该仿真方法的正确性.

科学研究与工程实际中存在着大量的非线性偏微分方程，这使得非线性方程的求解变得越来越重要.本综述论文利用定义在粗网格上的有限元空间来重建任意有限元函数的Aubin-Nitsche技巧的误差估计.然后介绍如何利用这种对Aubin-Nitsche技巧的新视角来设计求解半线性椭圆方程和特征值问题的扩展子空间算法，同时给出相应的收敛性分析和计算量估计.特别地，当求解多项式形式的非线性方程和特征值问题的时候，扩展子空间算法的渐进计算量可以达到最优.本文的论述表明扩展子空间算法是一种用来设计求解非线性方程快速算法的框架，可以应用于更广泛的非线性方程的求解，同时也可以结合各种高效的线性解法器来提高非线性方程的求解效率.

复变函数法和有限截项法是解决孔边裂纹问题的常用方法，复变函数法是解析方法，有限截项法是半解析半数值的方法，采用这两种方法需要引入适当的保角映射函数，将问题转化为可求解的模型.本文分别用复变函数法和有限截项法求解无限远处受任意角度双向均匀拉伸应力、无限大板圆孔边四不等长裂纹的应力强度因子.结果表明，当水平裂纹对称，右裂纹长与半径的比值大于1时，有限截项法与复变函数法所得结果吻合较好；当水平裂纹不对称，右裂纹长与半径的比值大于1.5时，上述两种方法所得结果吻合较好.圆孔边四条裂纹退化为共线的两条裂纹时，复变函数法的结果与文献中已有的结果一致.

研究带漂移的单侧正规化回火分数阶扩散方程的数值格式.基于已有的针对单侧正规化回火分数阶扩散方程的三阶拟紧算法，将该算法的思想应用于带漂移的单侧正规化回火分数阶扩散方程的数值模拟，导出数值格式.证明了数值格式的稳定性与收敛性，并通过数值试验验证了数值格式的有效性.

时间分数阶四阶扩散方程是一类重要的发展型偏微分方程，其数值解的研究有重要的科学意义和工程实际价值.本文针对时间分数阶四阶扩散方程，研究一类显-隐（E-I）差分格式和隐-显（I-E）差分格式解法，该方法基于经典隐式和经典显式格式相结合构造而成，分析E-I和I-E两种差分格式解的存在唯一性、稳定性和收敛性.理论分析和数值试验结果证实本文E-I差分格式和I-E差分格式无条件稳定，具有空间2阶精度，时间2-α阶精度.在计算精度一致的要求下，E-I和I-E差分格式较经典隐式差分格式具有省时性，其计算时间相比古典隐格式减少约70%，研究表明本文格式求解时间分数阶四阶扩散方程是有效的.

设计准确、鲁棒和高效的间断检测方法，在任意给定的网格单元和任意时间上衡量解的光滑度，是杂交格式的关键问题.本文从有限差分形式的径向基函数（RBF-FD）方法出发设计间断检测方法，为解决其阈值参数的选取问题，采用数据分析中Tukey's箱线图方法增强算法的鲁棒性，最终提出一种准确、鲁棒和高效的RBF-FD间断检测方法.数值结果分析表明，RBF-FD间断检测方法在间断捕捉的准确性、鲁棒性和效率等方面优于已有的RBF方法和单调多项式插值方法，并且与五阶WENO-Z格式相比，应用RBF-FD方法的杂交格式可以加速2倍左右.

本文发展了一种中心型加权本质无振荡（WENO）格式.该格式通过在原始三阶WENO-JS格式的下风方向增加一个两点候选模板，并将文献[11]中的非线性自适应机制推广到r=2情况，格式记为WENO4-CU.经过近似色散关系分析可以看到，WENO4-CU格式的频谱特性较原始三阶WENO-JS格式具有明显的改进.通过六个典型算例的数值测试表明，WENO4-CU格式在对流动结构的分辨上较原始WENO3-JS、WENO3-M和WENO3-Z格式具有明显提高.

稀疏矩阵算法是超级计算领域的热点和难点研究内容之一.本文从高可扩展、高性能和高实用这三个角度，对过去30年来国内外稀疏矩阵计算的部分主要研究工作进行了综述.并配合在三个GPU上十余个稀疏BLAS算法的测试数据，讨论了同时达到高可扩展、高性能和高实用这三个目标的主要难点.最后提出了未来稀疏矩阵计算领域的一系列挑战.

本文提出了用以加速求解广义最小二乘问题的2×2块线性系统的GAOR方法的三类新的预处理子，研究了新预处理GAOR方法的比较定理.所得的比较结果表明当原GAOR方法收敛时，我们提出的新预处理GAOR迭代方法的收敛速度优于原GAOR.最后，给出的数值算例也很好的验证了新预处理方法的有效性．

给出了求解正交非均衡Procrustes问题的MM方法并分析了收敛性.为了克服算法迭代次数多和计算结果依赖初始迭代点的困难，设计了特殊的初始点选取策略，并使用了拟牛顿加速及Nesterov加速技巧。数值结果显示，在一定情形下，提出的算法相比已有方法有优势.

子矩阵约束问题源于实际应用中的子系统扩张问题，文中研究了子矩阵约束下二次矩阵方程对称解的迭代算法，先用牛顿算法把二次矩阵方程转化为关于校正矩阵的线性矩阵方程，再用修正共轭梯度算法（MCG算法）求解导出线性矩阵方程对称解或最小二乘解，建立了求单变量二次矩阵方程子矩阵约束下对称解牛顿-MCG算法.数值算例表明，该牛顿-MCG是有效的，能在有限步迭代得到方程的子矩阵约束解.

本文基于有限元方法，研究和发展了频率域弹性波方程的全波形反演方法.首先详细阐述了频率域弹性波方程的有限元正演方法，包括矩形单元上的有限元全离散格式、完全匹配层吸收边界条件以及有限元计算中震源的处理，并进行了正演模拟数值计算.其次，推导了矩形单元的全波形反演公式及其离散格式，也包括预条件最速下降法和正则化方法的结合应用.对均匀模型和国际标准的Overthrust复杂构造模型进行了并行全波形反演计算，反演中假定密度已知，通过反演Lamé参数来反演纵波和横波速度.反演基于频率多尺度策略，从低频至高频逐级进行，对数据含噪情况的也进行了计算，均得到了较好的反演结果.数值计算验证了文中方法、格式和算法的正确性和有效性.