高性能计算的核心目标是追求极致的计算性能.本文对高性能计算在硬件工程、软件工程、性能工程三个阶段需要攻克的核心技术难题进行了总结,并且重点针对E级计算发展趋势下实现复杂应用负载与多样异构系统之间高效适配存在的性能可移植挑战,阐述了性能工程的相关概念和研究意义,最后讨论了当前性能工程涉及的三大关键技术:模式驱动的性能建模方法、输入感知的智能调优引擎、统一抽象的软硬件代码生成.

稀疏优化是最优化学科近十余年发展起来的一个崭新分支.它主要研究带有稀疏结构特征的优化问题，在大数据分析与处理、机器学习与人工智能、信号与图像处理、生物信息学等学科领域有广泛应用.然而，稀疏优化属于非凸非连续优化，是一个NP-难问题.一直以来，人们通常采用一阶算法求解大规模稀疏优化问题，并取得了丰富成果.为提高计算速度和求解精度，人们近几年创新发展了若干计算花费少的二阶算法，本文主要介绍与评述其研究进展，奉献给读者.

GCRO-DR方法是求解一系列连续线性系统常用迭代方法.本文首先提出了~simpler GCRO-DR方法,在单个循环中它的计算成本比GCRO-DR更少.本文为了避免算法的不稳定性问题和内存溢出问题,并提高~simpler GGRO-DR算法的收敛性,引入了重启参数自适应策略.另外,在用该方法求解大型连续线性系统需要多次重启次数情形以及相邻系数矩阵之间谱信息相关情形,本文利用重启参数自适应策略提供的学习样本,通过强化学习来选取一个比较好的重启参数.最后,数值实验证明了所提三类算法的有效性.

本文在Tseng外梯度算法的基础上,引入了一种求解双层集值混合变分不等式的惯性外梯度算法.该算法的步长是非单调自适应的,结合惯性加速技巧,在集值映射是单调且Lipschitz连续的假设下,证明了该算法所产生的序列强收敛到双层集值混合变分不等式的解,进行的数值实验表明惯性外梯度算法优于一些已有的算法.

PM2.5污染问题是中国近年来引起广泛关注的环境问题,对PM2.5浓度进行预报有重要意义.传统的预报方法是基于空气动力学理论的数值模式预报方法.最近几年深度学习方法被广泛应用于PM2.5浓度预报问题.之前的深度学习预报方法主要是使用观测站的观测数据建立单点式的预报模型.本文使用ConvLSTM深度神经网络建立模型,在中国及周边区域的PM2.5数据集上实现了网格化的序列到序列预报.模型通过卷积模块提取空间特征,通过LSTM模块提取时间特征,适合解决PM2.5网格化预报问题.同时,模型中使用了再分析数据和模式数据两种不同来源的数据结合起来进行预报,融合了深度学习方法和传统数值模式方法.实验表明,模型的均方根误差比数值模式预报下降30.2%,具有良好的预报效果.

混合撕裂有限元法(Hybrid Total Finite Element Tearing and Interconnecting method,HTFETI)适用于求解结构力学、热力学等问题,是一种非重叠的区域分解方法,适用于大规模求解.但是在异构计算平台上对反应堆堆芯组件进行数值模拟时,采用混合撕裂有限元法会出现进程内和进程间的负载不均衡现象.在混合撕裂有限元求解器中,最主要的计算是稠密矩阵向量乘.针对进程内和进程间出现的负载不均衡现象,本文实现了动态负载均衡技术,充分利用了节点内和节点间的处理器资源,加快求解速度.最后,本文通过数值实验验证了上述优化技术能够加快混合撕裂有限元法的求解速度8.2\%$\sim$9.4\%.

针对求解一类广义复对称线性系统，Salkuyeh等学者利用等价2×2块实值形式提出了一种广义SOR （GSOR）迭代法.为了进一步提高计算效率，本文建立一种含有两个参数的广义AOR （GAOR）迭代法.详细分析了该方法的收敛性，得到一个范围更广的收敛域.最后，通过两个数值算例验证了GAOR迭代法的可行性与高效性.

光滑子是影响代数多重网格算法（AMG）求解效率的重要组件之一.本文考虑实际应用中普遍出现的一类多尺度稀疏矩阵，由于多尺度性质的影响，现有AMG光滑子的光滑效果不理想，从而影响AMG算法求解该类方程的效率.借助代数界面的概念，本文分析了代数界面对松弛型光滑子的影响，并通过扩展代数界面的内涵，设计了一种代数界面优先的光滑子（AI-Smoother）.以Gauss-Seidel （GS）光滑子为例，通过三维模型问题和实际问题测试了该光滑子（AI-GS）的有效性.测试表明，与自然序GS光滑子相比，AI-GS有效改善了AMG算法的收敛速度.对于三维随机系数扩散方程百万自由度算例，AI-GS可获得28.2%的加速，对于激光聚变应用中的三温方程百万自由度算例，AI-GS可获得28.8%的加速.

针对目前大多数的低秩张量填充模型存在稀疏过约束而导致恢复数据的细微特征被忽略的现象，本文借助低秩矩阵分解和框架变换，引入软阈值算子的$\ell_0$范数正则项，提出一个基于近似稀疏正则化的低秩张量填充模型.为有效地求解该模型，我们将$\ell_0$范数改写为具有非线性不连续权函数的加权$\ell_1$范数，并用连续权函数逼近不连续权函数，在此基础上设计块逐次上界极小化的求解算法.在一定条件下，证明该算法的收敛性.大量实验表明，本文所提出的算法比现有一些经典算法能更好地重建得到图像的局部细节特征.

JFNK (Jacobian-free Newton-Krylov)方法是由外层Newton迭代法和内层Krylov子空间迭代法构成的嵌套迭代方法.本文提出了一种基于JFNK方法的高阶隐式WCNS (weighted compact nonlinear scheme)格式，并用于求解一维、二维粘性Burgers方程.外层迭代法采用含参数的多步Newton迭代法，给出了收敛性分析，内层迭代法采用无矩阵GMRES迭代法.粘性Burgers方程的非线性对流项采用五阶WCNS格式计算.为提高方法精度和计算效率，时间离散采用三阶隐式的DIRK (diagonal implicit Runge-Kutta)方法.数值结果表明基于JFNK方法的隐式WCNS格式在时间上能达到三阶精度，与显式TVD Runge-Kutta WCNS方法相比，计算效率更高.此外，基于JFNK方法的隐式WCNS格式稳定性好，且具有良好的激波捕捉能力.

基于贪婪准则和最大距离准则选择系数矩阵工作列的策略, 提出两种求解大规模超定不相容线性系统的斜方向的 Gauss-Seidel 方法, 即斜方向的贪婪随机 Gauss-Seidel (GRGSO) 方法和斜方向的快速最大距离 Gauss-Seidel (FMDGSO) 方法. 当系数矩阵是列满秩时, 理论表明这些方法收敛到线性系统的唯一的最小二乘解. 特别是当矩阵A的列接近线性相关时, 数值结果表明这些方法在求解性能方面比传统的 Gauss-Seidel 型方法更具优势.

许多科学和工程领域的问题经常会需要我们从一个给定分布中产生随机样本.在贝叶斯推断中，从后验分布中抽取样本是此类问题的一个代表性应用实例.常用的马尔可夫链蒙特卡洛方法比较难以发挥并行计算的优势，因此为了解决这个问题，在本文中我们提出了使用序贯性蒙特卡洛采样器作为在并行计算框架下对马尔可夫链蒙特卡洛方法的一个替代工具.具体而言，我们提出了序贯性蒙特卡洛采样器中两个不同的正向提议分布：高斯随机游动和朗之万正向核，并给出了相应的反向提议分布.结合数值试验，我们展示了在并行计算的条件下，序贯性蒙特卡洛采样器相比于多链条马尔可夫链蒙特卡洛方法，在计算效率上有明显的提升.

结合辐照损伤模型和漂移扩散模型，研究辐照效应对衬底PNP （SPNP）双极型晶体管电学性质的影响.基于三维并行自适应有限元平台Parallel Hierarchical Grid （PHG），采用倒数平均有限元法对漂移扩散方程进行离散求解.同时，对间断的掺杂分布做了连续化处理，使其更接近于物理实际，也更有利于数值计算的健壮性.数值模拟再现了辐照后SPNP晶体管出现的基极电流增大及电流增益退化现象，并与横向PNP （LPNP）晶体管进行对照，最终得到这两类晶体管对辐照损伤的敏感程度上的差异.

块Kaczmarz方法是求解大规模线性方程组的一种迭代算法.在每次迭代时,会将当前迭代点正交投影到约束子集的解空间.文章基于块Kaczmarz方法的原理,提出了高斯混合模型的随机块Kaczmarz方法(GMM-RBK (k)).其中块的划分是通过高斯混合模型进行划分的.为了避免伪逆的计算或者最小二乘问题的求解,提出了高斯混合模型的随机平均块Kaczmarz方法(GMM-RABK (k)).证明了当线性方程组是相容时,这两种算法是收敛的,并给出相应的收敛率公式.在最后的数值实验中也证实了GMM-RBK (k)方法和GMM-RABK (k)方法的有效性,且无伪逆GMM-RABK (k)方法要优于GMM-RBK (k)方法.

本文建立了格子Boltzmann方法的D1Q3模型，数值求解了一维空间分数阶对流扩散方程.对分数阶积分部分离散化处理并进行相关收敛性分析.通过选择合适的演化方程，运用Taylor展开和Chapman-Enskog多尺度技术展开，正确恢复出宏观方程.数值实验验证了该模型的有效性.

贝叶斯推断正逐渐成为解决反问题的一个越来越流行的工具, 这主要是因为它能够描述所获得的解的不确定性. 在许多实际的贝叶斯反问题中, 可能有多个潜在性能良好的模型可用来描述数据和感兴趣的参数. 在这种情况下, 基于贝叶斯的模型选择方法经常被用来选择"最佳"模型, 而这种方法依赖于对后验分布中归一化常数的估计. 因此, 估计归一化常数成为贝叶斯推断中的一项重要任务, 而这个问题对于标准抽样方法来说具有计算上的挑战性. 在这项工作中, 新提出的一种基于多正则蒙特卡洛技术(MMC)的归一化常数估计方法, 可以很好的解决上述难题, 这是一种自适应的重要性采样方法. 该方法可以以黑箱方式估计归一化常数, 使其特别适用于具有复杂基础模型的问题. 最后, 通过数值例子证明了所提出的方法可以有效且准确地计算出归一化常数的估计值.

对MEMS加速度计的标定模型进行研究是提高MEMS加速度计精度的重要方法.本文提出一种基于改进Levenberg-Marquardt算法的加速度计标定模型.基于静态多位置翻转法进行标定，根据误差建立数学模型即非线性最小二乘的求最小值问题，由于原始Levenberg-Marquardt算法在迭代求解最优估计值下降慢以及计算量大等问题，通过充分利用算法每次迭代的计算结果设置步长因子，获取最优估计值迭代次数减少，并在理论上证明了改进算法的收敛性.又针对标定后存在数值偏离真实值的问题，提出利用传感器状态信息对标定模型进行改进，使用改进标定模型的数值实验效果良好.

带有局部Kelvin-Voigt型阻尼波动方程能量衰减规律是控制论中一个热点研究课题，能量衰减规律的控制函数具有重要理论价值和实际意义.本文对带局部Kelvin-Voigt型阻尼的一维波动方程设计了经典三层七点隐式差分格式，数值验证了差分格式计算波函数、能量函数的二阶收敛性，研究了阻尼参数对能量模衰减规律的影响，并采用支持向量机方法拟合了能量衰减控制函数与阻尼参数的关系.

锆合金腐蚀是燃料棒堆内重要的物理过程之一，它直接影响核电厂的经济性和安全性.根据锆合金腐蚀机理，在工程上通常采用两阶段Arrhenius方程来描述该物理过程，并通过试验数据来拟合方程中的参数.本文基于锆合金腐蚀试验数据和两阶段Arrhenius方程的特征，建立了基于Gauss-Newton法和线搜索法的参数优化算法，并使用非扰动和扰动的测试数据验证了算法的有效性.

从Newton-Cotes积分的角度构造了一个带参数的三级二阶显式Runge-Kutta格式和两个带参数的四级三阶显式Runge-Kutta格式,给出了精度证明及稳定性条件.当参数特殊取值时,所构造的三种参数格式分别导出了常用的三阶Runge-Kutta格式(RK3)和经典的四阶Runge-Kutta格式(RK4).通过数值算例,验证了所构造的几类Runge-Kutta格式的有效性、稳定性及高精度.与常见的各类显式Runge-Kutta格式相比，本文构造的三种Runge-Kutta格式具有更好的稳定性.

针对一维齐次常系数抛物型方程,采用显隐格式加权,构造出一种在时间和空间上分别达到四阶和八阶的高精度差分格式,通过理论推导,给出了满足稳定性条件的网比取值范围.通过数值实验及与文献方法的对比,验证了本文格式在满足稳定性的基础上可以达到预期的理论精度

经验插值法（empirical interpolation method，EIM）首先由Yvon Maday和他的合作者在2004年提出，旨在提升非仿射或非线性偏微分方程模型降阶（reduced basis technique）的计算效率，随后在模型降阶和数据同化领域得到了广泛应用.EIM的计算过程分为离线、在线两个过程：离线阶段，基于待插值函数空间的大量样本函数，通过EIM算法逐一计算插值基函数和插值点（魔数点）；在线阶段，基于在魔数点的函数值和基函数，在线重构待插值函数.本文重点研究了EIM算法得到的插值点的空间分布特性，提出了最小二乘格式的EIM （LS-EIM）以进一步提升EIM精度和稳定性.比较了EIM算法确定的魔数点和其它各种采样方法确定的点对LS-EIM的收敛性和精度的影响.通过数值计算发现，相比随机采样和其他方法选取的采样点，EIM算法得到的魔数点用于LS-EIM可获得最快收敛速度和最优重构精度，通常仅需不到2倍于基函数维数$n$的魔数点数，即不到2$n$个魔数点，LS-EIM即可实现对最佳重构的逼近.

通过利用弱链对角占优M-矩阵的逆矩阵的无穷大范数的范围,结合不等式的放缩技巧,给出弱链对角占优B-矩阵线性互补问题解的误差界新估计式.理论分析和数值算例均证明新的估计式改进了近期一些已有的结果.

高阶多尺度方法在计算数学、计算力学和计算材料学等领域得到了广泛的应用，为了进一步挖掘高阶多尺度方法的计算潜力，本文结合单胞边界条件优化选择和边界层构造，提出了一种高阶多尺度方法的数值精度提高策略，并给出了施加数值精度提高策略的高阶多尺度方法的误差分析.然后，建立了周期复合材料结构弹性力学问题具有数值精度提高策略的新的多尺度数值算法.最后，通过对周期复合材料结构弹性力学问题的模拟，验证了所提出数值精度提高策略的有效性和最优的数值精度.

综合运用细节分析、指标集划分以及不等式的放缩技巧，给出了广义Nekrasov矩阵的新的判定方法，推广了郭爱丽、刘建州2009年和2016年提出的相关结论，并利用数值算例说明了判定条件的有效性.这样的改进思路同样适用于其他的广义Nekrasov矩阵的判定方法的改进.

文献[1]给出了求解对称代数Riccati方程的Krylov子空间迭代法.本文利用该思想,提出了求解非对称代数Riccati方程的Krylov子空间迭代法.通过Cayley变换,我们得到了该方法的一个非常简洁的迭代公式,该公式只涉及矩阵计算.利用该公式,收敛性证明也变得非常简单易懂.最后数值算例验证了算法的可行性和有效性.

SVD(singular value decomposition)广泛应用于图像处理、人脸识别、信号降噪等领域.本文基于单边Jacobi SVD算法给出了块间和块内两层并行的块Jacobi SVD GPU算法.为了更好地利用GPU的共享内存,块间并行通过存储矩阵列块之间的内积解决了共享内存不足的问题.此外,块间并行还通过矩阵块操作技术提高数据利用率及数据预取技术实现数据访问和数据计算的重叠.块内并行通过直接更新矩阵列块之间的内积替代了更新矩阵列块以及更新矩阵列块之后计算矩阵列块之间内积的归约操作,增加了GPU线程的利用率.另一方面,块内并行将需要多次访问的数据存储于共享内存或寄存器,减少了对全局内存的访问从而提升了算法实现性能.在NVIDIA Tesla V100 GPU上的数值实验结果表明,本文的算法较Cusolver库有1.8×倍的加速,较MAGMA库中最快的算法加速达2.5×倍.

本文主要研究了基于$\alpha$-链对角占优矩阵关系的非奇异$H$-矩阵判定条件问题.利用非奇异$H$-矩阵的性质,以及$\alpha$-链对角占优矩阵与其的关系,通过对矩阵非占优行集合区间进行细分和构造新递进系数的方法,给出了一类关于非奇异$H$-矩阵判定的细分迭代新准则,改进了近期的一些结果,并用数值算例说明了该判定准则的有效性.

研究Volterra型积分方程的Galerkin Legendre Jacobi数值积分方法.首先，利用Jacobi Galerkin数值积分对方程中的积分项进行离散，从而我们得到一个等价方程.其次，对该等价模型构造Legendre Galerkin方程，且在积分项部分用Chebyshev插值计算.然后，该方法还被推广到非线性Volterra积分方程的计算.最后，对计算区间较大的模型，基于上述方法，构造了两级多区域格式且将其应用于含有一个间断点的Volterra型积分方程的计算.此外，还将其推广到第三类Volterra积分方程.通过数值算例验证该方法的高阶精度与有效性.

近年来, 有关玻色-爱因斯坦凝聚态基态解的实验研究已经取得了一系列重要的成果. 本文在相关研究成果的基础上, 首先通过降维和无量纲化方法将玻色-爱因斯坦凝聚态基态解问题转换成能量泛函极值问题, 在离散该方程时,我们使用有限差分法和傅里叶谱方法分别离散该能量泛函方程的一维和二维情形. 其次, 本文采用了一种高效的数值优化算法-SQP优化方法来求解玻色-爱因斯坦凝聚态基态解问题并运用该算法分别对一维和二维的能量泛函极小值问题进行数值模拟. 最后通过分析实验数据结果和图像, 得出该算法能提高能量函数值的精确性.

近年来，多尺度偏微分方程的数值均匀化方法得到了快速发展.本文以Rough Polyharmonic Splines (RPS)及其推广形式Generalized Rough Polyharmonic Splines (GRPS)为例，介绍了一类基于带约束能量最小基函数的数值均匀化方法的数学形式，并详细给出了基于粗细两网格，且具有拟最优计算量和收敛性的局部化基函数的数值实现方法.我们对具有多尺度系数的二维椭圆方程验证了这类方法的收敛性,此类方法在简单修改后还可用于多尺度Helmholtz方程等其他问题.

应用共轭梯度方法和线性投影算子,给出迭代算法求解了线性矩阵方程$AXB=C$在任意线性子空间上的最小二乘解.在不考虑舍入误差的情况下,可以证明,所给迭代算法经过有限步迭代可得到矩阵方程$AXB=C$的最小二乘解、极小范数最小二乘解及其最佳逼近.文中的数值例子证实了该算法的有效性.本文算法的优点是在任意线性子空间上均容易实现.

双子空间投影算法和多步惯性随机Kaczmarz算法是求解相干线性方程组的有效算法,本文通过软阈值函数对这两种算法进行修正,提出了稀疏双子空间投影算法和稀疏多步惯性随机Kaczmarz算法,并给出其在有噪声干扰和无噪声干扰情况下在期望意义下的线性收敛率估计.通过数值实验验证本文所提算法的有效性和优越性.

压缩感知(CS)是快速核磁共振成像(MRI)的一种有效的方法,该方法旨在从少量的欠采样数据空间中重建核磁共振图像,加速核磁共振成像中的数据采集.为了提高当前MRI图像的重建精度和速度,本文将传统的基于模型驱动的压缩感知恢复算法和数据驱动的深度学习方法相结合,提出了一种新的算法--ADMM-CNN.该算法将交替方向乘子法(ADMM)中的一个子问题用卷积神经网络进行求解,然后通过构造损失函数,利用梯度下降法优化ADMM中的惩罚参数和拉格朗日乘子的更新率,从而得到训练好的ADMM模型,能够有效地从压缩感知测量中恢复核磁共振图像信号.本文设计的算法与传统的重建算法相比,具有较少的正则化参数和更低的计算复杂度,同时,将一个训练好的卷积神经网络直接引入,极大简化了训练过程和计算量,并且利用GPU来进行加速训练.实验结果表明,与传统的重建算法和其他深度学习方法相比,ADMM-CNN拥有较快的计算速度和良好的重建精度.

在一元Multiquadric拟插值算子的基础上，将一元基函数扩展到多元，并重新定义了空间点之间的距离，提出了一种新的多元拟插值算子，并分析了其任意阶多项式再生性及逼近性.数值实验表明，新的多元拟插值算子可直接使用空间点集的坐标实现曲线的高精度拟插值重建.

针对大规模垂直线性互补问题的求解,运用二步多分裂技术构建了二步模基矩阵同步多分裂并行迭代方法,新方法可以看成是已有文献中模基矩阵同步多分裂迭代法和二步模基矩阵分裂迭代法的推广.进一步地,在系统矩阵为$H_+$矩阵的假设下,给出算法收敛性分析,得到了参数矩阵的收敛域,推广了已有算法的收敛性结果.最后,在OpenMP框架下针对已有文献中的两个数值例子给出了数值试验,试验结果展示了二步多分裂技术能提升已有方法的计算效率.

多维超奇异积分在弹性力学和电磁场的散射问题等诸多工程领域中有广泛应用.考虑构造二维、三维面型超奇异积分的求积公式,同时提高误差精度.利用复合矩形求积公式在划分的$N$个子区间内近似计算被积函数中无奇异性的部分,剩余部分通过超奇异积分的解析式求解.根据外推思想,构造一维超奇异积分的修正复合矩形求积公式.最后将带有外推的求积公式推广到二维、三维面型超奇异积分中.文章结尾的数值算例验证了方法的可行性.

基于第六类正交Chebyshev多项式混合Block-Pulse函数，获得了一种求解分数阶Lane-Emden型微分方程数值解的数值方法.混合函数由第六类正交Chebyshev多项式与Block-Pulse函数构成.在Rieman-Liouville分数阶积分定义下，利用Laplace变换导出了混合函数的分数阶积分公式表达式.利用混合函数积分公式以及结合有效的配点法，将具有边界条件的分数阶Lane-Emden微分方程转化成一个代数方程组，再运用迭代法进行数值求解.同时，还给出了混合函数展开的一致收敛性分析和误差估计.文中数值算例和数值结果验证了该方法的有效性和准确性.

本文通过引入一种新的增广变换, 发展了改进的偏牛顿校正算法, 建立并证明了一类四阶非线性偏微分方程边值问题的新解与该问题零核空间的密切关系, 去掉了标准收敛假设, 使证明更简洁明了.分情况验证了该方程满足在 Nehari 子流形上全局分离定理的条件, 该分离定理为本文算法成功找到新解提供理论保障. 提出了二维非线性四阶偏微分方程 Dirichlet 边值问题的插值投影 Legendre-Galerkin 谱方法, 通过构造插值算子和投影算子, 对线性算子以及非线性项的处理进行了优化, 得到原问题的代数方程, 通过验证, 其与经典谱方法具有相同的条件数并都达到谱精度. 实验结果表明, 此方法与经典的谱方法或拟谱方法具有相同的收敛阶, 但计算所需CPU时间更少, 且能计算出更多的解.

Gegenbauer加法定理是Bessel函数相关理论体系中一个重要的理论,在数学物理问题中有广泛的应用.本文在由Bessel函数和Neumann函数极限形式所导出的上界基础上,对Gegenbauer加法定理的截断误差上界进行了估计,得到了明确的误差界及其收敛阶.最后,通过数值实验验证了估计的有效性和精确性.