122 KiB
"中图分类号:学校代号:11845UDC : 密级: 学 号: 2112114024 \n\n广东工业大学硕士学位论文 \n\n(理学硕士) \n\n# 基于预处理张量分裂方法求解张量方程组的研 \n\n究 \n\n利锦轩 \n\n指导教师姓名、职称:邓秀勤教授学科(专业)或领域名称:数学学生所属学院:数学与统计学院答辩委员会主席:教授论文答辩日期:2024 年5 月25 日 \n\nA Dissertation Submitted to Guangdong University of Technology in Partial Fulfillment of the Requirement for the Degree of Master of Science \n\n# Research on solving tensor equations based on preconditioned tensor splitting method \n\nCandidate: Li Jinxuan Supervisor: Prof. Deng Xiuqin \n\n# 学位论文独创性声明 \n\n本人郑重声明:所呈交的学位论文是我个人在导师的指导下进行的研究工作及取得的研究成果。尽我所知,除了文中特别加以标注和致谢的地方外,论文中不包含其他人已经发表或撰写过的研究成果。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明,并表示了谢意。本人依法享有和承担由此论文所产生的权利和责任。 \n\n论文作者签名:日期: \n\n# 学位论文版权使用授权声明 \n\n本学位论文作者完全了解学校有关保存、使用学位论文的规定:“研究生在广东工业大学学习和工作期间参与广东工业大学研究项目或承担广东工业大学安排的任务所完成的发明创造及其他技术成果,除另有协议外,归广东工业大学享有或特有”。同意授权广东工业大学保留并向国家有关部门或机构送交该论文的印刷本和电子版本,允许该论文被查阅和借阅。同意授权广东工业大学可以将本学位论文的全部或部分内容编入有关数据库进行检索,可以采用影印、缩印、扫描或数字化等其他复制手段保存和汇编本学位论文。保密论文在解密后遵守此规定。 \n\n论文作者签名:日期:指导教师签名:日期: \n\n# 摘要 \n\n矩阵代数理论及其相关算法已成为科学与工程计算领域中最基本的数学工具之一。然而,随着科技的快速发展,矩阵模型已无法满足现代科学的需求,这促使人们探索能够描述高阶多维变量的类矩阵数学模型——张量。 \n\n张量作为矩阵在更高维空间的自然延伸(多维数组),能更有效地处理高维数据。张量的阶数表示其旨在描述的特征数量,其维度表示支持每一类特征的元素数量。因此,张量的阶数越高,所表达的特征的样本数据信息越丰富,能够更全面、细致和准确地描述物体的内部信息。此外,张量元素之间的相互作用和关联使得张量模型在保留物体内部信息方面具有优势。因此,与使用矩阵模型相比,张量模型在保留研究问题的内部特征和接近实际问题的属性方面表现更佳。为了解决由于结构复杂、计算难度大而导致的张量方程求解效率低下的问题,本文提出了一种新的预处理算子,并将其应用于张量分裂迭代算法中,同时,基于现有的预处理张量迭代算法与普通张量迭代算法的比较定理,提出了不同预处理张量迭代算法之间的比较定理,论文的主要研究工作总结如下: \n\n首先,本文讨论了张量方程的理论知识和数据特点,概述了张量方程求解技术的发展历程和当前状态,并阐明了这一课题的研究背景和意义。 \n\n接着,本文总结了解决张量方程组的相关理论和实现过程,简要描述了张量分裂方法,为本文提出的算法奠定了理论基础,并简要介绍了几种传统的常用解决张量方程组的方法。 \n\n为了提高张量方程组求解的效率,本研究基于预处理分裂方法解张量方程的框架,提出了一种新的预处理算子。其中,张量分裂方法将现有张量拆分为多个稀疏张量的和,从而免除了复杂的梯度计算过程,达到了提升求解效率的目标。本研究在张量分裂技术的基础上融合了预处理算子,并在理论及实验层面验证了预处理算子的加入不仅保留了张量的原始特性,还能显著增强求解张量方程组的效率。 \n\n最后,本文将新提出的预处理张量分裂迭代算法与以往常见的张量分裂算法在多个例子上进行了比较,从理论上和数值实验上都证明了新的预处理张量分裂迭代算法在求解效率上具有更好的表现。 \n\n关键词:张量方程;张量分裂算法;预处理算法;迭代算法 \n\n# ABSTRACT \n\nMatrix algebra theory and its associated algorithms have become one of the most fundamental mathematical tools in the domain of scientific and engineering computation. However, with the rapid development of technology, matrix models no longer meet the demands of modern science, leading to the exploration of mathematical models akin to matrices that can characterize higher-order, multidimensional variables — tensors. \n\nTensors, as a natural extension of matrices higher-dimensional spaces (multidimensional arrays), offer a more efficient means for handling high-dimensional data compared to matrices. The order of a tensor indicates the number of characteristics it aims to depict, while its dimensions represent the elements supporting each characteristic category. Therefore, the higher the order of a tensor, the richer the sample data information on a certain characteristic, enabling a more comprehensive, detailed, and accurate depiction of the internal information of objects. Moreover, the interaction and correlation among tensor elements make the tensor model advantageous in preserving the internal information of objects. Consequently, compared to using matrix models, tensor models are better at retaining the internal characteristics and attributes closely to real-world problems. To address the challenges posed by the complex structure and computational difficulty of solving tensor equations, this thesis introduces a novel preconditioning operator and applies it to the tensor splitting iterative algorithm, with the main research efforts summarized as follows: \n\nInitially, the thesis discusses the theoretical knowledge and data characteristics of tensor equations, outlines the development and current state of tensor equation-solving techniques, and elucidates the research background and significance of this topic. \n\nSubsequently, we summarize the relevant theories and implementation processes for solving systems of tensor equations, briefly describe the tensor splitting method to lay the theoretical foundation for the algorithms presented in this thesis, and briefly introduce several traditional methods commonly used for solving systems of tensor equations. \n\nTo enhance the efficiency of solving systems of tensor equations, we propose a new preconditioning operator based on the preprocessing splitting method for solving tensor equations. The tensor splitting method involves decomposing existing tensors into a sum of multiple sparse tensors, thereby avoiding the cumbersome process of gradient calculation and achieving an efficiency improvement in solution. \n\nFinally, the newly proposed preconditioned tensor splitting iterative algorithm is compared with previous common tensor splitting algorithms in some samples, demonstrating both theoretically and numerically that the new preconditioned tensor splitting iterative algorithm offers superior solving efficiency. \n\nKey words: tensor equation; tensor splitting; preprocessing algorithm; iterative algorithm \n\n# 物理量名称及符号表 \n\n<table border="1">符号含义Rrm.m 阶n 维张量的集合R+非负实数域T张量分裂法的迭代张量M(8)-1F迭代张量p谱半径M(A)张量 A的主导矩阵1特征值Xkk 模矩阵乘积x零向量0零矩阵0零张量 \n\n# 目录 \n\n摘要 ......................................................................................................................... I ABSTRACT .............................................................................................................. III 物理量名称及符号表................................................................................................ V目录 ......................................................................................................................... VI CONTENTS .............................................................................................................VIII \n\n# 第一章绪论.............................................................................................................1 \n\n1.1 本课题研究背景及研究意义.................................................................................11.2 张量方程组求解方法的国内外研究现状.............................................................21.3 论文研究目标和主要研究内容.............................................................................51.4 论文组织结构.........................................................................................................51.5 本章小结 ................................................................................................................. 6 \n\n# 第二章多线性张量方程组求解理论基础.................................................................7 \n\n2.1 多线性张量方程组理论基础 ................................................................................. 7 2.2 张量多线性方程的求解方法.................................................................................92.3 本章小结 ................................................................................................................. 11 \n\n# 第三章基于预处理张量分裂方法求解张量方程组................................................... 12 \n\n3.1 预处理张量分裂算法 ............................................................................................. 12 3.1.1 张量分裂算法 .............................................................................................. 12 3.1.2 基于预处理算子的张量分裂算法.............................................................. 143.2 数值实验 ................................................................................................................. 18 3.3 本章小结 ................................................................................................................. 26 \n\n# 第四章多线性张量方程分裂迭代算法的比较.......................................................... 27 \n\n4.1 分裂迭代算法现有比较定理 ................................................................................. 27 4.2 不同预处理分裂迭代算法的比较定理................................................................. 284.3 数值实验 ................................................................................................................. 31 4.4 本章小结 ................................................................................................................. 35 \n\n# 第五章结论与展望.................................................................................................. 36 \n\n参考文献 .................................................................................................................. 38 攻读学位期间取得与学位论文相关的成果 ................................................................ 45 \n\n# CONTENTS \n\nABSTRACT(IN CHINESE) ....................................................................................... I ABSTRACT(IN ENGLISH) ....................................................................................... III TABLE OF PHYSICAL QUANTITY NAMES AND SYMBOLS ................................. V CONTENTS(IN CHINESE) ...................................................................................... VI CONTENTS(IN ENGLISH) ......................................................................................VIII \n\nChapter 1 Introduction ............................................................................................. 1 \n\n1.1 Background and significance of research ................................................................. 1 1.2 Domestic and international research status on tensor equation group solving methods ..................................................................................................................... 2 1.3 Thesis research objectives and main research content ............................................. 5 1.4 Thesis organizational structure ................................................................................ 5 1.5 Chapter summary ..................................................................................................... 6 \n\nChapter 2 Theoretical foundation of solving multilinear tensor equation systems ... 7 \n\n2.1 Theoretical foundations of multilinear tensor equation systems .............................. 7 2.2 Solution methods for tensor multilinear equations .................................................. 9 2.3 Chapter summary ..................................................................................................... 11 \n\nChapter 3 Solving Tensor Equation Systems Based on Preconditioned Tensor Splitting Method ............................................................................................ 12 3.1 Preconditioned tensor splitting algorithm ................................................................ 12 3.1.1 Tensor splitting algorithm ............................................................................. 12 3.1.2 Tensor splitting algorithm based on preconditioned operators ..................... 14 3.2 Numerical experiments ............................................................................................ 18 3.3 Chapter summary ..................................................................................................... 26 \n\nChapter 4 Comparison of multilinear tensor equation splitting iterative algorithms . 27 \n\n4.1 The existing comparison theorems for splitting iterative algorithms ...................... 27 4.2 Comparison theorems for different preconditioned splitting iterative algorithms ... 28 4.3 Numerical experiments ............................................................................................ 31 \n\n4.4 Chapter summary ..................................................................................................... 35 \n\nChapter 5 Conclusion and prospect ........................................................................ 36 \n\nReferences .............................................................................................................. 38 \n\nPublication and patents during study ....................................................................... 45 \n\nAcknowledgements ................................................................................................. 46 \n\n# 第一章绪论 \n\n# 1.1 本课题研究背景及研究意义 \n\n矩阵代数理论及其相关算法己成为科学与工程计算领域最重要的数学基础工具之一。随着科技的迅猛发展,矩阵模型己不能满足现代科学的需求,故希望寻求类似于矩阵且可刻画高阶多维变量的数学模型——张量。张量[1] 是由Gauss,Riemann 和Christoffel 等人于十九世纪在研究微分几何时首次提出,随后经Ricci 和Levi-Civita[2]等人的努力,张量分析及其相关计算逐渐发展为计算数学领域的重要研究课题之一。张量本质上是一种多重线性映射,它建立在向量空间及其对偶空间的笛卡尔积之上。在这一数学构造中,张量的坐标体现为一个在n 维空间中的实体,该实体具有n 个分量,且每一个分量均为坐标变量的函数。当坐标系发生变换时,依据特定的线性变换规律,这些分量也会相应地进行线性变换。张量[3] 作为高维空间中矩阵的自然延伸(即多维数组),在处理高维数据方面相较于传统的矩阵更为高效。张量的阶数描述了要表达的事物特征的多样性,而其维度则反映了每个特征类别能够支持的元素数量。因此,张量的维度越高,就能更全面地展现事物的各项特征。同样,随着张量的阶数增加,能 够丰富地表达某类特征指标的样本数据信息,从而使得张量模型能够全面、细致且准确地描绘事物的内部信息。张量元素间的相互作用和联系,使得采用张量模型描述事物时,内部信息的损失得到有效控制。因此,相比利用矩阵模型,张量模型在保留研究问题内在特性和贴近实际情境属性方面具有明显优势。 \n\n张量的应用场景多样。张量可应用于信息恢复[4],信息通常由时间、位置和内容三种指标构成,一个三阶张量便能够描述信息的这三个维度。机器学习[5] [6] 领域,张量模型可以视为一个探索未知系统或映射的工具,它接收输入信息,基于特定的映射关系,产生目标输出。特别是,神经网络作为机器学习中的核心模型之一,更是诞生了与张量模型结合的“张量网络机器学习”。其核心在于通过张量网络建立机器学习模型的映射关系,并通过张量网络算法进行参数更新,以实现理想的输出。此外,张量模型也在脑部医学影像识别[7] 等领域显示出巨大的潜力。它通过构造三维空间的庞大数据集,精确捕捉人脑结构的复杂性,同时保持图像的本质组织特征不受损害。因此,张量模型特别强调在求解高阶张量方程的理论与算法研究中,对那些在传统矩阵模型中容易被忽略的邻域信息的保存。这种方法在提取脑部图像特征和提升分类准确性方 \n\n面,相较于传统的矩阵模型,显示了优越的性能。因此,张量模型的研究不仅具有理论上的重要价值,也对实际应用领域有着深远的意义。张量方程,作为在高维空间中矩阵方程的延伸,继承了诸多矩阵理论的特性。例如,矩阵与标量的数乘操作(即将矩阵的每个元素乘以一个标量k) 在张量中同样适用,结果是一个与原张量阶数和维度相同的新张量。同样,矩阵作用于向量可以实现如旋转、缩放和剪切等几何变换,三阶或更低阶的张量与向量的相互作用也能产生相似的效果。然而,当张量的阶数超过三时,它们与向量的作用便能描述更为复杂的多维空间变换。这一特性使得张量方程在计算机视觉 [ 8 ] [ 9 ] [ 10 ] 、机器学习 [ 11 ] [ 12 ] 、神经科学 [ 13 ] 、信号处理 [ 14 ] [ 15 ] 、介质力学 [ 16 ] 、有限 差分 [ 17 ] [ 18 ] 、控制论 [ 19 ] [ 20 ] [ 21 ] 、高维偏微分方程 [ 22 ] [ 23 ] 等众多领域得到广泛应用,成为 数值代数领域的研究焦点之一。尽管张量的高阶多维数据表示能力是其一大优势,求解张量方程的复杂性和计算挑战也随之增加,近年来引起了众多学者的关注。研究人员们致力于融合数值分析与最优化理论,发展高效的迭代算法以求得其数值解。本文将重点讨论具有特殊结构的 \\mathcal{M} -张量,并利用其独有的性质和特征,在求解张量方程过程中开发更加适用于高维度张量的求解方法和预处理技术。 \n\n# 1.2 张量方程组求解方法的国内外研究现状 \n\n对线性方程的研究近些年成为热门,Ding 等[24] 提出当 \\mathcal{A}=(a_{i i_{2}\\cdots i_{m}})\\in\\mathbb{R}^{[m,n]} 是一个 \\mathrm{m} 阶 \\mathbf{n} 维的张量。Qi 等[3] 在此基础上给出张量-向量积的定义: \n\n$$\n(\mathcal{A}\mathbf{x}^{m-1}){i}=\sum{i_{2}\cdots i_{m}}^{n}a_{i i_{2}\cdots i_{m}}x_{i_{2}}\cdots x_{i_{m}},\qquad i=1,2,\cdots n,\n$$ \n\n其中 x_{i} 是 \\mathbf{X} 的第 \\mathrm{i} 个元素。当 \\mathbf{b}\\in\\mathbb{R}^{n} 和 \\mathbf{x}\\in\\mathbb{R}^{n} 是有理数域内的向量时, \n\n$$\n\mathcal{A}\mathbf{x}^{m-1}=\mathbf{b}\n$$ \n\n(1.2) \n\n方程(1.2)称为线性张量方程。此外,若非对角元素 \\mathcal{A} 是非正的张量,则称为 Z. -张量。当Z-张量 \\begin{array}{r}{\\mathcal{A}=\\eta I_{m}-\\mathcal{B},}\\end{array} , 且 \\eta\\geq\\rho({\\mathcal{B}}) 时,该张量被称为 \\mathcal{M} -张量。Xie 等[25] 提出了一个新的秩一张量来近似张量,使得张量方程的求解速度加快。 \\mathrm{Ham}^{[26]} 在给出非奇异 \\mathcal{M}\\cdot -张量和正向量 \\mathbf{b} 时,提出了求解 \\mathcal{M}\\cdot -张量多线性系统的唯一解的同伦方法。然而,同伦方法是否具有超线性收敛性是不清楚的。He 等[27] 在由不具有对称性质的张量 \\mathcal{A} 所构成的多线性系统(1.2)中提出了一种全局收敛的牛顿型方法,并且证明了该方法对于随机合成的例子是稳定和具有局部二次收敛的。Ding 等[24] 研究了如何求解一些结构化的多线性系统(1.2),他们证明了如果 \\mathcal{A} 是一个非奇异 \\mathcal{M}\\cdot -张量, \\mathbf{b} 是一个正向量,系统(1.2)有一个唯一的正解,他们还推广了线性系统的Jacobi 和Gauss-seidel 方法来寻找多线性系统(1.2)的唯一正解。当非奇异 \\mathcal{M}\\cdot -张量 \\mathcal{A} 是对称的时候,他们也提出了牛顿法,数值实验表明牛顿法比其他方法要快得多。 \n\n在张量方程的求解中常用到如下方法: \n\n# (1) 连续时间神经网络 \n\n神经网络的并行处理和信号处理能力已经通过各种学习能力强的神经动力学模型得到验证[13] [19]。它们的核心在于最小化一个非负的能量函数,从而形成了一个可以视为人工神经网络的动态系统。这些系统一般通过一阶常微分方程(ODE)来描述。对于特定的初始条件,ODE 会趋向于其稳定点,即底层优化问题的解。关键在于,随着ODE 解的接近稳定点,能量函数必须单调递减。为了克服时变条件下,因缺乏对时变系数速度补偿而导致的误差矩阵的Frobenius 范数无法在无限时间内降至零的问题,Wang 等[28] 在2019 年提出了一种基于不确定误差检测函数的动态设计方法,利用连续时间神经网络来求解张量方程组。 \n\n# (2) 阻尼Gauss-seidel 方法 \n\nLi 等[29] 将求解线性方程组的Jacobi、Gauss-seidel 和SOR 等迭代方法扩展到张量方程(1.2)。这些方法不同于Ding 等[24] 的方法。他们使用一步Jacobi(或Gauss-seidel 或SOR) 迭代在每次迭代中求解张量方程的近似值,并证明这些方法在局部是 r 线性收敛的。他们采用一些直线搜索的方法发展了一种阻尼Gauss-seidel方法,并证明了阻尼Gauss-seidel 方法在适当条件下是全局收敛的。 \n\n# (3) Levenberg-Marquardt 算法 \n\n在工程学和科学计算领域,Levenberg-Marquardt 算法(简称LMA 或LM)是解决非线性最小二乘问题的一种关键工具。此算法于1944 年由Levenberg[30] 和1963年由Marquardt[31] 分别提出。众所周知,LM 方法在雅可比矩阵在解附近保持Lipschitz 连续且非奇异的条件下,可以达到与牛顿方法相同的二次收敛速率。但是,雅可比矩阵的非奇异性是一个较为严格的条件。Yamashita 等[32] 以及Fan[33]和Yuan 等[34] 发现并证明,当选取适当的LM 参数时,Levenberg-Marquardt 方法 \n\n能够在更宽松的局部误差界限下维持其二次收敛速率。 Lv 等 [ 35 ] 基于交替方向乘 子法(ADMM),提出了一种用于解决半对称张量方程的LM 算法。为了进一步提升算法的计算效率,他们还利用张量列分解,成功推导出一个免受维数诅咒影响的高效算法,并证实了该算法具有全局收敛和局部二次收敛的性能。 \n\n(4) 直接法 \n\n最经典的张量方程求解方法就是将其作为多项式方程的代数系统,用消去定理进行求解[36]。直接法的核心目标是通过一系列有限的步骤精确地计算出方程组的解。其中,广泛应用的技术包括高斯消元法(Gaussian Elimination)、高斯-约当消元法(Gauss-Jordan Elimination)、以及LU 分解等。这类方法适合于处理规模较小且对解的精确度有高要求的方程组。原因在于直接法需要处理和储存高维度矩阵,这导致了较高的计算复杂度及显著的资源和时间消耗。虽然在一些情境下,直接法的收敛速度可能较慢,甚至可能遇到无法收敛的情况,但它们在求解精确解方面仍然具有不可替代的优势。此外,Drexler 等[37] 和Garcia 等[38] 分别独立地提出了用同伦延列在数值上求多项式系统的完整孤立零集的定理,其主要工作是通过连续的同伦变换,将简单的多项式方程组的解沿着定义好的同伦路径移动,最终到达复杂的多项式方程组。在此过程中利用包括牛顿迭代在内的多种数值方法进行路径追踪,避免数值不稳定和路径发散。这种方法已经发展成为逼近多项式系统所有孤立零的一种可靠、高效的数值算法。 \n\n# (5) 迭代法 \n\n牛顿法依赖于函数的泰勒级数前几项来寻找其零点,通过迭代逼近方程的根。Ding 等[24] 提出了一种结合牛顿法快速收敛性和迭代法计算效率的混合算法,用于解决 \\mathcal{M}\\cdot -张量方程问题。这种算法通过引入加速参数,优化了算法的性能。随后进一步扩展经典的迭代求解方法,提出一种针对对角线元素非零的线性方程组的张量分裂迭代方法,如jacobi 法、Gauss-seidel 法和SOR 法。另一方面,Li 等[29] 提出了一个基于张量分裂的方法来求解张量多线性系统,并证实该方法在处理高阶马尔可夫链模型时显示出良好的效果。Liu 等[39] 进一步将分裂方法应用于 \\mathcal{M}\\cdot -张量方程的求解,提出了改进的雅可比(Jacobi method)、高斯-塞尔德(Gauss-seidelmethod)以及超松弛算法(SOR method)。在迭代算法的研究中,Li 等[40] 提出了一种名为TSI(Tensor Splitting Iterative)的分裂迭代算法,并详细讨论了不同分裂形式对应的算法实现。 \n\n为了提升张量方程求解的效率,Li 等[40] 在TSI 算法的基础上,引入了预处理算子的概念,发展出PTSI(Preconditioned Tensor Splitting Iterative)算法,该算法通过将张量方程转化为 P\\mathbf{\\mathcal{A}}x^{m-1}=P\\mathbf{\\mathfrak{b}} 的形式,从而改进了迭代求解过程。这一改进不仅简化了迭代 式的形式,而且明确了TSI 与PTSI 算法的步骤,这将在文中3.1.1 节详细描述。在预处理方法方面,Liu 等[39] 提出了预处理算子 P_{\\alpha} ,为分裂法引入了新的维度。继之,Cui等[41] 引入了预处理算子 P=I+S_{m a x} ,而Li 等[40] 基于SOR 算法进一步提出了一种新的预处理算子 P=I+G_{\\alpha} ,有效提升了算法的迭代效率和步骤效率。 \n\n因此,使用预处理的张量分裂法求解张量方程组,不仅可以避免直接计算梯度,还可以加快迭代速度,减少迭代次数,并获得更精确的结果。这种方法在处理工程和科研中遇到的张量方程计算问题时,具有重要的研究和应用价值。 \n\n# 1.3 论文研究目标和主要研究内容 \n\n在探索解决 \\mathcal{M}\\cdot -张量方程组的过程中,虽然当前方法在简单场景下能迅速找到解,但面对复杂的高阶及高维问题时效果却不佳。因此,本研究引入了一种创新的张量分裂预处理算子,旨在加速高维场景下使用雅可比、高斯-塞尔达和超松弛等迭代方法的速度,并减少迭代次数。此外,基于现有的张量比较理论,本文还提出了一系列不同预处理算子的比较定理,以期为解决高维张量方程提供更有效的策略。 \n\n# 1.4 论文组织结构 \n\n本文针对张量多线性方程的求解,以张量分裂迭代算法为基础提出了改进算法。首先,提出一种新的预处理算子,使得该预处理张量分裂迭代算法的求解步骤和耗费时间都更少。其次,在现有的张量分裂迭代算法比较定理的基础上,提出了不同预处理张量分裂迭代算法的比较定理。第一章绪论主要包括三个方面,首先,对张量多线性方程的研究背景进行了分析,阐明了本文的研究意义,然后介绍了张量多线性方程及国内外的研究现状,并阐述了本文的主要研究内容。 \n\n第二章介绍了张量多线性方程求解的理论基础,首先介绍了张量多线性方程的基础知识,然后介绍了张量多线性方程的求解方法,主要是张量分裂方法,为本文的算法奠定了基础。 \n\n第三章先介绍现有的张量分裂算法TSI 主要的几种形式和算法步骤,接着介绍应用了预处理算子的张量分裂算法PTSI 的迭代式和算法步骤。最后提出了一种新的预处理算子 P_{R} ,并通过现有理论证明预处理算子的可靠性和通过数值实验证明该预处理算子在合适的参数下可以有效的提高张量多线性方程的求解效率。 \n\n第四章首先介绍现有多线性张量方程分裂迭代算法的比较定理,重点在于预处理与未预处理张量方程之间的差异。接着,以Li 等[39] 提出的预处理算子 P_{\\alpha} 和本文新提出的预处理算子 P_{R} 为例,探讨了不同预处理算子之间的比较定理。通过多个数值示例阐述了这些比较定理,并进一步证实了它们的有效性和实用性。 \n\n最后简要总结本文全部工作,并针对研究内容存在的问题提出新的拓展方向。 \n\n# 1.5 本章小结 \n\n本章首先介绍了张量方程组的发展、应用和数据特点等,阐述了张量方程组求解的研究现状,对目前的求解ℳ-张量方程组面临的主要问题进行了分析,并指出了目前的 \\mathcal{M}\\cdot -张量方程组求解方法存在的问题。 \n\n# 第二章多线性张量方程组求解理论基础 \n\n本章介绍全文所需要的基本概念和基础知识,涵盖了关于常见张量方程的定义以及现有的研究成果。 \n\n# 2.1 多线性张量方程组理论基础 \n\n作为矩阵在高维空间的推广,张量 \\mathcal{A} 是由实数域中 n_{1}\\times\\cdots\\times n_{m} 个分量组成: \n\n$$\n\mathcal{A}=(a_{i i_{2}\cdots i_{m}})\,,\,\,\,a_{i i_{2}\cdots i_{m}}\in\mathbb{R}\,,\,\,\,i_{j}\in<n_{j}>,j=1,\cdots,m\n$$ \n\n其中 \\mathbf{n} 为正整数,且 {<}\\mathsf{n}{>} 表示的是集合 1,\\cdots,n 。特别地,当 n_{1}=\\cdots=n_{m}=n 时, \\mathcal{A} 是 \\mathrm{m} 阶 \\mathbf{n} 维张量。记全体 \\mathrm{m} 阶 \\mathbf{n} 维张量的集合为 \\mathbb{R}^{[m,n]} , 例如,当 \\mathrm{m}{=}2 时, \\mathbb{R}^{[2,n]} 就表示为全体实数矩阵的集合。同样地当 \\mathrm{m}{=}1 时, \\mathbb{R}^{[1,n]} 可以简化为 \\mathbb{R}^{[n]} ,表示所有 \\mathbf{n} 维实向量的集合。同样,上述概念也可以推广到复数域 \\mathbb{C} 。设 \\mathbb{R}_{+} 为非负实数域。如果 \\mathcal{A} 的每一项都是非负的,则称 \\mathcal{A} 为非负张量,所有 \\mathrm{m} 维的 \\mathbf{n} 个非负张量的集合用 \\mathbb{R}_{+}^{[m,n]} +表示。称形如(1.2)的方程组为多线性张量方程组,定义如下: \n\n定义2.1:给定两个张量 \\mathcal{A} 和 \\mathcal{B} ,当 \\mathcal{A} 和 \\mathcal{B} 具有相同的阶数和相同的维度,且张量 \\mathcal{A} 的每一个元素都不小于张量 \\mathcal{B} 中对应的元素时,可以称 \\mathcal{A}\\ge\\mathcal{B} ,特别地,当张量 \\mathcal{A} 的每个元素都大于张量 \\mathcal{B} 中的对应元素,则 \\mathcal{A}>\\mathcal{B} 。 \n\n下面给出矩阵-张量乘积运算的定义: \n\n定义2.2:当 \\mathcal{A}\\in\\mathbb{R}^{[2,n]} , \\boldsymbol{B}\\in\\mathbb{R}^{[k,n]} ,矩阵-张量积 \\boldsymbol{C}=\\mathcal{A}\\boldsymbol{B}\\in\\mathbb{R}^{[k,n]} 的计算公式为: \n\n$$\n\begin{array}{r}{c_{j i_{2}\cdots i_{k}}=\sum_{j_{2}=1}^{n}a_{j j_{2}}b_{j_{2}i_{2}\cdots i_{k}}.}\end{array}\n$$ \n\n特别地,当 c_{(1)} 和 \\mathcal{B}_{(1)} 是 c 和 \\mathcal{B} 沿着第一维度进行铺平得到的矩阵的时候,也可以写成 \\boldsymbol{C}_{(1)}=(\\boldsymbol{\\mathcal{A}}\\boldsymbol{\\mathcal{B}})_{(1)}=\\boldsymbol{\\mathcal{A}}\\boldsymbol{\\mathcal{B}}_{(1)}{}^{[42]} ,例如张量 \\mathcal{B}=(b_{i j k})\\in\\mathcal{C}^{[3,n]} ,则铺平得到的矩阵为: \n\n$$\n\mathcal{B}{(1)}=\left[\begin{array}{c c c c c c c c}{b{111}}&{\cdots}&{b_{1n1}}&{b_{112}}&{\cdots}&{b_{1n2}}&{\cdots}&{b_{11n}}&{\cdots}&{b_{1n n}}\\ {b_{211}}&{\cdots}&{b_{2n1}}&{b_{212}}&{\cdots}&{b_{2n2}}&{\cdots}&{b_{21n}}&{\cdots}&{b_{2n n}}\\ {\vdots}&{\ddots}&{\vdots}&{\vdots}&{\ddots}&{\vdots}&{\vdots}&{\vdots}&{\vdots}&{\vdots}\\ {b_{n11}}&{\cdots}&{b_{n n1}}&{b_{n12}}&{\cdots}&{b_{n n2}}&{\cdots}&{b_{n1n}}&{\cdots}&{b_{n n n}}\end{array}\right].\n$$ \n\n而张量-矩阵乘积 \\mathcal{A}\\mathbf{x}^{m-1} 定义在(1.1) 中。通过反转计算得到以下矩阵-向量积的形式: \n\n$$\n\mathcal{A}\mathbf{x}^{m-1}=\mathcal{A}{(1)}(\underbrace{\mathbf{x}\otimes\dots\otimes\mathbf{x}}{m-1})\n$$ \n\n其中 \\otimes 表示Kronecker 积。 \n\n另外,与矩阵类似,张量也存在特征值和特征向量。 \n\n定义2.3:[3] [43] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} , 如果有一对 (\\lambda,x)\\in\\mathbb{C}\\times(\\mathbb{C}^{n}\\mid0) 满足如下等式: \n\n$$\n\mathcal{A}\boldsymbol{x}^{m-1}=\lambda\boldsymbol{x}^{[m-1]}\mathrm{.}\n$$ \n\n其中 x^{[m-1]}=(x_{1}^{m-1},\\cdots,x_{n}^{m-1})^{T} 1,则称 \\lambda 是张量 \\mathcal{A} 的特征值, \\mathbf{X} 是其特征向量。同时,如果 \\lambda 和 \\mathbf{X} 都是实数,则称 (\\lambda,x) 为特征对。 \n\n定义2.4:令 \\sigma(A) 是张量 \\mathcal{A} 中所有元素特征值的集合,则 \\begin{array}{r l}{\\rho(\\mathcal{A})}&{{}=}\\end{array} m a x\\left\\{\\left|\\lambda\\right|\\left|\\lambda\\in\\rho(\\mathcal{A})\\right\\} 是张量 \\mathcal{A} 的谱半径。 \n\n此外,对于正整数 k ,当 k\\geq2 时,单位张量 \\mathcal{I}_{k}=(\\delta_{i_{1}\\cdots\\,i_{k}})\\in\\mathbb{C}^{[k,n]} 可以表示为: \n\n$$\n\delta_{i_{1}\cdots\i_{k}}={\left\{\begin{array}{l l}{1,}&{i_{1}=\cdots=i_{k}}\\ {0,}&{e l s e}\end{array}\right.}\n$$ \n\n同时,对于任意的 i\\in<n> , a_{i i\\cdots i} 是张量 \\mathcal{A}=(a_{i_{1}\\cdots i_{m}})\\in\\mathbb{R}^{[m,n]} 。因此,当张量 \\mathcal{A} 只有对角元素非零时,称它为对角张量。 \\mathrm{Lin}^{[43]} 进一步将不可约矩阵的定义推广到不可约张量。 \n\n定义2.5:[43] 如果存在一个非空的非全体索引的子集 \\mathbb{I}\\subseteq{1,2,\\cdots,n} ,使得 \n\n$$\na_{i_{1}i_{2}\cdots i_{m}}=0,\forall i_{1}\in\mathbb{I},\forall i_{2},\cdots,i_{m}\notin\mathbb{I}\n$$ \n\n则称 \\mathcal{A}\\in\\mathbb{C}^{[m,n]} 是可约的。相反,如果 \\mathcal{A} 不是可约的,则称其为不可约张量。 \n\n下面,将介绍几种常用的张量和一些张量的性质。 \n\n定义2.6:[44] [45] 如果张量 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} ,且它的非对角元素是非正的,那么 \\mathcal{A} 被称为Z-张量。如果存在一个非负张量 \\mathcal{B} 和一个大于等于 \\mathcal{B} 谱半径 \\rho(B) 的正实数 \\eta ,使得 \\mathcal{A}=\\eta\\mathcal{I}_{m}-\\mathcal{B} ,那么就称 \\mathcal{A} 为 \\mathcal{M}\\cdot -张量。如果 \\eta>\\rho({\\mathcal{B}}) , \\mathcal{A} 就是强 \\mathcal{M}\\cdot -张量。 \n\n引理2.1:[46] 一个Z-张量是强 \\mathcal{M} -张量当且仅当它是半正定的。 \n\n定义2.7:[47] 令 \\mathcal{A}\\in\\mathbb{C}^{[m,n]} ,那么张量 \\mathcal{A} 的主导矩阵 M({\\mathcal{A}}) 就是一个 n\\times n 的矩阵,其元素为: \n\n$$\nM(\mathcal{A}){i j}=a{i,j,\cdots,j}\n$$ \n\n其中 i,j=1,\\cdots,n\\,. \n\n引理2.2:[39] 一个 Z\\cdot -张量 \\mathcal{A} 是半正定的当且仅当 \\mathcal{M}(\\mathcal{A}) 是一个非奇异 \\mathcal{M} -矩阵,并且存在一个正的对角矩阵 D 使得 \\mathcal{A}D^{m-1} 是严格对角占优的。 \n\n引理2.3:[46] 如果 \\mathcal{A} 是一个 Z. -矩阵,那么以下三个条件是等价的: \n\n1. \\mathcal{A} 是一个非奇异 \\mathcal{M}\\cdot -矩阵。 \n\n2.是逆正矩阵。 \n\n3. 存在一个逆正 Z. -矩阵 B 和一个非奇异 \\mathcal{M}\\cdot -矩阵 C ,使得 \\mathcal{A}=B C 。 \n\n引理2.4:[44] 一个Z-张量 \\mathcal{A} 是半正定的当且仅当 \\mathcal{A} 的所有对角线元素都是正的,并且存在一个正的对角矩阵 D 使得 \\mathcal{A}D^{m-1} 严格对角占优,其中 \\mathcal{A}D^{m-1} 表示 \\mathcal{A} 和 D 的 k 模矩阵乘积, \\mathcal{A}\\times_{k}B\\,,\\,\\,k=1,2,\\hdots,m 且 \\b{B}\\in\\mathbb{C}^{n\\times n} 被称为 k 模乘积(参见[48]),由下式表示 \n\n$$\n(\mathcal{A}\times_{k}B){i{1}\ldots j_{k}\ldots i_{m}}=\sum_{i_{k}=1}^{n}a_{i_{1}\ldots j_{k}\ldots i_{m}}b_{j_{k}i_{k}}.\n$$ \n\n引理2.5:[24] 设 \\mathcal{A}\\in\\mathbb{C}^{[m,n]} ,则当且仅当 \\mathcal{A}=M(\\mathcal{A})\\mathcal{I}_{m} 时,称 \\mathcal{A} 是行对角的。 \n\n定理2.1:[39] 如果 \\mathcal{A} 是一个强 \\mathcal{M} -张量,且 \\mathbf{M}(\\mathcal{A}) 是一个Z-矩阵,则 M({\\mathcal{A}}) 是一个非奇异 \\mathcal{M} -矩阵。 \n\n定义2.8:[39] 对于 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} ,如果 M({\\mathcal{A}}) 是一个非奇异矩阵且 \\mathcal{A}=M(\\mathcal{A})\\mathcal{I}_{m} ,称 M(\\mathcal{A})^{-1} 是张量 \\mathcal{A} 的2 阶左逆矩阵。 \n\n# 2.2 张量多线性方程的求解方法 \n\n求解张量多线性方程的方法有很多,例如不动点迭代法[49],其迭代式为 \n\n$$\nx_{k+1}=T_{s,\mathcal{B},\boldsymbol{b}}(x_{k}):=(s^{-1}\mathcal{B}x_{k}^{m-1}+s^{-1}\mathbf{b})^{[\frac{1}{m-1}]}\n$$ \n\n其中 \\mathbf{v}^{[\\alpha]}=[v_{1}^{\\alpha},v_{2}^{\\alpha},\\cdots,v_{n}^{\\alpha}]^{T} 1, 𝑣, ⋯, 𝑣]表示向量的分量幂。其次是张量分裂的方法[50],受到对任意非奇异矩阵 E\\in\\mathbb{R}^{n\\times n} 和任意非零标量 \\alpha 都存在等式 x=(I+\\alpha E^{-1}\\mathcal{A}x^{m-2})x-\\alpha E^{-1}\\mathbf{b} 的启发,对形如 \\mathcal{A}\\boldsymbol{x}-\\mathbf{b}=0 的线性张量方程进行分裂: \\mathcal{A}=\\mathcal{M}-\\mathcal{V} 。则该分裂方法的迭代式为 \n\n$$\n\boldsymbol{x}{k+1}=\mathcal{M}^{-1}\mathcal{V}\boldsymbol{x}{k}+\mathcal{M}^{-1}\boldsymbol{\mathbf{b}}=(I-\mathcal{M}^{-1}\mathcal{A})\boldsymbol{x}{k}+\mathcal{M}^{-1}\boldsymbol{\mathbf{b}},\n$$ \n\n并且,当 \\mathcal{M}=D 是 \\mathcal{A} 的对角张量时,称其为Jacobi 算法;当 \\mathcal{M}=\\mathcal{L} 是 \\mathcal{A} 的下三角张量的时候,称为Gauss-Seidel 算法,简称G-S 算法。除此之外,Liu 等[39] 提出了一种张量的分裂形式: \\mathcal{A}=\\mathcal{E}-\\mathcal{F} ,并且给出了依据此张量分裂形式的求解(1.2)的张量迭代算法:对于一个初始的向量 x_{0} , \n\n$$\nx{k}=[M(\mathcal{E})^{-1}\mathcal{F}x_{k-1}^{m-1}+M(\mathcal{E})^{-1}\mathbf{b}]^{[\frac{1}{m-1}]},k=1,2,\cdots\n$$ \n\n其中 M(\\mathcal{E})^{-1}\\mathcal{F} 是分裂算法的迭代张量。同时,他们提出用谱半径 \\rho(M(\\mathcal{E}^{-1}\\mathcal{F})) 作为迭代算法(2.1)的近似收敛速率。在此基础上,给出如下结论:对于任何迭代方法,如果其展现出较快的收敛速率,则可以推断该方法的迭代矩阵具有较小的谱半径。依据定义2.8,下面是关于左非奇异张量的定义以及张量分裂的定义: \n\n定义2.9:[39] 令 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} ,如果 \\mathcal{A} 具有二阶左逆,则称 \\mathcal{A} 为左可逆张量或左非奇异张量。 \n\n定义2.10:[39] 令 \\mathcal{A},\\mathcal{E},\\mathcal{F}\\in\\mathbb{R}^{[m,n]} ,如果 \\mathcal{E} 是左非奇异的,那么就称 \\mathcal{A}=\\mathcal{E}-\\mathcal{F} 这种分解为张量 \\mathcal{A} 的分裂;如果 \\mathcal{E} 是左非奇异的且 M(\\mathcal{E})^{-1}\\geq O,\\mathcal{F}\\geq O ,那么该分解就是张量 \\mathcal{A} 的正则分裂;如果 \\mathcal{E} 是左非奇异的且 M(\\mathcal{E})^{-1}\\geq O,M(\\mathcal{E})^{-1}\\mathcal{F}\\geq O ,那么就称其为张量 \\mathcal{A} 的弱正则分裂;如果 \\rho(M(\\mathcal{E}^{-1})\\mathcal{F}<1) ,那么称该分裂是一个收敛分裂。 \n\n基于张量分裂的定义,存在一些等价的条件。 \n\n引理2.6:[39] 如果 \\mathcal{A} 是一个Z-张量,那么以下条件是等价的: \n\n(1) \\mathcal{A} 是一个强 \\mathcal{M} -张量。(2) 存在一个逆正Z-矩阵 B 和一个半正定Z-张量 c ,使得 \\mathcal{A}=B C 。(3) \\mathcal{A} 有一个收敛(弱)正则分裂。(4) \\mathcal{A} 的所有的(弱)正则分裂都是收敛的。 \n\n引理 2.7 : [ 51 ] [ 52 ] 假设 \\mathcal{A}\\in\\mathbb{R}_{+}^{[m,n]} 那么 \n\n$$\n\begin{array}{r}{\rho(A)=\operatorname*{max}{{\bf x}\ge0,x{i}\neq0}\operatorname*{min}{x{i}>0}\frac{(\mathcal{A}{\bf x}^{m-1}){i}}{x{i}^{m-1}}.}\end{array}\n$$ \n\n引理2.8:[40] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量,并且 \\mathcal{A}=\\mathcal{E}_{1}-\\mathcal{F}_{1}=\\mathcal{E}_{2}-\\mathcal{F}_{2} 是两个弱正则分裂,满足 M(\\mathcal{E}_{2})\\geq M(\\mathcal{E}_{1}) 。如果 \\mathbf{X} 是 M(\\mathcal{E}_{2})^{-1}\\mathcal{F}_{2} 最大特征值对应的一个正特征向量,同时满足 \\mathcal{A}\\mathbf{x}^{m-1}\\geq\\mathbf{0} ,则 \\begin{array}{r}{\\rho(M(\\mathscr{E}_{2})^{-1}\\mathcal{F}_{2})\\leq\\rho(M(\\mathscr{E}_{1})^{-1}\\mathcal{F}_{1}).}\\end{array} 。 \n\n定理2.2:[40] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量, \\mathcal{T}_{\\alpha}=M(\\mathcal{E}_{\\alpha})^{-1}\\mathcal{F}_{\\alpha} 是张量分解算法的迭代式。如果 \\alpha_{1},\\alpha_{2}\\in[0,1],i=1,\\ldots,n-1 且 \\alpha_{2}\\leq\\alpha_{1} ,则 \\rho(T_{\\alpha_{1}})\\leq\\rho(\\mathcal{T}_{\\alpha_{2}}) 。 \n\n对于多线性方程(1.2), 存在解的唯一性引理如下: \n\n引理2.9:[24] 如果 \\mathcal{A} 是一个强 \\mathcal{M} -张量,那么对于每个正向量 \\mathbf{b} 来说,多线性方程 \\mathcal{A}\\boldsymbol{x}^{m-1}=\\mathbf{b} 都有一个唯一的正解。 \n\n# 2.3 本章小结 \n\n本章首先明确了张量的概念,并介绍了矩阵与张量乘积的运算规则,从而引入了张量方程的概念。紧接着,详细讨论了ℳ-张量的定义、相关定理及引理。进一步,本章还概述了解决多线性张量方程的现有方法,并对张量分裂迭代算法进行了定义和理论阐述,为后续的理论研究和推导打下了坚实的基础。 \n\n# 第三章基于预处理张量分裂方法求解张量方程组 \n\n本章详细介绍基于-张量的预处理张量分裂方法。首先,本章介绍现有张量分裂算法的具体步骤,然后详细阐述预处理张量分裂算法。进一步,提出了一种新的预处理算子,并在理论上证明了该预处理算法保持了ℳ-张量方程的特有性质。最终,通过数值实验来验证新算法的有效性和性能。 \n\n# 3.1 预处理张量分裂算法 \n\n# 3.1.1 张量分裂算法 \n\n为了求解由 \\mathcal{M} - 张量构成的形如 (1.2) 的多线性张量方程,本文引入了 TSI ( Tensor Splitting Iterative)方法。此方法的具体步骤详见表3-1。 \n\n表3-1中的步骤3 可以写成 \\mathcal{E}x_{k+1}^{m-1}=\\mathcal{F}x_{k}^{m-1}\\mathbf{+b} 𝑘+1 ,这可以转换成矩阵系统 \\begin{array}{r l}{\\lefteqn{M(\\mathscr{E}){\\mathbf{z}}_{k+1}=}}\\end{array} \\mathbf{b}_{k} ,其中 \\mathbf{z}_{k+1}=\\mathbf{x}_{k+1}^{[m-1]} 和 \\mathbf{b}_{k}=\\mathcal{F}\\mathbf{x}_{k}^{m-1}+\\mathbf{b} 𝑘+。在此基础上Liu 等[39] 提出,对于非奇异矩阵 P ,存在强 \\mathcal{M} -张量 \\mathcal{A} ,使得 P\\mathbf{\\mathcal{A}}\\mathbf{x}^{m-1}=P\\mathbf{\\mathfrak{b}} 等价于式子(1.2),此时称非奇异矩阵 P 为式子(1.2)的预处理算子。随后Liu 等[39] 提出当 P\\mathcal{A}=\\mathcal{E}_{p}-\\mathcal{F}_{p} 是 P\\mathcal A 的分裂时,存在如表3-3的PTSI(Preconditioned Tensor Splitting Iterative)算法。 \n\n定义符号 D,\\,L 、和 U 分别代表对角张量、严格下三角行张量和上三角行张量。定义张量 \\mathcal{A}=\\mathcal{E}-\\mathcal{F} ,通过选择不同的 \\mathcal{E} ,可以实现经典的迭代求解方法。例如,选择 \\mathcal{E}=D 时,得到Jacobi 方法;选择 \\mathcal{E}=\\mathcal{D}-\\mathcal{L} 时,获得Gauss-seidel 方法(G-S 方法);ℰ= 1 而当 \\begin{array}{r}{\\mathcal{E}=\\frac{1}{\\omega}(D-\\omega\\mathcal{L})}\\end{array} 时,则对应于SOR 方法。此外,若 \\mathcal{E}=E\\varUpsilon_{m} ,其中 E 是一个可逆矩阵,这表示了FULLM 方法。这些方法都总结在表3-2。 \n\n另外,SOR 方法的迭代式可以写成: \n\n$$\nx_{k+1}=\left(\mathcal{E}-\varepsilon\varPi_{m}\right){++}^{-1}\left(\left(F-\varepsilon\varPi{m}\right)\mathbf{x}{k}^{m-1}+\mathbf{b}\right)^{\left[\frac{1}{m-1}\right]}\n$$ \n\n其中 A_{++}^{-1}\\mathbf{b} ++ 被定义为所有多线性张量方程(1.2) 的正解集,也就是说 \\left(\\mathcal{E}-\\varepsilon\\mathcal{I}_{m}\\right)_{++}^{-1} 并不是张量的逆。同样地,也存在基于张量逆的SOR 方法来加速算法 T S I 的收敛性: \n\n$$\nx{k+1}=\left({\mathcal{E}}-\varepsilon I_{m}\right)^{-1}\left(\left({\mathcal{F}}-\varepsilon I_{m}\right)\mathbf{x}{k}^{m-1}+\mathbf{b}\right)^{\left[{\frac{1}{m-1}}\right]}\n$$ \n\n其中, \\left(\\mathcal{E}-\\varepsilon\\mathcal{I}_{m}\\right)^{-1} 是 \\mathcal{E}-\\varepsilon T_{m} 的左逆。 \n\n表3-1 TSI 方法求解张量方程组Table 3-1 Solving Tensor Equation Systems with the TSI Method \n\n<table border="1">TSI算法1)给定一个正向量 b,一个存在(弱)正则分裂A=-F 的强M-张量A,一个最大迭代次数kmax,一个可接受的最大误差 ε和一个正的初始向量xo.初始化k=1.2) 当 k< kmax3) 4)如果 IlAxk-1-bll2<ε,则跳出循环并且输出 Xk5) \n\n表3-2 基于强 M -张量的不同迭代方法Table 3-2 Different iterative methods based on strong M-tensors \n\n<table border="1">迭代方法8Jacobi方法ε=DG-S 方法=D-LSOR方法&= (D-OL)FULLM方法 \n\n# 表3-3 PTSI 方法求解张量方程组 \n\nTable 3-3 Solving Tensor Equation Systems with the PTSI Method \n\n# PTSI 算法 \n\n<table border="1">1)裂 PA=&,-F,的强 M-张量 A,,一个最大迭代次数 kmax,一给定一个正向量 b,一个预处理算子 P一个存在(弱)正则分裂 PA=&,-F,的强 M-张量 A,,一个最大迭代次数 kmax,一2)当 k<kmaxXk = (M(e,)-I F,Xk-1 + M(,)-1 b)[言 ]个可接受的最大误差ε和一个正的初始向量 Xo.初始化k= 1.3)4)个可接受的最大误差ε和一个正的初始向量 Xo.初始化k= 1.个可接受的最大误差ε和一个正的初始向量 Xo.初始化k= 1.5)k = k + 1,跳到步骤 2.个可接受的最大误差ε和一个正的初始向量 Xo.初始化k= 1.个可接受的最大误差ε和一个正的初始向量 Xo.初始化k= 1. \n\n# 3.1.2 基于预处理算子的张量分裂算法 \n\n正如第二章提到的,在求解张量方程的时候,添加合适的预处理算子可以进一步的提高张量分裂算法求解张量方程的效率和准确度。在本节中,预处理方法 \n\n# P\\mathbf{\\mathcal{A}}x^{m-1}=P\\mathbf{\\mathfrak{b}} \n\n被用来解决张量方程(1.2)。根据表3-1, 当预处理张量经过分裂 P\\mathcal{A}=\\mathcal{E}_{p}-\\mathcal{F}_{p} 后,预处理张量分裂算法的迭代式可以表示为 \n\n$$\n\mathbf{x}{k}=(\mathbf{M}(\mathcal{E}{\mathbf{p}})^{-1}\mathcal{F}{\mathbf{p}}\mathbf{x}{k-1}+\mathbf{M}(\mathcal{E}{\mathbf{p}})^{-1}\mathbf{b})^{[\frac{1}{m-1}]}\n$$ \n\n当系数矩阵是M-矩阵时,有很多有效的预处理器用于解决这些系统。然而,对于多线性系统,迄今为止这些研究还很少。基于这个动机,本文建立了一些有效的预处理器并给出了理论分析。在研究中,假设张量 \\mathcal{A} 在张量方程 \\mathcal{A}\\boldsymbol{x}^{m-1}=\\mathbf{b} 中的所有对角元素都是1。同时在本研究中,考虑一个新的预处理算子 P_{R}=I+R_{\\theta} ,其中 \n\n$$\nR_{\theta}=\left[\begin{array}{c c c c c}{0}&{0}&{\cdots}&{0}&{0}\\ {0}&{0}&{\cdots}&{0}&{0}\\ {\vdots}&{\vdots}&{\ddots}&{\vdots}&{0}\\ {0}&{0}&{\cdots}&{0}&{0}\\ {-\theta_{1}a_{n,1,1,\ldots,1}}&{-\theta_{2}a_{n,2,2,\ldots,2}}&{\cdots}&{-\theta_{n-1}a_{n,n-1,n-1,\ldots,n-1}}&{0}\end{array}\right]\n$$ \n\n而 \\theta_{j}\\in\\mathbb{R} , j=1,\\cdots,n 是参数。经过该预处理器,张量多线性方程将变成 P_{R}\\mathcal{A}x^{m-1}= P_{R}\\mathbf{b}, , 其中 P_{R}\\mathcal{A}=\\hat{\\mathcal{A}}_{\\theta}=\\mathcal{E}_{\\theta}-\\mathcal{F}_{\\theta} 𝒜𝜃= ℰ𝜃−ℱ𝜃 \n\n通过取 \\begin{array}{r}{\\mathcal{E}=\\frac{1}{\\tau}(I_{m}-\\tau L)}\\end{array} 解方程(1.2)的SOR 方法的张量分裂算法迭代式如下: \n\n$$\n\boldsymbol{x}{k}=(T(\tau)\boldsymbol{x}{k-1}^{m-1}+\tau M(I_{m}-\tau\mathcal{L})^{-1}\mathbf{b})^{[\frac{1}{m-1}]},\n$$ \n\n其中 T(\\tau)=M(\\pmb{I}_{m}-\\tau\\mathcal{L})^{-1}((1-\\tau\\pmb{I}_{m})+\\tau\\mathcal{F}) 。该算法迭代式可进一步简化为: \n\n$$\nx_{k}=(T_{\theta}(\tau)x_{k-1}^{m-1}+q_{\tau})^{[\frac{1}{m-1}]},\n$$ \n\n其中 T_{\\theta}(\\tau) 和 q_{\\tau} 给出如下: \n\n$$\n\boldsymbol{T_{\theta}}(\tau)=\boldsymbol{M}(\mathcal{E}{\theta}(\tau))^{-1}\boldsymbol{\mathcal{F}}{\theta}(\tau),\quad\boldsymbol{q_{\tau}}=\boldsymbol{M}(\mathcal{E}{\theta}(\tau))^{-1}(\boldsymbol{I}+\boldsymbol{C}{\theta})\boldsymbol{\mathsf{b}},\n$$ \n\n和 \n\n$$\n\mathcal{E}{\theta}(\tau)=\frac{1}{\tau}(\mathcal{D}^{\prime\prime}-\tau\mathcal{L}^{\prime\prime}),\mathcal{F}{\theta}(\tau)=\frac{1}{\tau}((1-\tau)\mathcal{D}^{\prime\prime}+\tau\mathcal{F}^{\prime\prime}).\n$$ \n\n下面将给出新预处理张量分裂算法的理论证明。 \n\n命题3.1:设 A\\in\\mathbb{R}^{[m,n]} 。如果 \\mathcal{A} 是一个强 \\mathcal{M}\\cdot -张量并且 A=\\mathscr{I}_{m}-\\mathscr{L}-\\mathscr{F} ,其中\n\n {\\mathcal{L}}=L\\varLambda_{m} , -L 是 M({\\mathcal{A}}) 的严格下三角部分,那么对于所有 \\theta_{i}\\in[0,1] , i=1,2,\\dots,n-1\n\n \\hat{\\mathcal{A}}_{\\theta}=(I+R_{0})\\mathcal{A} 是一个强 \\mathcal{M}\\cdot -张量。 \n\n证明:由于张量 \\mathcal{A} 的对角线元素为1,并且 \n\n$$\n\begin{array}{r}{\tilde{a}{j,i{2},\ldots,i_{m}}=\left\{\begin{array}{l l}{a_{j,i_{2},\ldots,i_{m}},}&{j<n,}\\ {a_{j,i_{2},\ldots,i_{m}}-\sum_{k=1}^{n-1}\theta_{k}a_{n,k}a_{k,i_{2},\ldots,i_{m}},}&{j=n,}\end{array}\right.}\end{array}\n$$ \n\n对于 (j,i_{2},\\dots,i_{m})\\neq(j,j,\\dots,j) ,有 \\tilde{a}_{j,i_{2},\\dots,i_{m}}\\leq0 对所有 \\theta_{i}\\in[0,1] ,即 \\tilde{\\mathcal{A}} 是一个Z-张量。根据引理2.6, \\mathcal{A} 是一个强 \\mathcal{M}\\cdot -张量,所以存在某个 x\\geq0 使得 \\mathcal{A}\\boldsymbol{x}^{m-1}>0 。因为 (I+R_{0}{\\mathcal{A}})\\geq0 ,有 (I+R_{0})\\mathcal{A}x^{m-1}>0 。因此, \\hat{\\mathcal{A}}_{0} 是一个强 \\mathcal{M} -张量。 \n\n命题3.2:对于 P_{R}=I+R_{\\theta} 与任意的 \\theta_{i}\\in\\left[0,1\\right],\\;i=1,2,\\ldots,n-1 ,存在 \\hat{\\mathbf{b}}\\geq\\mathbf{b}>0 由引理2.9和命题3.1,可以得到多线性张量方程 P_{R}\\mathcal{A}\\mathbf{x}^{m-1}=P_{R}\\mathbf{b} 与 \\mathcal{A}\\mathbf{x}^{m-1}=\\mathbf{b} 有相同的唯一正解。 \n\n引理3.1:如果 \\hat{\\mathcal{A}}_{\\theta} 是一个强 \\mathcal{M} -张量,则 M(\\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}) 是一个非奇异的 \\mathcal{M}\\cdot -矩阵。 \n\n证明:由引理2.1,一个强 \\mathcal{M} -张量 \\hat{\\mathcal{A}}_{\\theta} 是半正定的。那么存在一个向量 \\mathbf{x}>0 使得 \\hat{\\mathcal{A}}_{\\theta}\\mathbf{x}^{m-1}>0 。因此,对所有 i=1,2,\\dots,n ,有 \n\n$$\n:\!\!\sum_{i_{2},\ldots,i_{m}=1}^{n}a_{i i_{2}\ldots i_{m}}x_{i_{2}}\ldots x_{i_{m}}=\sum_{j=1}^{n}a_{i j\ldots j}x_{j}^{m-1}+\sum_{i_{2},\ldots,i_{m}=1\atop i_{2},\ldots,i_{m}\neq0}^{n}a_{i i_{2}\ldots i_{m}}x_{i_{2}}\ldots x_{i_{m}}\leq\sum_{j=1}^{n}a_{i j\ldots j}x_{j}^{m-1}.\n$$ \n\n因此 M(\\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}})\\mathbf{x}^{m-1}>0 𝜃。由于 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}} 是一个 \\mathcal{M} -张量, M(\\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}) 𝜃 是一个 Z. -矩阵。根据定理2.1 M(\\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}) 𝒜𝜃) 是一个非奇异 \\mathcal{M} -矩阵。 \n\n引理3.2:设 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}\\in\\mathbb{R}^{[m,n]} , \\mathcal{E}_{\\theta}=M(\\hat{\\mathcal{A}}_{\\theta})\\mathcal{I}_{m} 𝜃𝑚且 \\mathcal{F}_{\\theta}=\\mathcal{F}_{\\theta}-\\hat{\\mathcal{A}}_{\\theta} 𝜃。如果 \\hat{\\mathcal{A}}_{\\theta} 是一个强 \\mathcal{M}\\cdot -张量,那么分裂 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=\\mathcal{E}_{\\boldsymbol{\\theta}}-\\mathcal{F}_{\\boldsymbol{\\theta}} 是 \\hat{\\mathcal{A}}_{\\theta} 的一个正则分裂。 \n\n证明:由定理2.1, M(\\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}) 𝜃 是一个非奇异 \\mathcal{M}\\cdot -矩阵,因此 M(\\mathcal{E}_{\\theta})=M(\\hat{\\mathcal{A}}_{\\theta}) 𝜃 是一个非奇异M-矩阵,且 M(\\mathcal{E}_{\\theta})^{-1}\\geq0 。此外, \\mathcal{F}_{\\theta}=M(\\hat{\\mathcal{A}}_{\\theta})\\mathcal{I}_{m}\\!-\\!\\hat{\\mathcal{A}}_{\\theta}\\geq0 𝒜𝜃)ℐ𝑚−𝒜𝜃≥0,因此,分裂 \\hat{\\mathcal{A}}_{\\theta}=\\mathcal{E}_{\\theta}\\!-\\!\\mathcal{F}_{\\theta} 是 A 的一个正则分裂。 \n\n引理3.3:一个Z-张量 \\hat{\\mathcal{A}}_{\\theta} 是半正定的,当且仅当存在一个可逆正定 Z -矩阵 B_{\\theta} 和一个半正定Z-张量 c_{\\theta} 使得 \\mathcal{A}=B C 。 \n\n证明: \\leftrightsquigarrow : 假设 \\hat{\\mathcal{A}}_{\\theta} 是半正定的 Z. -张量。那么根据引理2.1, \\hat{\\mathcal{A}}_{\\theta} 是一个强 \\mathcal{M}\\cdot -张量。设 \\mathcal{F}_{\\theta}=M(\\hat{\\mathcal{A}}_{\\theta})\\mathcal{I}_{m}-\\hat{\\mathcal{A}}_{\\theta} 𝜃𝑚𝜃且 B_{\\theta}=M(\\hat{\\mathcal{A}}_{\\theta}) 𝜃。由公式(3.3), B_{\\theta} 是一个非奇异 \\mathcal{M} -矩阵。𝒜 = ℐ −𝑀( 𝒜 ) −1 ℱ 令 \\begin{array}{r}{C_{\\theta}=B^{-1}\\hat{\\mathcal{A}}_{\\theta}=I_{m}-M(\\hat{\\mathcal{A}}_{\\theta})^{-1}\\mathcal{F}_{\\theta}}\\end{array} 𝜃𝑚𝜃𝜃。由引理3.2, C_{\\theta} 是一个 Z. -张量。因为 \\hat{\\mathcal{A}}_{\\theta} 是半正定𝒜 𝑚−1 ) 的,存在一个向量 \\mathbf{x}>0 使得 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}\\mathbf{x}^{m-1}>0 。因此,向量 C_{\\theta}\\mathbf{x}^{m-1}=B^{-1}(\\hat{\\mathcal{A}}_{\\theta}\\mathbf{x}^{m-1}) 𝜃 也是正的。故 c_{\\theta} 也是半正定的。 \n\n$\leftrightharpoons$ : 设 C_{\\theta}=(c_{i,j,\\dots,i_{m}}) 并且 \\hat{\\mathcal{A}}_{\\theta}=(a_{i,j,\\dots,i_{m}}) 。假设 c_{\\theta} 是半正定的 Z. -张量,从引理2.4 可知存在一个正定的对角矩阵 D_{\\theta}=\\mathrm{diag}(d_{1},d_{2},\\ldots,d_{n}) ,使得 c_{\\theta}D_{\\theta}^{m-1} 𝜃是严格对角占优的,因此 \n\n$$\nc_{i i\ldots i}d_{i}^{m-1}>-\sum_{(i_{2},i_{3},\ldots,i_{m})\neq(i,i,\ldots,i)}^{n}c_{i i_{2}\ldots i_{m}}d_{i_{2}}d_{i_{3}}\ldots d_{i_{m}}.\n$$ \n\n接下来,证明 \n\n$$\na_{i i\ldots i}d_{i}^{m-1}>-\sum_{(i_{2},i_{3},\ldots,i_{m})\neq(i,i,\ldots,i)}^{n}a_{i i_{2}\ldots i_{m}}d_{i_{2}}d_{i_{3}}\ldots d_{i_{m}}.\n$$ \n\n假设 \\hat{\\mathcal{A}}_{\\theta}=B_{\\theta}C_{\\theta} ,此时 \\begin{array}{r}{a_{i i\\ldots i}=\\sum_{j=1}^{n}b_{i j}c_{j i\\ldots i}}\\end{array} 𝑗=1𝑖𝑗𝑗𝑖…𝑖和 \n\n$$\na_{i i_{2}\ldots i_{m}}=\sum_{j=1}^{n}b_{i j}c_{j i_{2}\ldots i_{m}},\quad i=1,2,\ldots,n,\quad(i_{2},i_{3},\ldots,i_{m})\neq(i,i,\ldots,i),\n$$ \n\n然后 \n\n$$\na_{i i\ldots i}d_{i}^{m-1}=\sum_{j=1}^{n}b_{i j}c_{j i\ldots i}d_{i}^{m-1}=b_{i i}c_{i i\ldots i}d_{i}^{m-1}+\sum_{j\ne i}^{n}b_{i j}c_{j i\ldots i}d_{i}^{m-1},\n$$ \n\n和 \n\n$$\na_{i i_{2}\ldots i_{m}}d_{i_{2}}\ldots d_{i_{m}}=\sum_{j=1}^{n}b_{i j}c_{j i_{2}\ldots i_{m}}d_{i_{2}}\ldots d_{i_{m}}.\n$$ \n\n因此, \n\n$$\na_{i i\ldots i}d_{i}^{m-1}+\sum_{(i_{2},i_{3},\ldots,i_{m})\neq(i,i,\ldots,i)}^{n}a_{i i_{2}\ldots i_{m}}d_{i_{2}}\ldots d_{i_{m}}\n$$ \n\n$$\n\begin{array}{l}{{=b_{i i}c_{i\dots i}d_{i}^{m-1}+\displaystyle\sum_{j\neq i}^{n}b_{i j}c_{j\dots i}d_{i}^{m-1}+\displaystyle\sum_{j=1}^{n}\displaystyle\sum_{(i_{2},\dots,i_{m})\neq(i,\dots)}b_{i j}c_{j_{2}\dots i_{m}}d_{i_{2}}\dots d_{i_{m}}}}\\ {{=b_{i i}c_{i\dots i}d_{i}^{m-1}+\displaystyle\sum_{j\neq i}^{n}b_{i j}c_{j\dots i}d_{i}^{m-1}+b_{i i}\displaystyle\sum_{(i_{2},\dots,i_{m})\neq(i,\dots)}^{n}c_{i_{2}i,\dots i_{m}}d_{i_{2}}\dots d_{i_{m}}}}\\ {{\phantom{=}+\displaystyle\sum_{j\neq i}^{n}\displaystyle\sum_{(i_{2},\dots,i_{m})\neq(i,\dots)}^{n}b_{i i}c_{j_{2}\dots i_{m}}d_{i_{2}}\dots d_{i_{m}}}}\\ {{=b_{i i}(c_{i\dots i}d_{i}^{m-1}+\displaystyle\sum_{(i_{2},\dots,i_{m})\neq(i,\dots)}c_{i_{2}i,\dots i_{m}}d_{i_{2}}\dots d_{i_{m}})}}\\ {{\phantom{=}+\displaystyle\left(\sum_{j\neq i}^{n}b_{i j}c_{j\dots i}d_{i}^{m-1}+\displaystyle\sum_{(i_{2},\dots,i_{m})\neq(i,\dots)}c_{i_{2}i,\dots i_{m}}d_{i_{2}}\dots d_{i_{m}}\right).}}\end{array}\n$$ \n\n根据引理2.1 和引理2.3, C_{\\theta} 是一个强 \\mathcal{M} -张量,并且 B_{\\theta} 是一个强 \\mathcal{M} -矩阵。因此由式子(3.1),可以知道公式(3.3) 的最后一项是一个正数。因此式子(3.2) 成立。 \n\n注意到 (\\hat{\\mathcal{A}}_{\\theta})_{(1)}=B_{\\theta}(C_{\\theta})_{(1)} 𝜃(1)𝜃𝜃(1),因此 M(\\hat{\\mathcal{A}}_{\\theta})=B_{\\theta}M(C_{\\theta}) 𝜃𝜃𝜃。根据引理3.1和引理2.3,可以得出 M(\\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}) 𝒜𝜃) 是一个 \\mathcal{M} -矩阵。然后结论由引理2.2得出。证明完成。 \n\n引理3.4:设 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}} 是一个 Z. -张量,则 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}} 是半正定的当且仅当 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}} 有一个正则分裂 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=\\mathcal{E}_{\\boldsymbol{\\theta}}-\\mathcal{F}_{\\boldsymbol{\\theta}} ,并且存在 \\mathbf{x}>0 使得 M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta}\\mathbf{x}^{m-1}<\\mathbf{x}^{[m-1]} 。 \n\n证明: \\leftrightsquigarrow ”:根据引理3.2, \\hat{\\mathcal{A}}_{\\theta}\\,=\\,\\mathcal{E}_{\\theta}-\\mathcal{F}_{\\theta} 是一个正则分裂。假设 \\hat{\\mathcal{A}}_{\\theta} 是半正定的,存在 \\mathbf{x}\\,>\\,0 使得 \\hat{\\mathcal{A}}_{\\theta}\\mathbf{x}^{m-1}\\,>\\,0 。因为 M(\\mathcal{E}_{\\theta})^{-1}\\,\\geq\\,O ,且 \\mathcal{F}_{\\theta}\\,=\\,\\mathcal{E}_{\\theta}-\\hat{\\mathcal{A}}_{\\theta} 𝒜𝜃,此时 M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta}\\mathbf{x}^{m-1}\\,<\\,M(\\mathcal{E})^{-1}\\mathcal{E}_{\\theta}\\mathbf{x}^{m-1} 。由于 M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{E}_{\\theta}\\,=\\,M(\\mathcal{E}_{\\theta})^{-1}M(\\mathcal{E})\\mathcal{I}_{m}\\,=\\,\\mathcal{I}_{m} ,因此 M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta}\\mathbf{x}^{m-1}<\\mathbf{x}^{[m-1]}\\,_{\\mathrm{c}} 。 \n\n$\Lleftarrow,$ :假设 \\hat{\\mathcal{A}}_{\\theta}\\,=\\,\\mathcal{E}_{\\theta}\\,-\\,\\mathcal{F}_{\\theta} 是一个正则分裂, M(\\mathcal{E}_{\\theta})^{-1}\\,\\geq\\,O 并且 \\mathcal{F}_{\\boldsymbol{\\theta}}\\,\\geq\\,O 。设 {\\mathcal{C}}={\\mathcal{I}}_{m}-M({\\mathcal{E}}_{\\theta})^{-1}{\\mathcal{F}}_{\\theta} 。通过假设,存在 \\mathbf{x}>0 使得 M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta}\\mathbf{x}^{m-1}<\\mathbf{x}^{m-1}=\\mathcal{I}_{m}\\mathbf{x}^{m-1} ,即 C{\\mathbf{x}}^{m-1}>0 。因此 c 是一个半正定的Z-张量。此时 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=M(\\mathcal{E}_{\\boldsymbol{\\theta}})^{-1}(\\mathcal{I}_{m}-M(\\mathcal{E}_{\\boldsymbol{\\theta}})^{-1}\\mathcal{F}_{\\boldsymbol{\\theta}})= M(\\mathcal{E}_{\\theta})^{-1}c 。由引理3.3,得出 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}} 是半正定的。 \n\n引理3.5:一个Z-张量 \\hat{\\mathcal{A}}_{\\theta} 是半正定的当且仅当 \\hat{\\mathcal{A}}_{\\theta} 有一个收敛的正则分裂。 \n\n证明: \\leftrightsquigarrow :假设 \\hat{\\mathcal{A}}_{\\theta} 是半正定的。那么根据引理3.4, \\hat{\\mathcal{A}}_{\\theta} 有一个正则分裂 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=\\mathcal{E}_{\\boldsymbol{\\theta}}-\\mathcal{F}_{\\boldsymbol{\\theta}} ,并且存在 \\mathbf{x}>\\mathbf{0} 使得 M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta}\\mathbf{x}^{m-1}<\\mathbf{x}^{m-1} 。因此 \\rho(M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta})<1 这意味着分裂是收敛的。 \n\n$\leftrightharpoons$ :如果 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}} 有一个收敛的正则分裂 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=\\mathcal{E}_{\\boldsymbol{\\theta}}-\\mathcal{F}_{\\boldsymbol{\\theta}} ,则 M(\\mathcal{E}_{\\theta})^{-1}>O , \\mathcal{F}_{\\theta}\\geq\\mathcal{O} 并𝒜 = ℐ −𝑀(ℰ ) −1 ℱ 且 \\rho(M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta})<1 。这意味着 M(\\mathcal{E}_{\\theta})^{-1}\\hat{\\mathcal{A}}_{\\theta}=I_{m}-M(\\mathcal{E}_{\\theta})^{-1}\\mathcal{F}_{\\theta} 𝜃𝑚𝜃𝜃是一个强 \\mathcal{M}\\cdot -张量。然后有 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=M(\\mathcal{E}_{\\boldsymbol{\\theta}})\\mathcal{C} 。根据引理3.3, \\hat{\\mathcal{A}}_{\\theta} 是一个强 \\mathcal{M}\\cdot -张量。此外,根据引理2.1, \\hat{\\mathcal{A}}_{\\theta} 是半正定的。 \n\n由引理2.9,可以得到如下引理: \n\n引理3.6:如果 \\hat{\\mathcal{A}}_{\\theta} 是强 \\mathcal{M}\\cdot -张量,那么对于任意正向量b 来说,多线性方程 \\hat{\\mathcal{A}}_{\\theta}\\mathbf{x}^{m-1}=\\mathbf{b} 都有一个唯一的正解。 \n\n# 3.2 数值实验 \n\n在本小节中,本文将通过数值实验对表3-2中列出的算法在求解多线性方程 \n\n$$\nP_{R}\mathcal{A}\mathbf{x}^{m-1}=P_{R}\mathbf{b}\n$$ \n\n的性能进行比较分析。所有测试使用MATLAB R2014a 并配备以下配置执行:Intel(R)Core(TM) i7-6700HQ CPU 2.60GHz 和8.0G RAM。在以下示例中,给出了两个方面来检查所提算法的效率:迭代步数(用(IT 表示),CPU 时间(秒)(用CPU(s)) 表示)。− ‖ < 𝜀= 10 −11 所有实验最大迭代次数设置为1000,停止准则为 \\left\\|\\mathcal{A}\\mathbf{x}_{N}^{m-1}-\\mathbf{b}\\right\\|_{2}<\\varepsilon=10^{-11} 𝑁2。对于所有张量迭代方法, P_{R} 的所有优化参数都是通过数值实验选择的。 \n\n例3.1:考虑一个3 阶5 维的非奇异 \\mathcal{M} -张量 \\mathcal{A}=s\\mathcal{I}_{m}\\!-\\!\\mathcal{B} , 其中 \\mathcal{B} 是通过MATLAB使用rand 函数随机生成的。 \\begin{array}{r}{s=(1+\\epsilon)\\operatorname*{max}_{i=1,2,\\dots,n}({\\mathcal{B}}\\mathbf{e}^{2})_{i}}\\end{array} , \\epsilon>0 并且 \\mathbf{e}=(1,1,...,1)^{T} 。此处 B\\mathbf{e}^{2} 是模态积, {\\bf e}^{2} 是 \\mathbf{e} 与自身的逐元素乘积。取 \\epsilon=1 ,初始值 \\mathbf{b}=\\mathbf{x}_{0}=\\mathbf{e} ,在表3-5列出了基于预处理算法的数值结果。 \n\n例3.2:设 \\mathcal{A}\\in\\mathbb{R}^{3\\times n} 且 \\mathbf{b}\\in\\mathbb{R}^{n\\times n} ,其中 \n\n$$\n\left\{\begin{array}{r l}{a_{111}=1,}&{{}}\\ {a_{i i i}=2,\quad}&{{}i=2,3,\ldots,n-1,}\\ {a_{i,i-1,i}=-\frac{1}{2},\quad}&{{}i=2,3,\ldots,n-1,}\\ {a_{i,i-1,i-1}=-\frac{1}{2},\quad}&{{}i=2,3,\ldots,n-1,}\\ {a_{i,i+1,i+1}=-\frac{1}{2},\quad}&{{}i=2,3,\ldots,n-1,}\\ {a_{n n n}=1}\end{array}\right.\n$$ \n\n以及 \n\n$$\n\left\{b_{1}=c_{0}^{2},\right.\quad~\left.i=2,3,\ldots,n-1,\right.\n$$ \n\n其中, \\mathbf{X} 是由相应迭代方法给出的 \\mathcal{A}_{\\theta}\\mathbf{x}^{m-1}=P\\mathbf{b} 的解。 \n\n表3-4 预处理迭代方法的缩写及其对应的分裂表达式Table 3-4 The abbreviations of preconditioned iterative methods and their corresponding splitting \n\n<table border="1">预处理迭代方法&ePrJacobi&=DPRGS&=D-LPRSOR= (D-L) \n\n表3-5 例3.1不同迭代方法在不同 \\theta 取值时的结果 \n\n<table border="1">0迭代方法ITCPU(s)p(8m-2)-1Fxm-2)p(M=l l = F)l = F)0.5<td rowspan="6">Jacobi300.00380.36370.36420.6300.00320.35110.35200.7 29 0.00260.34770.34930.8280.00210.33760.34010.928 0.00250.34120.34231.029 0.00310.34680.34860.5<td rowspan="6">G-S29 0.00350.34120.34070.628 0.00290.33670.33750.727 0.00230.32940.32880.8260.00180.32130.32340.9260.00200.32490.32511.0 270.00260.33120.33180.5<td rowspan="6">FULLM280.00510.34170.34250.627 0.00480.33560.33630.7260.00420.32870.32930.825 0.00380.31950.31990.924 0.00360.30780.30861.025 0.00410.31680.3172 \n\n非负张量的谱半径是由幂方法计算的。从表3-5可以看出,收敛速率的值逼近 \\rho(M(\\mathcal{E}_{\\theta})^{-1}F_{\\theta}) 。取 \\hat{\\mathcal{A}}_{\\theta}=P_{R}\\mathcal{A}=(I+R_{\\theta})\\mathcal{A} ,相应的预处理迭代算法由表3-4给出。 \n\n
\n图3-1 Jacobi 方法求解例3.2时迭代步数与 \\theta 的关系Figure 3-1 The relationship between the number of iterations and \\theta in the Jacobi method for Example 3.2 \n\n
\n图 {\\bf3–2\\,G–S} 方法求解例3.2时迭代步数与 \\theta 的关系 \n\nFigure 3-2 The relationship between the number of iterations and \\theta in the G-S method for Example 3.2 表3-6 SOR 方法在例3.2中给定 \\theta 对不同 \\omega 取值的结果 \n\n<table border="1">00ITCPU (s)p(&xm-2)-1Fxm-2)1.000.9130.0029820.3871570.9930.0021740.2416561.0030.0019370.2485151.0140.0018200.2421611.2340.0017620.2375331.501.822 0.0016810.2342571.8420.0030280.2297941.852 0.0015740.2255821.8630.0016380.2251482.002.4630.0016230.2254432.4830.0015510.2305182.49 40.0014340.2338932.402.9020.0015650.2031082.9420.0015790.2155572.952 0.0015260.2184852.602.9730.0018300.2376362.9930.0017540.2347423.0740.0017240.2284142.902.9830.0030280.3144112.9930.0020320.3107173.0040.0020410.3094193.002.9730.0024190.3427172.9940.0026740.3341833.0040.0024680.331671 \n\n# 表3-7 SOR 方法在例子3.2中给定 \\omega 值不同 \\theta 取值的结果 \n\nTable 3-7 The results of the SOR method with different values of \\theta for a given \\omega in Example 3.2 \n\n<table border="1">00ITCPU (s)p(&xm-2)-1Fx-2)0.400.322 0.0012670.2812300.332 0.0026770.2525161.2050.0115680.8254231.3060.037950.7852260.800.6340.0017330.2871090.6440.0017140.2613381.2550.0016550.2714931.5060.0046030.5876691.8050.0067650.8400471.000.792 0.0016410.2725920.802 0.0016080.2562471.2030.0017160.2383891.5040.0036770.4853871.8040.0050290.5841901.601.202 0.0016540.2424801.292 0.0016970.2344791.302 0.0016610.221871.312 0.0017780.2376251.801.442 0.0016640.2448391.452 0.0016380.2422161.462 0.0016590.2276111.472 0.0017690.2282452.201.772 0.0016150.2385311.782 0.0018450.2341601.792 0.0016320.2266791.802 0.0016220.2175452.401.942 0.0015640.2328821.952 0.0015370.2268571.962 0.0017010.2200971.9720.0015530.2138022.902.3830.0015010.2133202.3930.0014750.2071382.4030.0014950.2041982.4130.0015380.2010453.002.4630.0014740.2145012.4730.0015380.210568 \n\n
\n图3-3 FULLM 方法求解例3.2时迭代步数与 \\theta 的关系 \n\n图3-1-3-3和表3-6-3-7分别展示了不同 \\theta 在例3.2的数值结果。由图3-1-3-3,可以看出当参数 \\theta 取0.75、0.82 和0.83 时,Jacobi 方法、G-S 方法和FULLM 方法迭代步数最少。对于SOR 类型方法,本节在0.9 到3 的范围内搜索参数 \\omega ,并在0.3 到2.5 的范围内搜索参数 \\theta 。本文在表3-6和表3-7中报告了数值结果。 \n\n例3.3:设 \\boldsymbol{B}\\in\\mathbb{R}^{[3,5]} 是一个非负张量,其元素 b_{i_{1}i_{2}i_{3}}=|\\tan(i_{1}+i_{2}+i_{3})| 。可以计算 \\rho(B)=364.4895 。 \\mathcal{A}=864.4895\\varOmega_{m}-\\mathcal{B} 是一个强 \\mathcal{M} -张量。 \n\n在例3.3中,通过图3-4,可以观察到采用预处理算法的Jacobi 算法与未采用预处理算法的Jacobi 算法在CPU 时间(秒)消耗与参数 \\theta 之间关系的差异。图3-5展示了预处理算法对Gauss-seidel 算法性能的影响,对比了采用与未采用预处理算法下Gauss-seidel算法的CPU 时间(秒)与 \\theta 的关系。最后,图3-6对比了采用预处理算法的SOR 算法和未采用预处理算法的SOR 算法之间,CPU 时间(秒)消耗与 \\theta 之间的联系。图中的CPU(s) 采用的是以10 为底的对数表示。通过表3-8展示 \\theta 与经过预处理迭代算法之间的迭代步骤(IT)和CPU(s) 之间的关系,黑体数值代表该算法在例3.3中的最短CPU耗时。 \n\n
\n图3-4 例3.3中Jacobi 方法中CPU(s) 与 \\theta 的关系 \n\nFigure 3-4 The relationship between CPU(s) and \\theta in the Jacobi method for Example 3.3 \n\n
\n图3-5 例3.3中G-S 方法中CPU(s) 与 \\theta 的关系 \n\nFigure 3-5 The relationship between CPU(s) and \\theta in the G-S method for Example 3.3 \n\n表3-8 例3.3中预处理张量分裂方法的数值结果Table 3-8 Numerical results of the preprocessed tensor splitting method in the example 3.3 \n\n<table border="1">0<td colspan="2">P Jacobi<td colspan="2">PR GS<td colspan="2">PR SORCPU(s)ITCPU(s)ITCPU(s)IT0.000.002511820 0.0047273200.0015848190.010.002313320 0.004823120 0.001597219 0.100.0019696190.004987219 0.0015368190.200.002079190.004964319 0.0015518180.300.001984190.005011819 0.001437518 0.400.00195118 0.004826318 0.0013437170.500.00190118 0.004800218 0.001318170.600.001841170.004871717 0.001307160.700.001923160.0048664160.00125815 0.800.00190416 0.004814816 0.00122415 0.900.001854160.0048036160.001176914 1.000.00182115 0.004787915 0.00112213 1.100.00179314 0.004736514 0.001105313 1.200.0017378130.004788213 0.0009784121.300.00178313 0.004745313 0.000906712 1.400.00180212 0.004708912 0.0009233111.410.001851110.0047816110.0009338111.420.00195611 0.0046763110.0009370101.430.00199411 0.004563111 0.0009262111.440.00201411 0.0045035110.000904910 1.450.002047110.0044486110.0008931101.460.00210312 0.004332512 0.000888212 1.470.00218412 0.0043942130.00872112 1.480.00221012 0.004224913 0.000861413 1.490.002257120.004238714 0.0008545131.500.00227812 0.004145615 0.000831714 1.550.00230312 0.004102015 0.000933214 1.600.00235413 0.004187715 0.000936115 1.700.00239713 0.0042311160.000939515 1.800.00234613 0.0042368160.001356161.900.002413130.004238717 0.001376162.000.00247514 0.0042657180.00147917 \n\n
\n图3-6 例3.3中SOR 方法中CPU(s) 与 \\theta 的关系 \n\nFigure 3-6 The relationship between CPU(s) and \\theta in the SOR method for Example 3.3 \n\n# 3.3 本章小结 \n\n本章重点介绍了张量分裂迭代算法TSI 和基于预处理算子的张量分裂迭代算法PTSI, 并且提出了一种新的预处理算子 P_{R} 。通过理论证明新的预处理算子 P_{R} 不会破坏由强 \\mathcal{M} -张量构成的张量方程,同时通过多个示例的数值实验,证明该预处理张量分裂迭代算法要优于张量分裂迭代算法。 \n\n# 第四章多线性张量方程分裂迭代算法的比较 \n\n本章将新提出的预处理分裂迭代算法与现有的分裂迭代算法进行比较,并证明若张量 \\mathcal{A} 经过不同的预处理算子可以分别变为 P_{1}\\mathcal{A}\\,=\\,\\mathcal{E}_{1}-\\mathcal{F}_{1} 和 P_{2}\\mathcal{A}\\,=\\,\\mathcal{E}_{2}-\\mathcal{F}_{2} ,当 M(\\mathcal{E}_{1}) 的逆大于 M(\\mathcal{E}_{2}) , P_{1}\\mathcal{A} 的谱半径更小。 \n\n# 4.1 分裂迭代算法现有比较定理 \n\n对于张量分裂算法,存在以下引理: \n\n引理4.1:[40] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 且 \\mathcal{A}=\\mathcal{E}_{1}-\\mathcal{F}_{1}=\\mathcal{E}_{2}-\\mathcal{F}_{2} ,其中 \\mathcal{E}_{1}-\\mathcal{F}_{1} 是一个弱正则分裂, \\mathcal{E}_{2}-\\mathcal{F}_{2} 是一个正则分裂。如果 \\mathcal{F}_{2}\\leq\\mathcal{F}_{1} , \\mathcal{F}_{2}\\neq\\mathbf{0} ,则下列之一成立: \n\n$\begin{array}{r}{\rho(M(\mathcal{E}{2})^{-1}\mathcal{F}{2})\leq\rho(M(\mathcal{E}{1})^{-1}\mathcal{F}{1})<1\,.}\end{array}$ \n\n2. \\rho(M(\\mathcal{E}_{2})^{-1}\\mathcal{F}_{2})\\ge\\rho(M(\\mathcal{E}_{1})^{-1}\\mathcal{F}_{1})\\ge1 。如果 \\mathcal{F}_{2}<\\mathcal{F}_{1} , \\mathcal{F}_{2}\\neq\\mathbf{0} 且 \\rho(M(\\mathcal{E}_{1})^{-1}\\mathcal{F}_{1})>1 则第一个不等式是严格的。 \n\n引理4.2:[40] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 为一个强 \\mathcal{M}\\cdot -张量,并且设 \\mathcal{A}=\\mathcal{E}_{1}-\\mathcal{F}_{1}=\\mathcal{E}_{2}-\\mathcal{F}_{2} 为两个弱规则分裂,满足 M(\\mathcal{E}_{2})\\geq M(\\mathcal{E}_{1}) 。如果 \\mathbf{X} 是 M(\\mathcal{E}_{2})^{-1}\\mathcal{F}_{2} 最大特征值对应的一个正特征向量,满足 \\mathcal{A}\\mathbf{x}^{m-1}\\geq\\mathbf{0} ,则有 \n\n$$\n\begin{array}{r}{\rho(M(\mathscr{E}{2})^{-1}\mathcal{F}{2})\leq\rho(M(\mathscr{E}{1})^{-1}\mathcal{F}{1}).}\end{array}\n$$ \n\nLi 等[53] 给出了一个预处理子 P_{\\alpha}=I+S_{\\alpha} 用以改善张量分裂方法,其中 \n\n$$\nS_{\alpha}=\left[\begin{array}{c c c c c}{0}&{-\alpha_{1}a_{1,2,\dots}}&{0}&{\cdots}&{0}\\ {0}&{0}&{-\alpha_{2}a_{2,3,\dots}}&{\cdots}&{0}\\ {\vdots}&{\vdots}&{\vdots}&{\ddots}&{\vdots}\\ {0}&{0}&{0}&{\cdots}&{-\alpha_{n-1}a_{n-1,n,\dots,n}}\\ {0}&{0}&{0}&{\cdots}&{0}\end{array}\right]\n$$ \n\n令 \\mathcal{T}_{\\alpha} 表示通过取 P=P_{\\alpha} 获得预处理方法的迭代张量。接下来的引理将用于提出方法的理论分析。 \n\n引理4.3:[40] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量。如果 \\alpha_{i}\\in[0,1] , i=1,2,\\dots,n-1 并且 (\\rho_{\\alpha},x_{\\alpha}) 是 \\mathcal{T}_{\\alpha} 最大实特征值和对应所有分量都为正的特征向量所组成的特征对,则 \\mathcal{A}\\mathbf{x}_{\\alpha}^{m-1}\\geq0 𝛼≥0。 \n\n引理4.4:[53] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量。如果 \\mathcal{A}_{\\alpha}=P_{\\alpha}\\mathcal{A}=\\mathcal{E}_{\\alpha}-\\mathcal{F}_{\\alpha} 是一个收敛的规则分裂,则以下不等式成立: \n\n其中 \\tau 表示不用预处理算法的张量分裂算法的迭代张量。 \n\n引理4.5:[40] 设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量。如果 \\alpha_{1},\\alpha_{2}\\in[0,1],i=1,\\ldots,n-1 且 \\alpha_{2}\\leq\\alpha_{1} , 那么 \\rho(\\mathcal{T}_{\\alpha_{1}})\\leq\\rho(\\mathcal{T}_{\\alpha_{2}}) 。 \n\n引理4.6:[40] [54] 对于 \\mathcal{A}\\in\\mathbb{R}_{+}^{[m,n]} ,存在 \n\n$$\n\mu\mathbf{x}^{[m-1]}\leq(<)\mathcal{A}\mathbf{x}^{[m-1]},\mathbf{x}\geq\mathbf{0}\n$$ \n\n其中 \n\n并且当 \n\n可以得到 \n\n# 4.2 不同预处理分裂迭代算法的比较定理 \n\n在本节中,将会给出预处理算子 R_{\\theta} 与 S_{\\alpha} 的比较定理。令 \\hat{\\mathcal{A}}_{\\theta}=P_{R}\\mathcal{A}=(I+R_{\\theta})\\mathcal{A} \\mathcal{A}_{\\alpha}=P_{\\alpha}\\mathcal{A}=(I+S_{\\alpha})\\mathcal{A} ,并且设 \n\n$$\n\hat{\mathcal{A}}{\theta}=(I+R{\theta})\mathcal{A}=I_{m}-\mathcal{L}-\mathcal{L}^{\prime\prime}-\mathcal{D}^{\prime\prime}-(\mathcal{F}+R_{\theta}\mathcal{F}-R_{\theta}I_{m}+\mathcal{F}^{\prime\prime})\n$$ \n\n和 \n\n$$\n\mathcal{E}{\theta}=I{m}-\mathcal{L}-\mathcal{L}^{\prime\prime}-D^{\prime\prime},\n$$ \n\n$$\n\mathcal{F}{\theta}=\mathcal{F}+R{\theta}\mathcal{F}-R_{\theta}I_{m}+\mathcal{F}^{\prime\prime}\n$$ \n\n其中 D^{\\prime\\prime}=D^{\\prime}\\varGamma_{m} , \\mathcal{L}^{\\prime\\prime}=L^{\\prime}\\varGamma_{m} , \\mathcal{F}^{\\prime\\prime}=F^{\\prime}\\mathcal{I}_{m} , D^{\\prime} , L^{\\prime} , F^{\\prime} 分别是 M(R_{\\theta}{\\mathcal{L}}) 的对角部分,严格下三角部分和严格上三角部分。 \n\n引理4.7:设 \\mathcal{A}\\in\\mathbb{R}^{[n,n]} 是一个强 \\mathcal{M}\\cdot -张量,并且 \\hat{\\mathcal{A}}_{\\boldsymbol{\\theta}}=\\mathcal{E}_{\\boldsymbol{\\theta}}-\\mathcal{F}_{\\boldsymbol{\\theta}} 和 \\mathcal{A}_{\\alpha}=\\mathcal{E}_{\\alpha}\\!-\\!\\mathcal{F}_{\\alpha} 都是(弱)正则分裂。如果对所有 1\\leq i\\leq n\\!-\\!1 , k_{i}>i 且 j\\leq i ,有 0<\\alpha_{i}a_{i,i+1,...,i+1}a_{i+1,j,...,j}\\leq a_{i,k_{i},\\ldots,k_{i}}a_{k_{i},j,\\ldots,j}<1 ,则 M(\\mathcal{E}_{\\theta})^{-1}\\geq M(\\mathcal{E}_{\\alpha})^{-1} 。 \n\n证明:设 \\mathbf{\\mathcal{D}^{\\prime}} 和 \\mathcal{L}^{\\prime} 是 M(S_{\\alpha}{\\mathcal{L}}) 的对角部分和严格下三角部分。根据Cui 等[55] 的结论,可以得到 \n\n$$\n\begin{array}{r l}&{M(\mathcal{E}{\alpha})^{-1}=\left(I+(I-D^{\prime})^{-1}(L+L^{\prime})+(I-D^{\prime})^{-1}(L+L^{\prime})^{2}+\cdots\right.}\\ &{\quad\quad\quad\left.+\left((I-D^{\prime})^{-1}(L+L^{\prime})\right)^{n-1}\right)(I-D^{\prime})^{-1}\geq0.}\end{array}\n$$ \n\n由于 \\mathcal{E}_{\\theta}=I_{m}-\\mathcal{L}-\\mathcal{L}^{\\prime\\prime}-D^{\\prime\\prime} , M(\\mathcal{E}_{\\theta})=I-L-L^{\\prime\\prime}-D^{\\prime\\prime} 。根据Neumann 级数,很容易得到以下不等式成立: \n\n$$\n\begin{array}{r l}&{M(\mathcal{E}{\theta})^{-1}=(I-L-L^{\prime\prime}-D^{\prime\prime})^{-1}}\\ &{\qquad\qquad=(I-(I-D^{\prime\prime})^{-1}(L+L^{\prime\prime}))^{-1}}\\ &{\qquad\qquad=\left(I+(I-D^{\prime\prime})^{-1}(L+L^{\prime\prime})+\left((I-D^{\prime\prime})^{-1}(L+L^{\prime\prime})\right)^{2}+\cdots+\right.}\\ &{\qquad\qquad\left.\left((I-D^{\prime\prime})^{-1}(L+L^{\prime\prime})\right)^{n-1}\right)(I-D^{\prime\prime})^{-1}\geq0.}\end{array}\n$$ \n\n考虑到对所有 1\\;\\leq\\;i\\;\\leq\\;n\\,-\\,1 , k_{i}\\;>\\;i 且 j~\\leq~i ,有 0~<~a_{i,i+1,...,i+1}a_{i+1,j,...,j}~\\leqq a_{i,k_{i},\\ldots,k_{i}}a_{k_{i},j,\\ldots,j}<1 ,并且 D^{\\prime\\prime} 是 M(R_{\\theta}{\\mathcal{L}}) 的对角部分,可以得到 \n\n$$\n(I-D^{\prime\prime})^{-1}=I+D^{\prime\prime}+\cdots+(D^{\prime\prime})^{n-1}\geq I.\n$$ \n\n注意 L^{\\prime\\prime} 是 M(R_{\\theta}{\\mathcal{L}}) 的严格下三角部分。根据假设,可以得到 D^{\\prime\\prime}\\geq D^{\\prime},L^{\\prime\\prime}\\geq L^{\\prime} 。因此, (I-D^{\\prime\\prime})^{-1}\\geq(I-D^{\\prime})^{-1} 并且 L+L^{\\prime\\prime}\\ge L+L^{\\prime}\\ge0 。根据不等式(4.1)和(4.2),可以得到 M(\\mathcal{E}_{\\alpha})^{-1}\\geq M(\\mathcal{E}_{\\theta})^{-1} 。 \n\n引理4.8:设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量。如果 \\theta_{i}\\in[0,1] ,且 i=1,2,\\dots,n-1 并且 (\\rho_{\\theta},\\mathbf{x}_{\\theta}) 是 \\tau_{\\theta} 最大特征值和对应特征向量组成的的特征对,那么 \\mathcal{A}\\mathbf{x}_{\\theta}^{m-1}\\geq\\mathbf{0} 𝜃≥。 \n\n证明:由于 \\hat{\\mathcal{A}}_{\\theta}=P_{R}\\mathcal{A}=\\mathcal{E}_{\\theta}-\\mathcal{F}_{\\theta} , P_{R} 是一个可逆矩阵, \\mathcal{A}=P_{R}^{-1}\\mathcal{E}_{\\theta}-P_{R}^{-1}\\mathcal{F}_{\\theta} 𝑅𝜃𝑅𝜃。根据不等式(4.2),存在 \n\n$M\left(P_{R}^{-1}\mathcal{E}{\theta}\right)^{-1}=M(\mathcal{E}{\theta})^{-1}P_{R}\geq O,\quad M\left(P_{R}^{-1}\mathcal{E}{\theta}\right)^{-1}P{R}^{-1}\mathcal{F}{\theta}=M(\mathcal{E}{\theta})^{-1}\mathcal{F}{\theta}\geq\mathcal{O}$ (4.3) ℰ −𝑃 −1 ℱ ℰ , ℱ 则 \\mathcal{A}=P_{R}^{-1}\\mathcal{E}_{\\theta}-P_{R}^{-1}\\mathcal{F}_{\\theta} 𝑅𝜃𝑅𝜃是一个弱正则分裂。记 \\mathcal{E}_{P_{R}}=P_{R}^{-1}\\mathcal{E}_{\\theta} 𝑅𝜃 \\mathcal{F}_{P_{R}}=P_{R}^{-1}\\mathcal{F}_{\\theta} 𝑅𝜃,则 \n\n$$\nM(\mathcal{E}{P_{R}})^{-1}\mathcal{F}{P{R}}=M\left(P_{R}^{-1}\mathcal{E}{\theta}\right)^{-1}P{R}^{-1}\mathcal{F}{\theta}=\mathcal{T}{\theta}\ge\mathcal{O}.\n$$ \n\n由于 (\\rho_{\\theta},\\mathbf{x}_{\\theta}) 是 \\tau_{\\theta} 最大特征值和对应特征向量组成的的特征对,并且根据(4.4),可以得到 \n\n$$\n\rho_{\theta}M(\mathcal{E}{P{R}}\mathbf{x}{\theta}^{m-1})=\mathcal{F}{P_{R}}\mathbf{x}{\theta}^{m-1}.\n$$ \n\n此时, P_{R}^{-1}=(I+R_{\\theta})^{-1}=(I-R_{\\theta}^{2})^{-1}(I-R_{\\theta})=(I+R_{\\theta}^{2}(I-R_{\\theta}^{2}))^{-1}(I-R_{\\theta}) 𝑅𝜃𝜃𝜃,可以得到 \n\n$\mathcal{E}{P_{R}}=(I+R_{\theta}^{2}(I-R_{\theta}^{2}))^{-1}(I-R_{\theta})I_{m}-\mathcal{L},\quad\mathcal{F}{P{R}}=\mathcal{F}-R_{\theta}I_{m}+R_{\theta}^{2}(I-R_{\theta}^{2})^{-1}(I-R_{\theta})I_{m}.$ (4.6) 因为 \\mathcal{F}\\geq R_{\\theta}I_{m},\\mathbf{x}_{\\theta}\\geq\\mathbf{0} ,并且 \\mathcal{L}\\geq\\mathcal{O} ,通过(4.5) 和(4.6),得到 \n\n$$\n\rho_{\theta}(I+Q_{\theta})(I-R_{\theta})\mathbf{x}{\theta}^{[m-1]}\geq Q{\theta}(I-R_{\theta})\mathbf{x}{\theta}^{[m-1]}\n$$ \n\n其中 Q_{\\theta}=R_{\\theta}^{2}(I-R_{\\theta}^{2})^{-1} 。此外, \n\n$$\n\rho{\theta}\left(I-\frac{1-\rho_{\theta}}{\rho_{\theta}}Q_{\theta}\right)(I-R_{\theta})\mathbf{x}{\theta}^{[m-1]}\geq\mathbf{0}\n$$ \n\n通过 (I-R_{\\theta}^{2})^{-1}=I+Q_{\\theta} 𝜃𝜃,很容易验证 Q_{\\theta} 是一个严格下三角矩阵,结合 0<\\rho_{\\theta}<1 可知 \\begin{array}{r}{I-\\frac{1-\\rho_{\\theta}}{\\rho_{\\theta}}Q_{\\theta}}\\end{array} 𝑄是一个非奇异 \\mathcal{M} -矩阵。因此, (I-R_{\\theta})\\mathbf{x}_{\\theta}^{[m-1]}\\geq\\mathbf{0} 𝜃≥。由(4.5)得到, \n\n$$\n\begin{array}{l}{\displaystyle\mathcal{A}\mathbf{x}{\theta}^{m-1}=\frac{1-\rho_{\theta}}{\rho_{\theta}}\mathcal{F}{P R}\mathbf{x}{\theta}^{m-1}}\\ {\displaystyle~~~~~~~~~=(F-R_{0}I_{m})x_{0}^{m-1}+R_{0}^{2}(I-R_{0}^{2})^{-1}(I-R_{0})I_{m}x_{0}^{m-1}\geq0}\end{array}\n$$ \n\n证明完成。 \n\n定理4.1:设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量。对于 \\hat{\\mathcal{A}}_{\\theta}=P_{R}\\mathcal{A}=\\mathcal{E}_{\\theta}-\\mathcal{F}_{\\theta} 和 \\mathcal{A}_{\\alpha}= P_{\\alpha}\\mathcal{A}=\\mathcal{E}_{\\alpha}-\\mathcal{F}_{\\alpha} 两个收敛的正则分裂,以下不等式成立: \n\n$$\n\rho(\hat{\mathcal{T}}{\theta})\leq\rho(\mathcal{T}{\alpha})<1.\n$$ \n\n证明:根据不等式(4.2) 和(4.4), \\mathcal{A}=P_{R}^{-1}\\mathcal{E}_{\\theta}-P_{R}^{-1}\\mathcal{F}_{\\theta} 𝑅𝜃𝑅𝜃是一个弱正则分裂。用 \\hat{\\mathcal{T}} 表ℰ −𝑃 −1 ℱ 示 \\mathcal{A} 的迭代张量,即 \\hat{\\mathcal{T}}=P_{R}^{-1}\\mathcal{E}_{\\theta}-P_{R}^{-1}\\mathcal{F}_{\\theta} 𝑅𝜃𝑅𝜃。如果 (\\hat{\\rho},\\hat{\\bf x}) 是 \\hat{\\mathcal{T}} 的最大特征值和对应特征向量组成的的特征对,从引理4.8中,可以得到 \\mathcal{A}\\mathbf{x}^{m-1}\\geq\\mathbf{0} 。此时 \n\n$$\nM(P_{R}^{-1}{\mathcal E}{\theta})^{-1}=M({\mathcal E}{\theta})^{-1}P_{R}\geq M({\mathcal E}{\theta})^{-1},\n$$ \n\n并且 \n\n$$\n\rho(\hat{\mathcal{T}})=\rho(M(P{R}^{-1}\mathcal{E}{\theta})^{-1}P{R}^{-1}\mathcal{F}{\theta})=\rho(M(\mathcal{E}{\theta})^{-1}\mathcal{F}{\theta})=\rho(\hat{\mathcal{T}}{0}).\n$$ \n\n从引理2.9 和引理4.7 中,得出 M(\\mathcal{E}_{\\theta})^{-1}\\geq M(\\mathcal{E}_{\\alpha})^{-1} ,那么 \\rho(\\hat{\\mathcal{T}})=\\rho(\\hat{\\mathcal{T}}_{\\theta})\\leq\\rho(\\mathcal{T}_{\\alpha})< 1。 \n\n因此,结合定理4.1和引理4.7,可以得到不同预处理算法的比较定理 \n\n定理4.2:设 \\mathcal{A}\\in\\mathbb{R}^{[n,n]} 是一个强 \\mathcal{M}\\cdot -张量,并且 P_{1}\\mathcal{A}=\\mathcal{E}_{1}-\\mathcal{F}_{1} 和 P_{2}\\mathcal{A}=\\mathcal{E}_{2}-\\mathcal{F}_{2} 都是(弱)正则分裂。如果存在 M(\\mathcal{E}_{1})^{-1}\\geq M(\\mathcal{E}_{2})^{-1} ,则 \\rho(\\mathcal{T}_{1})\\leq\\rho(\\mathcal{T}_{2}) 。 \n\n设 \\theta_{1}=(\\theta_{1,i}) 和 \\theta_{2}=(\\theta_{2,i}) 。然后,可以得出以下定理。 \n\n定理4.3:设 \\mathcal{A}\\in\\mathbb{R}^{[m,n]} 是一个强 \\mathcal{M}\\cdot -张量。如果 \\theta_{1,i},\\theta_{2,i}\\in[0,1],i=1,\\ldots,n-1 且 \\theta_{2}\\leq\\theta_{1} ,则 \\rho(\\mathcal{T}_{\\theta_{1}})\\leq\\rho(\\mathcal{T}_{\\theta_{2}}) 。 \n\n证明:因为 \\theta_{1,i},\\theta_{2,i}\\,\\in\\,[0,1],i\\,=\\,1,\\ldots,n-1 且 \\theta_{2}\\,\\leq\\,\\theta_{1} ,则有 P_{R_{\\theta_{2}}}\\,\\leq\\,P_{R_{\\theta_{1}}} 。因为 \\mathcal{E}_{\\theta_{1}}\\,\\leq\\,\\mathcal{E}_{\\theta_{2}} 并且 M(\\mathcal{E}_{\\theta_{1}}),M(\\mathcal{E}_{\\theta_{2}}) 都是非奇异 \\mathcal{M}\\cdot -矩阵,故 M(\\mathcal{E}_{\\theta_{1}})\\;\\geq\\;M(\\mathcal{E}_{\\theta_{2}}) ,然后 M(\\mathcal{E}_{P_{R_{\\theta_{1}}}})^{-1}\\geq M(\\mathcal{E}_{P_{R_{\\theta_{2}}}})^{-1} 。如果 (\\rho(T_{\\theta_{1}}),\\mathbf{x}_{1}) 是 T_{\\theta_{1}} 的特征对,根据引理4.8,有 \\mathcal{A}\\mathbf{x}_{1}^{m-1}\\geq\\mathbf{0} 1≥。进一步,根据命题3.1和定理2.2,得到 \\rho(T_{\\theta_{1}})\\leq\\rho(T_{\\theta_{2}}) 。 \n\n# 4.3 数值实验 \n\n本节将通过数值例子来比较预处理器 P_{R} 和其他预处理器的效率。在接下来的例子中,CPU 时间以秒为单位给出。迭代步骤的数量(用IT 表示)被用来衡量所提出算法的效率。迭代的最大次数N 设为1000。所有的优化参数都是通过数值实验确定的。如果 \n\n$$\n\left\|\mathcal{A}\mathbf{x}{N}^{m-1}-\mathbf{b}\right\|{2}<\varepsilon,\n$$ \n\n测试将会停止。所有数值结果分别经过 10 次实验后取均值,并且 CPU 保留小数点后 7 位显示在表4-1 和表4-2 中。在这些例子中的 \\mathcal{A} 是强 \\mathcal{M}\\cdot -张量,并且方程(1.2) 右边的元素 \\mathbf{b} 是1。 \n\n例4-1:设 \\boldsymbol{B}\\in\\mathbb{R}^{[3,n]} 是一个非负张量,其中 M({\\mathcal{B}})=\\operatorname{rand}(n,n) ,这里rand 是一个MATLAB 函数,该函数的作用是对于 i=2,3,\\ldots,n\\,. , b_{i i}=b_{i-1,i-1}=b_{i+1,i}=b_{i,i+1}=1 b_{i,i+1}=1/6 ,其余元素为零。设 \\mathscr{A}=n^{2}\\mathscr{I}_{m}-0.01\\mathscr{B}. 。 \n\n例4-2:设 \\mathcal{A}\\in\\mathbb{R}^{[3,n]} 并且 \\mathcal{B}\\in\\mathbb{R}^{n} 有 \n\n$$\n\left\{\begin{array}{l l}{\begin{array}{r l}{a_{i i i}=1,}&{{}\quad i=1,2,\ldots,n,}\\ {a_{1i i}=-\frac{1}{2},}&{{}\quad i=2,3,\ldots,n-1,}\\ {a_{i,i,i-1}=-\frac{1}{2},}&{{}\quad i=2,3,\ldots,n-1,}\\ {a_{i,i-1,i-1}=-\frac{1}{4},}&{{}\quad i=2,3,\ldots,n-1,}\\ {a_{i,i+1,i+1}=-\frac{1}{2},}&{{}\quad i=2,3,\ldots,n-1,}\\ {a_{i n n}=-\frac{1}{2},}&{{}\quad i=2,3,\ldots,n-3,}\\ {a_{n i}=-\frac{1}{2},}&{{}\quad i=2,3,\ldots,n-1,}\\ {a_{i,i,i+1}=-\frac{1}{4},}&{{}\quad i=2,3,\ldots,n-1,}\end{array}}\end{array}\right.\n$$ \n\n和 \n\n$$\nb_{i}={\left\{\!\!\begin{array}{l l}{(1/2)^{2},}&{i=1,}\\ {2/(n-1)^{2},}&{i=2,3,\ldots,n-1,}\\ {(1/3)^{2},}&{i=n}\end{array}\!\!\right.}\n$$ \n\n在例子4-1和4-2中,取初始值 \\mathbf{x}_{0}=[1,1,\\ldots,1]^{T} 并设置 n=200 和 n=250 。在本节的数值实验中,停止的最大误差为 \\varepsilon=10^{-12} 。示例测试了使用预处理器 P_{R} 、DTNN算法[28] 和牛顿方法的预处理技术。半对称化张量 \\mathcal{A} 在多线性张量方程中的系数的计算使用了tensor toolbox 2.6 包中的symmetrize 函数。在文献[28] 中,作者展示了DTNN算法在示例测试中的误差方差,并指出当参数 h 设置为0.45 时,DTNN 算法达到最佳求解效果。 \n\n表4-1 不同预处理算子在例子4-1中的运行时间(CPU) 和迭代步数(IT)Table 4-1 The running times (CPU) and iteration counts (IT) of different preconditioning operators in \n\n<table border="1"><td rowspan="2">n<td rowspan="2">算法<td colspan="2"> Jacobian<td colspan="2">G-S<td colspan="2">SORCPUITCPUITCPUITCPUITCPUITCPUIT200Sa0.07234291360.07038331360.0595548108200Re0.06643671360.06831291360.0592787108200Gα0.07033821360.07123581360.056116108200Smax0.06783231360.06856141360.0586666108200Rp + Sα0.07188581360.07396281360.0644478108250S.0.38047071300.36618271300.0795675104250Re0.09979541300.10130391300.0786205104250G.0.10021841300.10275521300.0791688104250Smax0.10174431300.10332181300.0802965104250Rp+ Ss0.10560841300.1030721300.0804213104 \n\n本文将新提出的预处理算子与现有的预处理算子 S_{\\alpha} 、 G_{\\alpha} [56]、 S_{m a x} [41]、 R_{\\beta}+S_{\\alpha} [57]通过数值实验进行对比。其中 \n\n$$\nG_{\alpha}=\left[\begin{array}{c c c c c}{0}&{0}&{0}&{\cdots}&{0}\\ {-\alpha_{2}\alpha_{2}1\cdots1}&{0}&{0}&{\cdots}&{0}\\ {-\alpha_{3}\alpha_{31\cdots1}}&{0}&{0}&{\cdots}&{0}\\ {\vdots}&{\vdots}&{\vdots}&{\ddots}&{\vdots}\\ {-\alpha_{n}\alpha_{n1\cdots1}}&{0}&{0}&{\cdots}&{0}\end{array}\right],\n$$ \n\n$$\nS_{\operatorname*{max}}=(s_{i,k_{i}}^{m})=\left\{\!\!\!\begin{array}{l l}{\!-a_{i,k_{i},\ldots,k_{i}},}&{\mathrm{if}\;i=1,\ldots,n-1,k_{i}>i}\\ {\!0,}&{\mathrm{otherwise},}\end{array}\!\!\right.\n$$ \n\n$$\nR_{\beta}=\left[\begin{array}{c c c c c}{0}&{-\beta_{1}a_{1,2,\dots,2}}&{-\beta_{2}a_{1,3,\dots,3}}&{\cdots}&{-\beta_{n-1}a_{1,n,\dots,n}}\\ {0}&{0}&{0}&{\cdots}&{0}\\ {\vdots}&{\vdots}&{\vdots}&{\ddots}&{\vdots}\\ {0}&{0}&{0}&{\cdots}&{0}\end{array}\right].\n$$ \n\n表4-2 不同预处理算子在例子4-2中的运行时间(CPU) 和迭代步数(IT)Table 4-2 The running times (CPU) and iteration counts (IT) of different preconditioning operators in \n\n<table border="1"><td rowspan="2">n<td rowspan="2">算法<td colspan="2"> Jacobian<td colspan="2">G-S<td colspan="2">SORCPUITCPUITCPUIT200Ss0.06216421330.06434911320.0595548102200Re0.06043671330.06031241320.0512787102200Ga0.06054731330.06132471320.052317102200Smax0.06371631330.06430581320.054806102200Rp + Sa0.06178321330.06341871320.0565457102250Ss0.24400471280.25911471260.079942596250Re0.08969921280.09149891280.064978596250G.0.09247491280.09641281260.068698896250Smax0.09112271280.09701241280.070179696250Rp + Ss0.09472751280.0981431280.070014696 \n\n
\n图4-1 预处理算法与其他方法的比较 \n\nFigure 4-1 Comparison of preprocessing algorithms with other methods \n\n
\n图4-2 不同预处理算法的迭代步骤与运行时间比较 \n\nFigure 4-2 Comparison of iterative steps and running time of different preprocessing algorithms \n\n从表4-1,表4-2 和图4-2 中可以看出,本文提出的预处理方法在处理 \\mathsf{n}\\!\\!=\\!\\!200 和 \\mathtt{n{=}250} 的高维张量方程时,展现了比其他算法更短的执行时间。此外,根据图4-1,以 R_{\\theta} 构成的预处理算法的速度比牛顿法和DTNN 算法所需迭代步数更少,执行时间更短,收敛速度更快。这说明本文提出的预处理技术能有效提高高维张量方程求解的效率和速度。 \n\n# 4.4 本章小结 \n\n本章重点介绍了张量分裂迭代算法的比较定理,并且以预处理算子 S_{\\alpha} 为例,提出了不同预处理算子的张量分裂迭代算法的比较定理。最后通过数值实验证明本文提出的预处理张量分裂迭代算法比之前的预处理张量迭代算法求解效率要高。 \n\n# 第五章结论与展望 \n\n# 研究结论 \n\n随着科技的迅猛进步,传统的矩阵模型已不能满足现代科学研究的复杂需求。张量,作为矩阵在更高维度空间的扩展,通过其多维数组的形式,为处理和分析高维数据提供了一种更有效的方式。张量的阶数和维度分别代表了它能描述的特征数量和每个特征的数据量,因此张量能够更丰富、精细和准确地反映实体的内部属性。由于张量元素间的复杂相互作用,张量模型在维护数据内在联系方面展现出其独特优势,特别是在保留研究对象的深层特征和更接近实际情况的属性上,相较于矩阵模型,展现了更优的效果。然而,张量方程求解的高复杂度和计算挑战仍是亟待解决的问题。本文旨在通过设计高效的预处理算子和探索基于此算子的张量分裂迭代方法,以减少迭代次数和缩短求解时间,从而提高张量方程求解的效率。 \n\n本文还基于现有的张量分裂迭代比较定理,结合新提出的预处理算子,证明了不同预处理算子处理后的张量方程求解效果的比较定理。具体贡献可以概括为:1. 本文综述了张量方程的理论基础、数据特性、求解技术的演进及其研究的背景与重要性。2. 本文汇总了解决张量方程组的相关理论和算法,包括张量分裂方法及其理论基础,以及Jacobi、Gauss-seidel、SOR 等传统求解方法。3. 本文提出了一种新的预处理算子,旨在提升张量分裂迭代算法解决张量方程的效率。通过比较验证,证实了该预处理方法相比未使用预处理的算法有显著的效率提升。4. 本文通过理论分析和实例比较,提出了不同预处理算子之间的比较定理,通过数值实验说明本研究提出的预处理算子在效率上超越其他常用预处理方法。 \n\n# 未来研究展望 \n\n本文提出的预处理张量迭代算法,在求解张量方程方面展示了显著的效率提升,还通过比较定理展示了不同预处理算法之间的效果对比。针对算法的未来优化和研究,计划主要从以下两方面入手: \n\n1. 尽管本研究通过引入预处理算子显著提高了求解效率,实验结果也揭示了参数选择对计算时间和迭代次数的重要影响。目前,为简化实验流程,采用了统一的参数 \n\n设置。为了进一步提升算法性能,未来研究应当深入探讨并测试不同参数组合的效果,以确定最优参数配置。 \n\n2. 本文的数值实验主要聚焦于维度为200 和250 的 \\mathcal{M} -张量方程求解。鉴于高维数据的普遍性和重要性,未来工作将扩展到更高维度的 \\mathcal{M} -张量方程求解,探索本算法在处理更复杂、更高维度问题时的有效性和可行性。 \n\n# 参考文献 \n\n[1] CONREY J B. The riemann hypothesis[J]. Notices of the AMS, 2003, 50(3): 341-353. [2] BOOTHBY W M. An introduction to differentiable manifolds and riemannian geometry [M]. Academic press, 1986. [3] QI L. Eigenvalues of a real supersymmetric tensor[J]. Journal of Symbolic Computation, 2005, 40(6): 1302-1324. [4] LI X, NG M K. Solving sparse non-negative tensor equations: algorithms and applications[J]. Frontiers of Mathematics in China, 2015, 10: 649-680. [5] SIDIROPOULOS N D, DE LATHAUWER L, FU X, et al. Tensor decomposition for signal processing and machine learning[J]. IEEE Transactions on signal processing, 2017, 65(13): 3551-3582. [6] MISCUGLIO M, SORGER V J. Photonic tensor cores for machine learning[J]. Applied Physics Reviews, 2020, 7(3). [7] ESTIENNE F, MATTHIJS N, MASSART D, et al. Multi-way modeling of high-dimensionality electroencephalograph ic data[J]. Chemometrics and Intelligent Laboratory Systems, 2001, 58(1): 59-72. [8] QI L. Symmetric nonnegative tensors and copositive tensors[J]. Linear Algebra and its Applications, 2013, 439(1): 228-238. [9] QI L, SUN W, WANG Y. Numerical multilinear algebra and its applications[J]. Frontiers of Mathematics in China, 2007, 2: 501-526.\n\n [10] VASILESCU M A O, TERZOPOULOS D. Multilinear subspace analysis of image ensembles[C]//2003 IEEE Computer Society Conference on Computer Vision and Pattern Recognition, 2003. Proceedings.: Vol. 2. IEEE, 2003: II-93.\n\n [11] MORTON J, LIM L H. Principal cumulant component analysis[J]. preprint, 2009.\n\n [12] SAVAS B, LIM L H. Quasi-newton methods on grassmannians and multilinear approximations of tensors[J]. SIAM Journal on Scientific Computing, 2010, 32(6): 3352- 3393. \n\n[13] MØRUP M, HANSEN L K, ARNFRED S M. Erpwavelab: A toolbox for multi- channel analysis of time–frequency transformed event related potentials[J]. Journal of \n\nneuroscience methods, 2007, 161(2): 361-368.\n\n [14] DE LATHAUWER L. Signal processing based on multilinear algebra[M]. Katholieke Universiteit Leuven Leuven, 1997.\n\n [15] COMON P, MOURRAIN B. Decomposition of quantics in sums of powers of linear forms[J]. Signal Processing, 1996, 53(2-3): 93-107.\n\n [16] DE LATHAUWER L, VANDEWALLE J. Dimensionality reduction in higher-order signal processing and rank- (\\mathrm{r}1,\\;\\mathrm{r}2,\\cdots,\\;\\mathrm{r}\\mathrm{n}) reduction in multilinear algebra[J]. Linear Algebra and its Applications, 2004, 391: 31-55.\n\n [17] BALLANI J, GRASEDYCK L. A projection method to solve linear systems in tensor format[J]. Numerical linear algebra with applications, 2013, 20(1): 27-43.\n\n [18] CHEN Z, LU L. A projection method and kronecker product preconditioner for solving sylvester tensor equations[J]. Science China Mathematics, 2012, 55: 1281-1292.\n\n [19] KOFIDIS E, REGALIA P A. Tensor approximation and signal processing applications [J]. Contemporary Mathematics, 2001, 280: 103-134.\n\n [20] LI B W, TIAN S, SUN Y S, et al. Schur-decomposition for 3d matrix equations and its application in solving radiative discrete ordinates equations discretized by chebyshev collocation spectral method[J]. Journal of Computational Physics, 2010, 229(4): 1198- 1212.\n\n [21] MALEK A, BOJDI Z K, GOLBARG P N N. Solving fully three-dimensional microscale dual phase lag problem using mixed-collocation, finite difference discretization[Z]. 2012.\n\n [22] MOMENI-MASULEH S, PHILLIPS T N. Viscoelastic flow in an undulating tube using spectral methods[J]. Computers & fluids, 2004, 33(8): 1075-1095.\n\n [23] MALEK A, MOMENI-MASULEH S H. A mixed collocation–finite difference method for 3d microscopic heat transport problems[J]. Journal of Computational and Applied Mathematics, 2008, 217(1): 137-147.\n\n [24] DING W, WEI Y. Solving multi-linear systems with m-tensors[J]. Journal of Scientific Computing, 2016, 68(2): 689-715. \n\n[25] XIE Z J, JIN X Q, WEI Y M. Tensor methods for solving symmetric m-tensor systems [J]. Journal of Scientific Computing, 2018, 74(1): 412-425.\n\n [26] HAN L. A homotopy method for solving multilinear systems with m-tensors[J]. Applied Mathematics Letters, 2017, 69: 49-54.\n\n [27] HE H, LING C, QI L, et al. A globally and quadratically convergent algorithm for solving multilinear systems with m-tensors[J]. Journal of Scientific Computing, 2018, 76(3): 1718-1741.\n\n [28] WANG X, CHE M, WEI Y. Neural networks based approach solving multi-linear systems with m-tensors[J]. Neurocomputing, 2019, 351: 33-42.\n\n [29] LI D H, XIE S, XU H R. Splitting methods for tensor equations[J]. Numerical Linear Algebra with Applications, 2017, 24(5): e2102.\n\n [30] LEVENBERG K. A method for the solution of certain non-linear problems in least squares[J]. Quarterly of applied mathematics, 1944, 2(2): 164-168.\n\n [31] MARQUARDT D W. An algorithm for least-squares estimation of nonlinear parameters [J]. Journal of the society for Industrial and Applied Mathematics, 1963, 11(2): 431-441.\n\n [32] YAMASHITA N, FUKUSHIMA M. On the rate of convergence of the levenberg- marquardt method[C]//Topics in Numerical Analysis: With Special Emphasis on Nonlinear Problems. Springer, 2001: 239-249.\n\n [33] FAN J. The modified levenberg-marquardt method for nonlinear equations with cubic convergence[J]. Mathematics of Computation, 2012, 81(277): 447-466.\n\n [34] FAN J Y, YUAN Y X. On the quadratic convergence of the levenberg-marquardt method without nonsingularity assumption[J]. Computing, 2005, 74: 23-39.\n\n [35] LV C Q, MA C F. A levenberg–marquardt method for solving semi-symmetric tensor equations[J]. Journal of Computational and Applied Mathematics, 2018, 332: 13-25.\n\n [36] BOSE N, BOSE N. Gröbner bases: An algorithmic method in polynomial ideal theory [M]. Springer, 1995.\n\n [37] DREXLER F J. Eine methode zur berechnung sämtlicher lösungen von polynomgleichungssystemen[J]. Numerische Mathematik, 1977, 29(1): 45-58. \n\n[38] GARCIA C B, ZANGWILL W I. Finding all solutions to polynomial systems and other systems of equations[J]. Mathematical Programming, 1979, 16(1): 159-176.\n\n [39] LIU D, LI W, VONG S W. The tensor splitting with application to solve multi-linear systems[J]. Journal of Computational and Applied Mathematics, 2018, 330: 75-94.\n\n [40] LI W, LIU D, VONG S W. Comparison results for splitting iterations for solving multi- linear systems[J]. Applied Numerical Mathematics, 2018, 134: 105-121.\n\n [41] CUI L B, LI M H, SONG Y. Preconditioned tensor splitting iterations method for solving multi-linear systems[J]. Applied Mathematics Letters, 2019, 96: 89-94.\n\n [42] KOLDA T G. Multilinear operators for higher-order decompositions.[R]. Sandia National Laboratories (SNL), Albuquerque, NM, and Livermore, CA (United States), 2006.\n\n [43] LIM L H. Singular values and eigenvalues of tensors: a variational approach[C]//1st IEEE International Workshop on Computational Advances in Multi-Sensor Adaptive Processing, 2005. IEEE, 2005: 129-132.\n\n [44] DING W, QI L, WEI Y. M-tensors and nonsingular m-tensors[J]. Linear Algebra and Its Applications, 2013, 439(10): 3264-3278.\n\n [45] ZHANG L, QI L, ZHOU G. M-tensors and some applications[J]. SIAM Journal on Matrix Analysis and Applications, 2014, 35(2): 437-452.\n\n [46] BERMAN A, PLEMMONS R J. Nonnegative matrices in the mathematical sciences[M]. SIAM, 1994.\n\n [47] VARGA R S. Basic iterative methods and comparison theorems[M]//Matrix Iterative Analysis. Springer, 2009: 63-110.\n\n [48] KOLDA T G, BADER B W. Tensor decompositions and applications[J]. SIAM review, 2009, 51(3): 455-500.\n\n [49] HARDER A M. Fixed point theory and stability results for fixed point iteration procedures.[Z]. 1988.\n\n [50] VARGA R S. Iterative analysis[J]. New Jersey, 1962, 322.\n\n [51] YANG Y, YANG Q. Further results for perron–frobenius theorem for nonnegative tensors [J]. SIAM Journal on Matrix Analysis and Applications, 2010, 31(5): 2517-2530. \n\n[52] YANG Y, YANG Q. A study on eigenvalues of higher-order tensors and related polynomial optimization problems[M]//Beijing: Science Press. 2015.\n\n [53] LIU D, LI W, VONG S W. A new preconditioned sor method for solving multi-linear systems with an m-tensor[J]. Calcolo, 2020, 57(2): 15.\n\n [54] QI L, LUO Z. Tensor analysis: spectral theory and special tensors[M]. SIAM, 2017.\n\n [55] CUI L B, LIAN G G, YUAN J Y. Existence and uniqueness of positive solution for multilinear systems with generalized strong m-tensor[J]. Applied Mathematics Letters, 2022, 133: 108262.\n\n [56] ZHANG Y, LIU Q, CHEN Z. Preconditioned jacobi type method for solving multi-linear systems with m-tensors[J]. Applied Mathematics Letters, 2020, 104: 106287.\n\n [57] CUI L B, ZHANG X Q, WU S L. A new preconditioner of the tensor splitting iterative method for solving multi-linear systems with m-tensors[J]. Computational and applied mathematics, 2020, 39(3): 173.\n\n [58] BADER B W, KOLDA T G. Algorithm 862: Matlab tensor classes for fast algorithm prototyping[J]. ACM Transactions on Mathematical Software (TOMS), 2006, 32(4): 635-653.\n\n [59] CUI L B, CHEN C, LI W, et al. An eigenvalue problem for even order tensors with its applications[J]. Linear and Multilinear Algebra, 2016, 64(4): 602-621.\n\n [60] CUI L B, LI W, NG M K. Primitive tensors and directed hypergraphs[J]. Linear Algebra and its Applications, 2015, 471: 96-108.\n\n [61] WEI Y, DING W. Theory and computation of tensors: multi-dimensional arrays[M]. Academic Press, 2016.\n\n [62] HADJIDIMOS A, NOUTSOS D, TZOUMAS M. More on modifications and improvements of classical iterative schemes for m-matrices[J]. Linear algebra and its applications, 2003, 364: 253-279.\n\n [63] KOTAKEMORI H, HARADA K, MORIMOTO M, et al. A comparison theorem for the iterative method with the preconditioner \\mathrm{i}+ smax)[J]. Journal of Computational and Applied Mathematics, 2002, 145(2): 373-378. \n\n[64] LIANG M, ZHENG B, ZHENG Y, et al. A two-step accelerated levenberg– marquardt method for solving multilinear systems in tensor-train format[J]. Journal of Computational and Applied Mathematics, 2021, 382: 113069.\n\n [65] LIU D, LI W, VONG S W. Tensor complementarity problems: the gus-property and an algorithm[J]. Linear and Multilinear Algebra, 2018, 66(9): 1726-1749.\n\n [66] LIU D, LI W, VONG S W. Relaxation methods for solving the tensor equation arising from the higher-order markov chains[J]. Numerical Linear Algebra with Applications, 2019, 26(5): e2260.\n\n [67] LIU W, LI W. On the inverse of a tensor[J]. Linear Algebra and its Applications, 2016, 495: 199-205.\n\n [68] MILASZEWICZ J P. Improving jacobi and gauss-seidel iterations[J]. Linear Algebra and Its Applications, 1987, 93: 161-170.\n\n [69] NEUMANN M, PLEMMONS R J. Convergence of parallel multisplitting iterative methods for m-matrices[J]. Linear algebra and its applications, 1987, 88: 559-573.\n\n [70] NI Q, QI L. A quadratically convergent algorithm for finding the largest eigenvalue of a nonnegative homogeneous polynomial map[J]. Journal of Global Optimization, 2015, 61(4): 627-641.\n\n [71] SHAO J, YOU L. On some properties of three different types of triangular blocked tensors [J]. Linear Algebra and its Applications, 2016, 511: 110-140.\n\n [72] WANG X, CHE M, WEI Y. Existence and uniqueness of positive solution for \\mathrm{h}+ -tensor equations[J]. Applied Mathematics Letters, 2019, 98: 191-198.\n\n [73] WANG X, MO C, CHE M, et al. Accelerated dynamical approaches for finding the unique positive solution of ks-tensor equations[J]. Numerical Algorithms, 2021, 88(4): 1787-1810.\n\n [74] YAN J C, XU Y, HUANG Z H. A homotopy method for solving multilinear systems with strong completely positive tensors[J]. Applied Mathematics Letters, 2022, 124: 107636.\n\n [75] YANG J H, ZHAO X L, JI T Y, et al. Low-rank tensor train for tensor robust principal component analysis[J]. Applied Mathematics and Computation, 2020, 367: 124783. \n\n[76] YANG J H, ZHAO X L, MEI J J, et al. Total variation and high-order total variation adaptive model for restoring blurred images with cauchy noise[J]. Computers & Mathematics with Applications, 2019, 77(5): 1255-1272.\n\n [77] LIANG M, ZHENG B, ZHAO R. Alternating iterative methods for solving tensor equations with applications[J]. Numerical Algorithms, 2019, 80(4): 1437-1465.\n\n [78] ZHENG B, MIAO S X. Two new modified gauss–seidel methods for linear system with m-matrices[J]. Journal of computational and applied mathematics, 2009, 233(4): 922- 930. \n\n# 攻读学位期间取得与学位论文相关的成果 \n\n# 发表和投稿与学位论文相关学术论文 \n\n[1] Li J , Deng X.A preconditioned splitting iterative method for solving multi-linear systems with M-tensor.Southeast Asian Bulletin of Mathematics(已录用) \n\n# 致谢 \n\n时光飞逝,岁月如梭,在广东工业大学的学生生涯即将画上句号之际,我满怀感慨。回想八年前,我初次踏入这所校园,心中充满对未来的憧憬;四年前,面对考研失 败的挫折与不甘,我的心情是多么复杂;三年前,当我终于考研成功,那份喜悦与对研究生生活的期待是难以言喻的。 \n\n首先,我要衷心感谢我的导师,邓秀勤教授。刚步入研究生院门时,虽然我满腔热忱,却也感到迷茫。正是邓老师及时的指导和建议,使我能够迅速地适应并投身于新的学习阶段。此外,在我小论文和毕业论文写作完成过程中,从开题、中期、初稿、第一版终稿、第二版终稿、第三版终稿和最终的定稿,邓秀勤老师都给予了我重要的帮助与指导。 \n\n我还要特别感谢刘冬冬副教授,不仅在小论文的选题和方向上给予了宝贵的指导,而且在论文撰写和实验过程中提供了极大的帮助。在我的整个研究生学习过程中,两位老师不只是用他们的专业知识为我指路,更以耐心和智慧鼓励我面对各种研究挑战, 他们对我的学术探索和个人成长给予了无私的支持和鼓舞,这对我完成学业至关重要。 \n\n特别感谢常静雅老师对我的毕业论文的悉心指导。在我撰写毕业论文的过程中,您不仅以严谨的态度进行审核,还提供了宝贵的纠错指导,这对我完成论文具有不可估量的帮助。,让我深刻理解到学术研究的严谨 性和专业性。感谢您在这段重要旅程中给予我的帮助和支持。 \n\n此外,我还要感谢刘威师兄和丽萍师姐,他们慷慨分享自己的科研经验和面对挑战的策略,对我们帮助巨大。同时,感谢实验室所有的同门,尤其是唐舒婷,我们在遇到研究难题和写作困境时相互鼓励、互相支持。 \n\n我还要对我的室友们表达特别的感谢,在研究生生活的点点滴滴中,他们给予了我巨大的帮助和支持,这段艰难而难忘的经历我将永远铭记。 \n\n最重要的,我要向我的家人表达最深的感激。他们无条件的爱、理解和鼓励是我完成这段艰苦旅程的坚强支柱。他们的爱和牺牲无法用语言全然表达,没有他们的支持,我无法走到今天。 \n\n最后,我对所有直接或间接帮助我完成硕士学位的个人和机构致以最诚挚的谢意。感谢你们的陪伴和支持,使我能够顺利完成我的学术之旅。 "