对于六种Kaczmarz型迭代方法: RKU、RKNU、RKR、RKD、KMR、KMD,
我们基于平均平方距离和平均平方误差全面而系统地分析、计算、比较、讨论和评判了
它们的理论性质和数值表现。特别,我们给出并精化了它们在平均平方距离和
平均平方误差意义下的收敛速率的上界:其中RKD、KMR、KMD方法的收敛速率估计
相较于已有结果更为精确,而RKR、RKD方法的收敛速率估计则为首次给出。
通过严格分析和精确计算,我们证明了KMD方法优于其它五种Kaczmarz型方法,
RKD方法优于RKU方法,且RKR方法优于RKNU方法。利用具体实例我们还阐明了
这六种Kaczmarz型迭代方法之间的、除此之外的、其它相互比较关系是问题依赖的,
通过大量计算实验我们也证实了这些理论结果与其相应的数值结果是相互印证
和高度吻合的。
为了进一步提高REK迭代方法的收敛速度,结合多步迭代策略我们提出了
多步随机扩展Kaczmarz(MREK)迭代方法,严格证明了该方法的收敛性质,
并精确给出了其收敛速率的上界。特别需要指出的是,REK迭代方法是MREK迭代方法
的一个特例。对于内迭代步数的几种典型选取方式,我们还证明了MREK迭代方法的
收敛速率的上界明显地小于REK迭代方法的收敛速率的上界;
且对于某些特殊情形,虽然MREK与REK享有相同的计算复杂度,
但前者却具有更快的收敛速率。数值实验也充分表明,如果选取合适的多步迭代参数,
则在计算时间上MREK迭代方法明显优于REK迭代方法。