25年WP数据科学与大数据技术-LASSO问题的加速共轭梯度算法研究0-14206.docx

I摘要本文聚焦 LASSO，AP - CG 途径，针对现有算法处理高维数据时存在的收敛慢、内存占用大、计算稳定性差等问题，本文从两个关键节点入手实施改进：一是创制基于局部曲率信息的乘性步长加速因子，增强每步迭代的实际效果；二是给出基于梯度夹角变化率的智能重启办法，革新共轭方向的更新模式。依靠理论分析与实验验证，AP - CG 算法在让内存低占用情况得以维持时，跟基础Proximal-CG 相比，迭代次数下降了 19%-34%，在大规模数据集上，计算时间减少了约 30%，内存占用比 FISTA 减少了大概 25%，参数敏感性研究察觉，步长加速上界 βmax 的适宜值区间为 ...