罗强
- 作品数：3 被引量：4H指数：1
- 供职机构：中国人民解放军陆军军官学院更多>>
- 发文基金：国家自然科学基金更多>>
- 相关领域：自动化与计算机技术更多>>
- 一种求解截断Hinge损失的软阈值坐标下降算法
- 2013年
- 有效地减少支持向量数目能够提高分类器的鲁棒性和精确性,缩短支持向量机(support vector machine,SVM)的训练和测试时间.在众多稀疏算法中,截断Hinge损失方法可以显著降低支持向量的数目,但却导致了非凸优化问题.一些研究者使用CCCP(concave-convex procedure)方法将非凸问题转化为多阶段凸问题求解,不仅增加了额外计算量,而且只能得到局部最优解.为了弥补上述不足,提出了一种基于CCCP的软阈值坐标下降算法.用坐标下降方法求解CCCP子阶段凸问题,提高计算效率;对偶SVM中引入软阈值投影技巧,能够减少更多的支持向量数目,同时选择合适的正则化参数可消除局部最优解的不良影响,提高分类器的分类精度.仿真数据库、UCI数据库和大规模真实数据库的实验证实了所提算法正确性和有效性.
- 朱烨雷王玉军罗强陶卿
- 关键词：支持向量CCCP软阈值
- 一种基于Comid的非光滑损失随机坐标下降方法被引量：3
- 2013年
- 坐标下降方法以简洁的操作流程、低廉的计算代价和快速的实际收敛效果,成为处理大规模优化最有效的方法之一.但目前几乎所有的坐标下降方法都由于子问题解析求解的需要而假设损失函数的光滑性.本文在结构学习的框架下,在采用Comid方法求解随机挑选单变量子问题的基础上,提出了一种新的关于非光滑损失的随机坐标下降方法.理论分析表明本文所提出的算法在一般凸条件下可以得到Ο(t-(1/2)/t)的收敛速度,在强凸条件下可以得到Ο(lnt/t)的收敛速度.实验结果表明本文所提出的算法对正则化Hinge损失问题实现了坐标优化预期的效果.
- 陶卿朱烨雷罗强孔康
- 大规模SVDD的坐标下降算法被引量：1
- 2012年
- 支持向量数据描述(SVDD)是一种无监督学习算法,在图像识别和信息安全等领域有重要应用.坐标下降方法是求解大规模分类问题的有效方法,具有简洁的操作流程和快速的收敛速率.文中针对大规模SVDD提出一种高效的对偶坐标下降算法,算法每步迭代的子问题都可获得解析解,并可使用加速策略和简便运算减少计算量.同时给出3种子问题的选择方法,并分析对比各自优劣.实验对仿真和真实大规模数据库进行算法验证.与LibSVDD相比,文中方法更具优势,1.4s求解105样本规模的ijcnn文本库.
- 陶卿罗强朱烨雷储德军
- 关键词：收敛速率解析解
