基于CMCP和余弦间隔交叉熵的深度神经网络及其应用

2024-05-11 数量经济技术经济研究490 1.74M 0

  摘要:二分类问题在经济领域十分常见,深度神经网络(DNN)是现有最为常用的分类方法之一。然而在处理高维特征数据时,DNN仍然面临着巨大的挑战。为此,本文基于CMCP和余弦间隔交叉熵损失建立了一个新的深度神经网络(CMCP-CMDNN),它既实现高维输入特征的筛选,又改进分类预测能力。其中,CMCP方法用于压缩输入特征到第1隐藏层的权重,通过融合权重的组结构,能够剔除无关特征以及不重要的连接。余弦间隔交叉熵损失函数可以增大判别边界的间隔,提高分类准确率和稳健性。为了求解模型,本文基于局部线性近似(LLA)和近端梯度下降算法估计参数。模拟分析表明,对比已有DNN和分类方法,所提出的方法具有良好的特征选择性能和预测表现。信用贷款违约风险实证研究表明,该方法能够有效选择风险指标并进行违约风险预警。本文拓展了深度神经网络的理论研究,为高维复杂交互作用的大数据建模提供新思路,为解决金融、管理、生物等领域的分类问题提供有力的分析工具。

  文章目录

  引 言

  一、模型结构和算法设计

  (一)深度神经网络的基本结构

  (二)损失函数

  1.交叉熵损失函数

  (1)基本形式。

  (2)余弦形式。

  2.余弦间隔交叉熵损失函数

  (1)基本形式和判别边界。

  (2)与传统交叉熵损失的性能对比。

  (三)基于CMCP和余弦间隔交叉熵的深度神经网络

  (四)算法

  1.LLA对CMCP惩罚函数近似

  2.Lasso惩罚下的近端梯度下降算法

  二、数值模拟

  (一)数据设置

  (二)评价指标及对比方法

  (三)结果分析

  三、信用贷款违约风险预警应用

  四、结 论



您还没有登录,请登录后查看详情



 
举报收藏 0打赏 0评论 0
本类推荐
下载排行
网站首页  |  关于我们  |  联系方式  |  用户协议  |  隐私政策  |  版权声明  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  蜀ICP备2024057410号-1