摘要:二分类问题在经济领域十分常见,深度神经网络(DNN)是现有最为常用的分类方法之一。然而在处理高维特征数据时,DNN仍然面临着巨大的挑战。为此,本文基于CMCP和余弦间隔交叉熵损失建立了一个新的深度神经网络(CMCP-CMDNN),它既实现高维输入特征的筛选,又改进分类预测能力。其中,CMCP方法用于压缩输入特征到第1隐藏层的权重,通过融合权重的组结构,能够剔除无关特征以及不重要的连接。余弦间隔交叉熵损失函数可以增大判别边界的间隔,提高分类准确率和稳健性。为了求解模型,本文基于局部线性近似(LLA)和近端梯度下降算法估计参数。模拟分析表明,对比已有DNN和分类方法,所提出的方法具有良好的特征选择性能和预测表现。信用贷款违约风险实证研究表明,该方法能够有效选择风险指标并进行违约风险预警。本文拓展了深度神经网络的理论研究,为高维复杂交互作用的大数据建模提供新思路,为解决金融、管理、生物等领域的分类问题提供有力的分析工具。
文章目录
引 言
一、模型结构和算法设计
(一)深度神经网络的基本结构
(二)损失函数
1.交叉熵损失函数
(1)基本形式。
(2)余弦形式。
2.余弦间隔交叉熵损失函数
(1)基本形式和判别边界。
(2)与传统交叉熵损失的性能对比。
(三)基于CMCP和余弦间隔交叉熵的深度神经网络
(四)算法
1.LLA对CMCP惩罚函数近似
2.Lasso惩罚下的近端梯度下降算法
二、数值模拟
(一)数据设置
(二)评价指标及对比方法
(三)结果分析
三、信用贷款违约风险预警应用
四、结 论