关键词： 结直肠癌   机器学习   诊断试验   标志物   PLAGL2  

摘要： 研究背景:结直肠癌是世界上第三大恶性肿瘤。在我国结直肠癌总发病人数位列各癌中第二位。尽管目前对于结直肠癌的治疗技术有所提高,但结直肠癌患者的5年总体生存率仍不理想。结直肠癌诊断时分期越晚,患者的生存预后越差。但早期诊断的结直肠癌患者的5年总体生存率可以达到90%。因此,寻找用于早期诊断结直肠癌的生物标志物至关重要。近年来,随着生物信息学的发展和各大生物数据库的建立和完善,机器学习方法充分发挥了在处理大数据方面的优势,为疾病的早期诊断提供了新的思路和方法。本研究通过机器学习方法对结直肠癌的生物标志物进行了筛选与验证,为结直肠癌的基础研究和精准医学研究寻找到了新的思路。研究方法:利用R语言对Gene Expression Omnibus(GEO)数据库的结直肠癌数据集进行差异表达基因分析;将上调的差异表达基因汇总为模拟训练样本,分别利用Least Absolute Shrinkage and Selection Operator(LASSO)回归以及Support Vector Machine Recursive Feature Elimination(SVM-RFE)法分析并建立诊断模型,选出两个模型中共有的基因作为标志物的候选因子;利用GEO数据库中的生存数据进行生存分析,挑选出与结直肠癌患者生存相关的生物标志物Pleiomorphic Adenoma Gene-like 2(PLAGL2);通过GEO数据库以及The Cancer Genome Atlas(TCGA)数据库中的结直肠癌的表达数据进行诊断试验评价PLAGL2对于结直肠癌的诊断能力以及对于结直肠腺瘤的鉴别诊断能力;收集2014年1月至2015年12月期间中南大学湘雅三医院的结直肠癌和癌旁组织蜡块进行切片并做PLAGL2的免疫组化实验,验证PLAGL2在组织中作为诊断因子的效能,并进一步验证PLAGL2的表达水平与结直肠癌患者总体生存之间的关系。研究结果:(1)在结直肠癌组织中筛选出了66个共同上调的差异表达基因(FC值>1.2,P<0.05),并通过机器学习分析以及生存分析得出PLAGL2的表达可以作为潜在的结直肠癌的诊断及预后标志物。(2)GEO数据库和TCGA数据库中结直肠癌和癌旁的数据的诊断试验分析验证了PLAGL2对于结直肠癌的诊断效能,PLAGL2的表达对于结直肠癌的诊断具有较高的灵敏度以及特异度。(3)PLAGL2的表达可以用于对结直肠癌和结直肠腺瘤的鉴别诊断,并得出了鉴别诊断的最佳的截断值,可以用于区分结直肠癌和结直肠腺瘤。(4)PLAGL2在结直肠癌细胞中的表达水平明显高于癌旁组织(P<0.05),PLAGL2的表达水平与淋巴结转移(P<0.05)和TNM分期(P<0.05)呈显著正相关。PLAGL2的高表达提示着结直肠癌患者的不良预后。研究结论:(1)PLAGL2在结直肠癌中高表达,与结直肠癌的淋巴结转移以及TNM分期相关。(2)PLAGL2的高表达提示着结直肠癌患者的不良预后。(3)PLAGL2可作为结直肠癌潜在的诊断及预后标志物。图14幅,表11个,参考文献58篇

关键词： 资源调查   扫海面积法   随机森林   梯度提升回归树   极限梯度提升回归  

摘要： 渔业资源评估技术是了解海洋渔业资源信息、制定渔业管理计划、保障海洋渔业资源可持续利用的重要工具,不仅可以保障生态环境,还为渔业政策的制定提供了依据,有助于实现渔业管理的经济、社会和环境目标。长久以来,扫海面积法广泛应用于渔业生物量评估工作中,其主要优点为计算简单、可操作性强,但该方法需假设资源均匀分布,若要提高生物量评估的准确性,则须改进调查方案并增加调查预算。而如今,渔业资源评估技术不再局限于传统获取渔获数据的方法,而是灵活地运用多元化的机器学习模型和统计算法,将遥感技术和大数据技术等新技术手段应用其中,从卫星图像和其他传感器获取大量数据,提高了渔业资源评估的科学性和精度,为渔业管理和保护提供了科学准确且全面的依据。本研究基于2006年8月和2007年1月、5月、11月在舟山渔场海域开展渔业资源底拖网调查所获得的多种经济蟹类数据,研究了舟山渔场海域三疣梭子蟹(Portunus trituberculatus)、双斑蟳(Charybdis bimaculata)、日本蟳(Charybdis japonica)、细点圆趾蟹(Ovalipespunctatus)4种主要经济蟹类生物量,并对比了扫海面积法与随机森林(Randomforest,RF)、梯度提升回归树模型(Gradientboosting regression tree,GBRT)和极限梯度提升(Extreme gradient boosting,XGBoost)等 3种机器学习模型的评估效果。分析舟山渔场四种经济蟹类时空分布与环境因子之间的关系,同时以方差解释率(VE)等指标来筛选最优拟合模型。通过建立的模型评估剩余站点的生物量分布情况,重复模拟20000次,最后将RF、GBRT、XGBoost 3种方法分别估算调查海域20个站位4种经济蟹类的全部生物量,并与扫海面积法估算的结果进行比较,比较不同评估方法之间准确性的差距,得出评估结果更接近真实值的评估方法。通过研究得到以下结果:1.本研究通过减少投入建模站位数量,根据不同模型的性质分别建立最优模型来估算4种经济蟹类的生物量,对比4种蟹类渔业资源评估方法的准确性和实用性,发现底温和pH等因子对四种经济蟹类分布有显著影响,得出随着调查站位数的减少,在数据不集中、波动较大的情况下,如秋、冬季节,XGBoost方法对生物量的评估效果明显优于扫海面积法,误差降低7.49%～21.34%;2.通过对数据分布均匀的情况下进行建模估算4种经济蟹类的生物量,得出在数据集中、波动小的情况下,如春、夏两季,扫海面积法与机器学习方法两者结果的差异不显著(P>0.05)。3.在对3种机器学习算法的估算结果进行比较后,得出三种机器学习算法均能够较好地预测舟山渔场主要经济蟹类的生物量,其中XGBoost算法的预测效果最佳,这与其他研究的结果一致。4.本研究采用机器学习方法对舟山渔场主要经济蟹类生物量进行估算,结果表明机器学习方法相较传统方法具有更好地估算精度和泛化能力。特别是在对多种因素影响的考虑和特征筛选方面,机器学习方法具有明显的优势。通过本文的思路方法使用机器学习方法在估算舟山渔场主要经济蟹类资源生物量更为科学高效,为今后研究蟹类资源生物量提供一种新的估算途径。本研究基于多种模型对4种经济蟹类时空分布与环境因子之间的关系进行分析,探索了机器学习方法在生物量评估中的应用,以期提高评估准确性并节省资源调查成本,通过本研究的流程和方法,为今后探索舟山海域主要经济蟹类生物量估算提供新思路。

关键词： 功能磁共振成像   语言机制   机器学习   句法结构   功能连接  

摘要： 大脑是人类最复杂的器官,控制着人类的认知、行为以及意识等过程。随着多种神经影像技术的快速发展,人们对人脑活动的测量能力也在不断提高,这使得人们对人脑功能的认知有了极大的进步。其中功能磁共振成像技术(functional Magnetic Resonance Imaging,fMRI)能够采集高空间分辨率的人脑功能活动信息,是研究人脑复杂认知神经活动的主要成像技术之一。语言是人类文明的标志,也是人类认识世界的工具。对人脑语言机制的解析一直是神经科学领域的研究热点。基于听取自然语言所采集的fMRI数据,可以通过全脑建模分析来探索人脑的语言处理机制。这种方式更加符合人脑在自然条件下的反应,得到的结果也更加系统。因此,近些年其已成为对人脑语言机制进行解析的常用研究方法。本文基于被试倾听自然语言时采集的fMRI数据,对人脑在自然条件下的句法处理机制进行研究。基于可解释的机器学习方法将自然语言中激活人脑功能的语义效应和句法效应进行分离;针对不同的句法结构,系统性的研究了人脑的句法处理机制。本文的主要研究工作如下:1.基于可解释机器学习方法构建了人脑语言功能解析方法框架,并展示了人脑的神经句法功能强度的脑区图。对于现有的关于人脑句法机制的研究成果,往往很难分离特定句法现象或无法整合不同条件下的实验结果,因此关于人脑的句法机制还未有一个系统且深入的解析。本文针对这一问题,将自然语言文本的单词作为输入特征,将人脑的激活信号作为输出值,在构建对应的样本集的基础上,对每个体素建模并解释模型输出。然后,借助现代语法理论知识将解释结果按照句法结构类型(如名词性主语结构)进行统计,获得每个体素在处理各个句法结构时的功能强度。最后以体素为单位将所有句法结构的功能强度进行叠加,即为对应体素的整体句法功能强度。相比之前的研究仅能通过模型的性能表现来比较不同体素的句法功能,本文将体素的句法功能强度进行量化,以便能够更准确地探索人脑句法处理机制。2.发现了人脑处理句法结构的分布处理模式,展示了人脑在处理不同句法结构时的脑区选择性。在基于自然语言的全局性语言处理机制的研究中,虽然存在通过各类算法将语义和句法进行分离的相关研究,但大多数研究通常无法继续将句法细化到更细节的层次,导致只能将句法作为一个整体进行后续处理。然而,人脑是一个非常精细化的操作系统,对句法的处理也是非常复杂的,将句法作为一个整体通常会损失许多句法处理功能的隐藏信息。因此,本文基于每个体素对于不同句法结构的处理功能强度,对每个句法结构都进行单独的探索研究。不同于许多将句法视作整体对人脑语言机制进行的研究,本文在句法结构这一更加细节的层次上,对人脑的句法处理机制做出了进一步的研究,发现了人脑在句法处理时的更深层次的运行机制。3.构建了人脑每个体素的句法复杂网络,将句法处理机制细化到词对层面。通过去掉句法结构带来的泛化限制,从而可以研究不同体素对特定词对处理的差异,并对每个体素构建了句法处理机制的静态和动态句法网络,其分别对应着体素整体的句法处理机制和特定时刻的句法处理机制。句法复杂网络的最小信息单位是单词与单词的句法关系。因此,句法复杂网络能够精准捕捉体素在单词层次上的语言处理机制,展现了每个体素在单词层次上的特异性;同时,根据网络结构的不同,研究了不同体素在单词层次上的句法处理差异。基于不同体素在句法上的差异,进一步提出了一种新的人脑区域划分方法,即将具有相似句法处理机制的体素归为一类区域,然后计算了不同区域的句法功能连接关系,从而对理解不同脑区在处理句法时的协同机制提供了新的见解。

关键词： 心房颤动(AF)   机器学习(ML)   加权基因共表达网络分析(WGCNA)   免疫浸润   生物信息学分析   分子对接  

摘要： 目的:目前心房颤动是最常见的心律失常,心房颤动的危害大且治疗效果欠佳,我们拟通过生物信息学方法联合机器学习算法,探索心房颤动患者的关键基因,并探寻在心房颤动治疗中具有潜在治疗作用的小分子化合物,为临床上心房颤动的诊断及治疗提供新靶点以及新药物。研究方法:在这项研究中,我们通过登入NCBI(National Center for Biotechnology Information)进入其中的基因表达合成(Gene expression omnibus,简称GEO)数据库中,下载了五组与心房颤动相关的基因表达数据集(GSE79768、GSE14975、GSE41177、GSE115574和GSE2240),其中GSE2240数据集选作为验证集,其余的四个数据集被用来作为训练集,用于深度分析。首先,使用R软件中的“limma”包在训练集中筛选出显著差异表达基因(Differential expression genes简称DEGs),同时在训练集中也进行加权基因共表达网络分析(Weighted gene co-expression network analysis,简称WGCNA)确定与房颤最显著相关的基因模块;其次,我们将显著差异表达基因和与房颤最显著相关模块基因取交集,将此交集基因考虑为心房颤动的相关基因(本文称为重叠基因),并进行了GO/KEGG功能富集分析、蛋白质-蛋白质相互作用网络分析、mi RNA-m RNA调控网络构建以及c MAP数据库小分子药物预测。接下来,我们使用三种常用的机器学习方法(LASSO、RF和SVM)来进一步筛选心房颤动最重要的相关基因(从重叠基因中进一步筛选出最相关的基因,简称为特征基因),并构建了由特征基因组成的房颤诊断预测模型,并在训练集和测试集中验证模型性能(曲线下面积及校准曲线)。此外,我们使用CIBOERSORT工具帮助了解特征基因与22种免疫细胞之间的相关性。最后,我们针对重叠基因(根据在房颤疾病中上下调关系)在c MAP数据库内部进行比对,寻找到一系列潜在小分子化合物,通过与特征基因的编码蛋白进行分子对接模拟,测试其结合可能程度。研究结果:(1)通过对本研究中训练集的基因进行差异表达分析,总共得到75个差异表达基因;(2)通过对本研究中训练集的加权基因共表达网络分析,一共得到15个基因模块,其中青色模块179个基因与心房颤动的负相关最强(r=-0.52,p=3e-10);(3)对青色模块的179个基因和差异性表达的75个基因合并取交集得到42个重叠基因,行GO富集分析显示这42个重叠基因在生物过程(BP)方面主要富集参与突触装配、典型Wnt信号通路的调控、典型Wnt信号通路、钙离子跨膜转运体活性的负调控、肌浆网钙离子转运等生物过程;KEGG分析显示这42个重叠基因显著富集在矿物吸收、甘油脂代谢、心肌收缩、CGMP-PKG信号通路、Wnt信号通路等;(4)对这42个重叠基因使用三种常用的机器学习方法进一步筛选(最小绝对收缩和选择算子(LASSO)算法、支持向量机递归特征消除(SVM-RFE)算法和随机森林(RF)算法),最终确定了ANGPTL2,C1orf105和DHRS9为心房颤动的最关键基因(即特征基因);(5)通过曲线下面积(AUC)展示单个特征基因预测房颤的准确性,在训练集中ANGPTL2、C1orf105和DHRS9的AUC分别为0.871(95%CI:0.801-0.930)、0.826(95%CI:0.749-0.896)和0.843(95%CI:0.761-0.914);在测试集中ANGPTL2、C1orf105和DHRS9的AUC分别为0.950(95%CI:0.860-1.000)、0.740(95%CI:0.515-0.930)和0.975(95%CI:0.910-1.000),表明这三个基因在内部及外部数据集中对房颤均具有良好的预测诊断性能;(6)免疫浸润分析发现:ANGPTL2与CD8 T细胞和嗜酸性粒细胞相关;C1orf105与自然杀伤细胞活化、巨噬细胞M1、活化的树突状细胞和γδT细胞相关;DHRS9与肥大细胞的激活和失活有关;(7)在c MAP数据库中寻找到潜在治疗房颤相关小分子化合物:钙离子通道阻断剂VU-0413807-2,与ANGPTL2编码的蛋白进行分子对接模拟,同时设置阳性对照(已知ANGPTL2编码蛋白其中一个靶点CACNA1G),氢键结合能及均方根误差都比阳性对照组好,显示出其能够结合我们的房颤关键靶点蛋白,从而起到治疗房颤作用。结论:1、本研究表明ANGPTL2、C1orf105和DHRS9可能在心房颤动中起关键作用;2、ANGPT2、C1orf105和DHRS9可能通过影响免疫细胞浸润而影响心房颤动的发生;3、发现小分子化合物VU-041

关键词： 信贷风险评估   可解释性   集成学习   逻辑回归   系统开发  

摘要： 信贷风险评估是企业风险管理的重要一环。在人工智能技术关注度越来越高的今天,机器学习方法为提升信贷风险评估的智能化、高效化程度提供了新方案。然而,神经网络等方法在企业信贷风险评估时存在可解释性较差、数据透明度低等问题,相应地,企业使用意愿度仍较低。为提高信贷风险评估可解释性和智能化程度,本论文围绕信贷风险评估问题,提出一种基于集成学习的具有较强可解释性的信贷风险新方法,并进一步对信贷风险评估应用进行研究和实现。本论文主要研究内容及创新点如下:1、针对信贷风险评估可解释性较差的问题,结合国内外在信贷风险评估问题上的研究,提出了一种引入集成学习方法的信贷风险评估新方法。新方法首先借鉴XGboost(e Xtreme Gradient Boosting)思想,引入一种路径不重复的树分裂方法,以生成一组关于原始数据集的分类树;然后对这些数据集分别进行线性逻辑回归学习;最后采用逻辑回归作为基模型的adaboost(Adaptive Boosting)方法对不同分类树上的线性逻辑回归模型进行线性加权集成,从而形成了一个最终完全可解释的信贷风险评估模型。得益于上述特性,新模型能够为企业信贷风险管理提供有效的可解释参考。模型性能方面,在北京市企业审计数据集上,准确率和召回率分别达到93.10%和90.51%,在某市脱敏真实数据集上的准确率和召回率分别可达到82.68%和83.47%,上述结果与现有的信贷风险评估模型性能相当。并且通过数学推导和实验验证的方式,证明了新模型具有良好的可解释性和可读性,能够为信贷风险评估提供有益参考。由此,新模型将具有显著更强的实用价值。2、基于逻辑回归集成的新模型,设计并实现了企业信贷风险评估系统。系统实现了企业信贷数据处理和分析功能,构建完整效率的信贷风险评估任务流程。系统实现的主要模块有用户管理模块,数据管理模块,数据预处理模块以及风险评估模块。用户管理模块提供用户权限和信息查询功能。数据管理模块提供企业信贷数据的管理功能以及数据集的基本情况展示功能。数据预处理模块实现了多种数据预处理方式以便完成数据的清洗和填补。风险评估模块集成了本文提出的新方法和其他主流的机器学习方法来对信贷风险进行评估,并且提供了模型的可解释性对比分析。结合实际数据对系统进行测试的结果表明,该信贷风险评估系统在功能和性能上均有良好的效果,并且能提供直观的图表展示和不同模型之间的对比分析。综上所述,本文所提出的可解释性信贷风险评估模型能够为企业的信贷风险评估提供可解释性更强的新解决方案,能够为机器学习方法在信贷风险评估问题中的应用提供有益参考。上述应用系统的有效实现及测试结果表明,本文所提出的新模型能够有效地应用于实际企业信贷风险评估场景,具有清晰的现实价值。

关键词： 基金年报   文本情感分析   情感词典   语义分层   写作风格  

摘要： 我们发现在目前的基金研究领域中,当投资者们关注信息披露时,往往重点关注基金的显性信息,例如基金的财务状况、公司信息、基金经理的身份特征等,但信息披露中的大量文本数据实际上也包含着关于基金未来业绩走向的增量信息,也可以认为是一些隐性信息。随着计算机技术的发展,针对海量文本的信息挖掘和分析如今得以实现。许多国内外学者从实证角度验证了诸如年报、招股说明书以及业绩说明会中文本信息对于决策的有用性,但对于业绩预告部分的文本分析相关研究还比较少。有人从财经新闻、论坛发帖、视频弹幕、留言评论等内容上面去分析股市或公司未来发展趋势。然而,考虑到这些信息在一定程度上受虚假信息、群体效应的影响,社会消息面和恐慌心态都会造成金融市场舆情变化不定,当前相关监督部门还不能及时监控金融市场舆情动态以及正确引导其发展,会造成信息在金融市场传递过程中出现失真现象。投资者们会被这些信号所干扰,影响他们做出精准地判断,导致产生不必要的损失。可以说稳健、可靠、有效的文字信息已经成为当前基金市场研究的稀缺资源。相比财经新闻,基金年报中“展望”部分对基金公司当年整个经营情况和未来发展战略做出了详细说明,在年报信息披露期间,不仅会要求专业审计人员进行调查,而且还有监管部门的工作人员对公司年报内容进行多次审核,从而保证了年报内容的准确性和有效性。除此之外,基金年报还具有良好的固定格式和强制发布性,非常适合用于进行学术研究。因此,本文基于2010―2020年基金年报中“展望”部分的文本内容,借助词典法构建了基金经理基于语义分层的情感语调指标,尝试探索基金经理的写作风格对基金业绩的预测能力。主要研究内容如下:从基金定期发布的年报文本中挖掘出作者的行文风格中隐含的信息,即这些信息中体现出的微妙的情绪变化以及其中所传递的内容。在以基金年报作为研究语料的基础上,我们使用PYTHON相关的库对数据进行了预处理,并使用无监督的机器学习算法和人工挑选相结合的方式来生成情感词典。我们的词典不仅分为正面和负面的情绪词,而是将正面和负面的表达程度进行了进一步细致的分层。其中本文中就以三分层作为表达自信水平的标准,他们分别是:确定性,表达强度和情感夸张。我们可以利用这三个标准,来衡量基金经理写给投资者的公开信中所表达出来的自信程度。最后我们通过词嵌入技术以及语调度量方法TF-IDF将这种自信程度进行了量化表达,作为一项特征,与财务特征向量进行融合后以向量的形式加入到模型的训练和预测过程当中。最后用来研究文本信息中的基金经理情感语调是否能够明显提升对基金业绩的预测能力。最终,本文得出了许多与基金经理自信程度相关的重要结论:基于语义分层的情感得分对基金业绩的预测效果与传统的正负向词典的情感得分相比有了明显的提升。我们的研究表明,衡量基金文本的自信程度与人们在交流时所感知到的自信在信息层面上的极性强度是截然不同的,写作风格蕴涵着重要的前瞻性信息。在此基础上我们将该情感语调分数应用于投资组合的选择,结果发现使用语义分层情感分数选出的投资组合获得了超额回报。

摘要： 摘要 目的 预防血肿周围水肿（PHE）扩大是改善颅内出血（ICH）病人神经系统结局的一种新策略。该研究旨在使用机器学习（ML）方法预测早期和延迟期PHE扩大。方法 纳

关键词： 脑卒中   不平衡数据   过采样   集成模型   Borderline-SMOTE  

摘要： 近年来随着机器学习的发展和推广,其在大数据处理领域的优势得到充分运用,众多医学专家尝试采用机器学习建模方法为医学诊疗等提供智能辅助。脑卒中是临床治疗中常见的脑血管疾病,且在我国发病率位居世界前列,由于其具有高致残率、高病死率,严重危害国人健康,研究进展受到广泛关注。通过阅读众多文献了解到,已有多篇文章聚焦于利用机器学习相关方法分析脑卒中的诊断、治疗、预后各阶段,一方面通过大数据分析全面客观地认知诱发疾病的因素,提高临床诊断的精度;另一方面也能对后期康复提供科学的指导建议。本文首先对目前脑卒中研究情况、不平衡数据处理方法进行梳理,归纳总结了多种过采样方法和分类模型原理,然后对脑卒中公开数据集进行数据预处理,包括决策树预测填充缺失值、标准化等。通过描述性统计可以看到,随着年龄增长,高血压、高血糖、超重等常见健康问题出现的概率升高,而这些常见病是诱发脑卒中的重要因素,因此生活中应注意加强预防,重视血压、血糖指标控制,养成良好生活习惯。随后对不平衡数据进行过采样处理,对比模型评价结果,Borderline-SMOTE处理后的数据集模型评分最高。将平衡数据集代入分类模型,XGBoost和随机森林的分类效果位居一、二,重点对这两种方法展开模型优化,优化后准确度均有显著上升。通过应用上述机器学习算法进行脑卒中预测模型研究,不断提高模型预测的精度,对医学临床预测脑卒中及筛查具有一定应用价值。最后总结全文研究情况,提出机器学习应用于医学领域存在的现实问题和有关建议,并说明论文的局限性和下一步的完善方向。

关键词： 绿色溢价   集成学习模型   神经网络   绿色创新  

摘要： "绿色经济"正逐渐崭露头角,成为经济发展的新典范,对产业层面的节能减排也自然而然地成为新时期产业升级的重中之重。绿色理念引领下的上市公司应当在节能减排方面充当领头羊,其地位不可或缺,对于我国绿色产业的推动具有卓越意义。作为充满活力的朝阳行业,绿色产业肩负着政府产业升级的殷切期望,并备受价值投资者的瞩目。然而,关于证券市场对绿色产业的定价研究,尤其是对绿色化成本、绿色激励的定价一直较为少见。本文考察了证券市场中绿色产业的定价特征,采用机器学习方法囊括公司层面特征和宏观经济变量,旨在探究我国股票市场绿色股票的特殊定价机制,并比较不同算法下宏微观变量对绿色溢酬的样本外预测能力,以期为研究者提供更深入的研究视角和实践参考。本文选取Choice数据库中节能环保概念分类的股票作为绿色概念股票,数据区间为2012年1月至2021年12月,参考已有文献构建成长类、账面价值比率类、盈利类、杠杆类等多类特征。在此基础上本文使用正则化线性回归、集成学习和神经网络三类机器学习算法构建股票溢价预测模型,分别进行月度频率和年度频率的预测。本文将处理完成的数据集输入不同的机器学习预测模型,考察其在样本外的预测表现,并对所有预测特征进行重要性分析。本文的研究成果最终得出以下结论:(1)机器学习能够有效地应用在预测我国绿色概念股票的超额收益率场景。本文考虑的模型当中,Xgboost和4层神经网络表现最好。(2)在三大类因子对模型预测能力影响的排序中,动量类特征和成长类特征最有价值,波动率和流动性特征次之,杠杆类、账面价值比率影响较弱。月度频率预测和年度频率预测有不同的特征影响偏好。(3)加入绿色创新因素后,多种算法的年度预测性能有所提升。但特征重要性分析表明,只有在Xgboost上有较高的影响力,在随机森林和GBRT中影响力较弱。

关键词： 高维时间序列数据   潜在因子模型   机器学习   股票日收益率预测  

摘要： 随着信息时代的进一步发展,各种数据被广泛地应用于各行各业中。本文研究的是高维时间序列数据,高维数据的主要特点是数据维度较大,在模型识别和参数估计方面存在困难。为了更好地对高维时间序列数据进行建模估计,文章将机器学习模型引入潜在因子模型中,并利用股票日收益率等数据对国证300指数相关市场进行分析。Chang等(2015)提出了一种具有潜在因素、内生性和非线性的高维随机回归模型,该模型将可观测因素引入模型中,且未对回归项和潜在因素回归过程施加平稳条件,但模型的不足在于使用线性估计拟合可观测因子部分。传统的线性估计对非线性数据和其他具有更复杂内在关系的数据拟合效果不佳,导致参数估计效果受到影响。近年来随着机器学习的发展和应用,各种机器学习模型在非线性数据建模方面具取得了一系列的成功,因此本文考虑在Chang等(2015)的基础上,对可观测因子部分采用机器学习方法进行估计,得到估计后的残差部分,然后基于此残差部分对潜在因子过程进行因子估计,并据此构造了基于机器学习方法的潜在因子模型。模型在可观测因子部分引入的机器学习方法能够显著地提升其对于非线性数据的拟合能力,进而提升对残差部分的预测准确性,从而提升后续的参数估计准确性。文章对上述基于机器学习的潜在因子模型以潜在因子个数r的识别准确率和未知因子载荷矩阵的估计效果为评价标准进行数值模拟实验,设计了一个线性数值模拟部分和两个非线性数值模拟部分。结果发现,基于机器学习的潜在因子模型在这三个数值模拟部分相较于基于线性估计和多项式估计的潜在因子模型表现更好,特别是在非线性数值模拟部分,参数估计更加准确,且更加稳定。通过对2015年1月至2022年12月的国证300指数相关行业股票日收益率数据进行实际数据分析发现,基于机器学习的潜在因子模型能很好地对参数进行估计,而且在预测效果对比部分,无论是整体预测还是分行业预测,其效果都更好。