关键词： 慢阻肺   再入院   命名实体识别   机器学习算法   风险分类  

摘要： 慢性阻塞性肺部疾病是一种常见的慢性疾病,发病率较高,严重损害国民健康,疾病负担重,成为影响我国经济社会发展的重大公共卫生问题之一。由于医疗质量、健康结果和财政问题,复发性、计划外再入院的问题,即一些病人出院后30天内返回医院,并且是因为相同或相关的情况再次入院,已成为全世界的一项挑战。预测频繁的、可预防的再入院和了解造成这种情况的因素是一个正在得到广泛研究的关键问题。慢阻肺患者再入院预测风险和风险分类有助于给医疗机构提供一些可靠的数据支持,便于辅助医疗机构更加合理、均衡地配置医疗资源,提高住院服务的利用率。患者也能够通过疾病预警和风险分层工作,及早预防,有效干预,能够有效提高人们的健康水平,同时减轻经济负担。为了应对日益增长的需求,本研究提供了一个框架,结合医疗领域的结构化和非结构化数据,开发慢阻肺患者再入院预测模型并进行患者特异性风险分类。具体工作如下。首先为了处理非结构化的文本数据,对电子病历的命名实体识别。定义实体类型,完成数据标注,然后构建了基于Bi LSTM-CRF命名实体识别模型,将文本的电子病历中的有效信息抽取出来。为了对比验证模型的效果,将Bi LSTM-CRF的识别结果与CRF对比。其次是慢阻肺患者再入院预测。将结构化的特征和病例文本中获取的特征合并和预处理后,使用逻辑回归、支持向量机、随机森林、XGBoost和BP神经网络构建预测模型并对比评估,发现XGBoost是各项指标表现最佳的模型。对XGBoost的预测因子进行分析,发现再入院风险最重要的5个预测因素是:住院时长、查尔森合并症指数、病程、白细胞、嗜酸性粒细胞。最后是慢阻肺患者再入院的风险分类。根据选择的XGBoost模型的预测概率,采用k-means聚类方法将患者分为五个不同的风险组,沿可信度由低到高的方向,逐渐从训练集中丢弃一组或者两组用于人工评估结果的数据,其余的样本则通过XGBoost模型预测,结果导致预测模型的性能逐渐增加。同时与等距分层方法相比,k-means能减少更多的的人工评估工作量。这一风险分层方法提供了医疗决策这辅助决策工具。

关键词： 手机价格分类预测   逻辑回归   组合权重   支持向量机   K近邻法  

摘要： 中国是全球智能手机用户第一大国,并且手机用户的数量还在呈现逐年上涨的趋势,但是国产手机用户的渗透率不高,海外手机对国产手机形成巨大压力。国产手机市场犹如一片“红海”,市场上的产品同质化严重,价格竞争十分激烈,智能手机行业开始进入不健康的发展期。随着5G技术的不断应用,5G手机开始成为行业的主流,根据2021年上半年中国信息通信研究院发布的数据显示:国内市场5G手机出货量为1.51亿部,同比增长94.3%.这一增长趋势,既说明5G手机是未来消费者的主流需求,也说明5G技术为疲软的智能手机市场注入了新的活力。但是5G手机的高价格门槛也将大量的用户阻挡在外,为了快速渗透市场,5G手机的生产制造商开始不顾芯片的短缺,掀起一场挑衅性的价格战,千元5G手机,价格一低再低,并且质量还要有所保证,因此虽然5G手机的出货量不断增加,但是销量的增加并没有带来利润的增加。本文正是基于以上背景,分析Kaggle网站上的移动手机数据集,采用多种不同的机器学习分类算法构建关于手机价格的分类预测模型,并对比各种方法从中选出最优模型。这样一方面可将最优模型在未知类别的数据集上进行分类预测,另一方面希望可以将本文所用的实证研究方法推广到市场上关于手机定价的相关情形,从而对智能手机设备生产制造销售商和消费者提供合理的价格底线。此外,本文还提供面对海量数据集的处理方法,以应对大数据时代的现实需求。具体地,本文首先对数据进行预处理,通过处理缺失值、标准化以及对数据特征进行描述性统计和多重共线性检验,整体上把握数据的分布情况;接着分析了20个手机特征关于因变量手机价格范围的相关分析,得出影响手机价格范围的关键变量,并且分别可视化关键变量——随机存取存储器、电池、像素分辨率高度和宽度与价格范围的内部联系;在经过探索性数据分析之后,应用决策树、随机森林、GBoost、Ada GBoost、XGBoost、逻辑回归、支持向量机和K近邻法对手机价格范围进行分类、并结合准确率、精确度、召回率和F-1值评价各种方法的预测效果。在8种机器学习分类模型中,综合改进前后各种模型的表现,得出最优模型为逻辑回归,其在手机价格分类与预测的过程中效果突出,4项评价标准的正确率均在90%以上;相比于其他模型,K近邻法、支持向量机在应用组合权重前后,在分类预测准确率上提质明显;但是对于集成学习算法而言,这种改进没有取得预期的效果;说明在具体的实际手机价格分类预测过程中,不能一概而论,需要对具体情形应用不同的情况。对于海量数据集,本文考虑分别采用简单随机抽样、均匀抽样、行范数抽样以及杠杆值抽样对数据集进行选取。通过对比模型运行时长和最优模型逻辑回归分类预测准确率,可以确定合适的抽样方法与样本容量,从而选取合适的数据集。

关键词： 中风预测   不平衡数据集   机器学习   结果改进   后置推断  

摘要： 在世界范围内,因中风引起的死亡人数逐年增多,中风发病对各国人口健康构成了严重威胁。我们迫切需要更加准确且灵活的预测模型来精准判断中风高危人群,帮助降低筛查成本和提前选择适当的治疗防御措施。近年来,机器学习在各种医疗保健系统的多个应用中迅速发展,它构建的复杂模型可提供准确快速的预测结果,目前已成为生物医学领域的强大工具,可为中风潜在患者提供个性化的预测手段。本论文采用的中风数据集共有5110条样本,而负样本仅有249例,数据集较为不平衡。研究思路为针对中风发病预测来进行建模分析。然而在生命医学领域,数据样本的预测模型建立后,人们通常使用机器学习预测的结果代替实际中不易获得的真实结果用于随后的统计分析与推断中,并且通常不考虑真实结果和预测的结果之间的区别。基于以上背景,本文采用SMOTE数据平衡技术(Synthetic Minority Oversampling Technique),基于三种在以往研究中表现良好的机器学习方法逻辑回归、支持向量机和随机森林进行中风发病预测及平衡处理前后各模型的训练效果对比,选取综合表现最好的模型进行预测结果改进及预测结果后置推断的参数验证,训练出最优的预测结果并将其与真实结果进行验证比较。SMOTE数据平衡后将原始样本中发病人群占比的5%提升至29%。在模型构建的过程中,可以明显看到数据平衡处理后的模型效果的提升。三种模型灵敏度与特异度的差距缩小,Logistic Regression模型准确率为77.0%,提高13pp;Support Vector Machine准确率为80.1%,提高11pp;Random Forest准确率为77.2%,提高18pp;AUC也有了很大的提高,SVM为0.83,提高了0.18。选择综合表现良好的平衡后SVM模型进行预测结果改进。线性SVM关系模型构建出最准确的预测值与真实值的关系。利用此关系模型和验证集的响应变量算出修正后的预测值,与未修正前的预测结果进行比较,未修正前准确率为79.74%,AUC值为0.829,修正后准确率为82.03%,AUC值为0.844,准确率提升2.29pp。最后采用参数自助法进行预测结果纠偏后的后置推断参数求解,在单参数推断模型中,修正后预测结果的参数与真实数据的参数推断结果最为接近,而未修正的预测结果的后置推断参数则具有较小的估计值和较大的T检验统计量,进一步验证了结论。

关键词： 水声通信   信道估计   自适应信号处理   机器学习  

摘要： 地球的70％被海洋覆盖，为人类文明发展提供了丰富的生物、化学、矿产和空间等资源。经略海洋事业对于我国的经济发展和国家安全具有重要的战略意义。声波是目前人类己知的应用最广泛、成熟的水下信息传播载体。水声通信技术是开展各类海洋活动的主要技术支撑之一，但是受到复杂海洋环境的挑战，具体体现为传播损失、海洋环境噪声、多途传播特性、多普勒扩展、时空变化效应等科学问题，制约了误码率性能、通信速率、通信距离、稳健性等指标的提升。当前水声通信技术发展水平难以全面满足实际应用的需求。　　信道估计是解决多径效应和时空变化特性问题的有效技术手段。近年来自适应方法以及机器学习在各个领域中取得突破，为水声信道估计技术的进一步发展带来了新的契机，同时也引发了新的技术难题，例如信道结构特性利用、样本稀缺训练、标签缺失训练、环境变化引发域失配等。这些问题使得新方法的有效性及适用性受到严重制约，难以发挥出应有的信息感知能力。　　论文立足智慧海洋与海洋信息科学学科前沿，根据国家海洋战略发展要求，围绕复杂海洋环境下水声通信科学问题，瞄准自适应与机器学习信道估计方法面临的信道簇状稀疏特性分析、样本稀缺、标签缺失、域失配等关键技术难题，引入最优化方法、神经网络模型设计与分析、数据增强方法、迁移学习等最新学术成果，开展了水声信道估计中的自适应与机器学习方法系统性研究，探索了自适应和机器学习类信道估计方法机理，最终提出了一系列基于自适应信号处理与机器学习的水声信道估计新方法。具体研究内容和成果如下:　　1.水声信道具有明显的簇状稀疏特性，即稀疏的信道冲激响应大部分为零或接近零的小值系数，而非零值系数是以簇的形式非均匀分布于时延域。为此本文提出了一种基于非均匀混合l21范数约束比例调节仿射投影算法(ImprovedProportionate Affine Projection Algorithm，IPAPA)的水声信道估计方法，简称为水声簇状稀疏APA(Underwater Acoustic Clustered Sparse APA，UACS-APA)。该方法首先根据信道簇状结构对其进行非均匀分组，基于此将l21范数约束规则引入仿射投影算法中，具体方法是对簇状部分施加l2范数约束，有效提高系数间的相关性，而簇状结构与其他零值抽头之间利用l1范数约束实现了整体的稀疏性。深海通信试验结果表明，在信噪比(Signal-to-Noise Ratio，SNR)小于-10dB的低信噪比深海影区环境中，所提方法相较均匀分组的混合l21范数约束IPAPA方法能够实现较为明显的均方误差(Mean Square Error,MSE)性能提升。　　2.水声通信信号处理的对象通常是解调后的基带信号，其在符号域采用复数形式表示。而现有的机器学习模型通常需要将复数信号拆解为实数向量作为模型输入，这一过程在一定程度上损失了水声通信信号的物理意义并产生了运算冗余。为此，本文提出一种基于复数神经网络(Complex-valued Network，C-Net)的水声信道估计方法，该方法借助复数信号虚部和实部间权重共享的机制，实现了机器学习模型的减重，大大提高了模型参数的读写效率。同时，本文还对基于复数神经网络的水声OFDM系统进行了性能边界的理论分析。基于WATERMARK数据平台的实验结果表明了所提方法相较实数神经网络(Real-valued Network，R-Net)能够大幅减少模型读写开销，这一优势将有效降低模型在实际水声通信应用中的部署难度。　　3.水声通信数据采集难度大导致用于机器学习的数据样本量通常不足，而水声信道的复杂多变特性造成了信道标签的实时标定困难。为了解决信道样本量不足的问题，本文首先借助机器学习中的频域准则分析了模型在缺乏信道数据场景中性能下降的原因，即水声信道结构中快变的随机扰动成分不足，从而导致模型无法实现充分的训练并学习到特定水声环境中的信道统计信息。基于此分析，本文提出了一种基于经验模态分解(Empirical mode decomposition，EMD)数据增强的水声信道估计方法。实验结果表明了所提数据增强方法能够有效缓解水声信道样本不足造成的过拟合问题，同时在性能上逼近以均方误差为目标函数的统计意义最优解。此外为了解决信道标签标定困难，本文提出一种基于无标签学习的水声信道估计方法，该方法通过调整机器学习训练阶段的损失函数，避免了真实信道信息作为标签的出现，实验结果表明了所提方法的有效性。　　4.水声信道时空变化明显，水声环境失配场景下的机器学习模型迁移难度大，迁移过程中的模型性能刻画和描述缺乏具体的量化过程。针对环境失配过程中的水声信道，本文分别围绕水声信道变化时的偏移量以及特定环境中的水声信道扰动进行了量化分析。其中主要工作是建立了信道相对偏移率(RelativeDis

关键词： 水下爆炸   机器学习   深度神经网络   结构毁伤   动响应   快速预报方法  

摘要： 水下爆炸过程中会产生冲击波、气泡脉动和射流等载荷,这些载荷会对舰船结构造成不同程度的毁伤,严重威胁舰船生命力。目前,在水下爆炸载荷下舰船毁伤领域的研究主要采用数值计算方法,并产生了海量数据。采用机器学习方法对已有计算结果进行数据挖掘可实现舰船毁伤特性的快速准确预测,这将为水下爆炸与舰船毁伤领域带来前所未有的变革,具有极其重要的军事和工程意义。首先,阐述了水下爆炸的物理现象、载荷特性及结构毁伤的基础理论和研究现状,介绍了深度神经网络等机器学习算法及其在舰船毁伤领域内的应用,并论述了 ALE方法基本原理,通过与经验公式和水下爆炸试验对比验证了 ALE方法在水下爆炸载荷下结构毁伤模拟的有效性,验证了深度神经网络方法在水下爆炸问题中的适用性。其次,以近场水下爆炸载荷下船体板架结构最终塑性变形和塑性应变分布为例,研究了隐含层数量、神经元数量、优化器和激活函数类型对深度神经网络预测精度和训练效率的影响,确定了较优的深度神经网络模型。在此基础上研究了深度神经网络模型输入参数的影响,且针对神经网络训练过程中出现的欠拟合和过拟合现象进行了讨论,最后在模型中加入回调函数,从而在保证预测精度的前提下提升训练效率,以避免欠拟合和过拟合对预测结果的影响。然后,针对不同加筋数量和加筋厚度的船体板架结构、不同炸药当量和爆距的近场水下爆炸载荷,建立了三个不同的深度神经网络模型对板架结构最终塑性变形、塑性应变分布和典型位置位移时历曲线进行了预测。通过将板架最终塑性变形预测结果作为输入值,提高了计及边界和加筋影响的塑性应变分布预测精度。此外,通过增加隐含层和神经元数量,预测了水下爆炸载荷下船体板架结构典型位置处位移时历曲线。最后,采用支持向量机算法实现了不同板厚的结构在不同威力水下接触爆炸下的毁伤模式判别。在此基础上建立了深度神经网络模型以预测结构在水下接触爆炸载荷下破口尺寸、破口形状、结构塑性变形和应变分布。此外,通过将时间及对应时刻结构位移及应变输入到新的深度神经网络模型中进行训练,预测了板架结构在水下接触爆炸载荷下破口扩展过程。

关键词： 技术分析   股市预测   机器学习   投资策略  

摘要： 在股票市场预测领域,预测未来价格或走势是最具挑战性的问题之一。近年来,随着机器学习技术的发展,人们在股价预测的相关研究中,越来越多的在传统金融分析技术中引入机器学习模型,将机器学习技术与传统技术分析指标相结合以预测股市趋势。本文提出了一种基于机器学习的混合技术分析交易策略,通过机器学习技术以优化传统方法产生的买入或卖出交易信号,从而提高收益。这种方法的创新之处在于使用机器学习方法预测未来股价,定义并计算出一种新的趋势指标,将其与技术分析指标结合进行优化。为了选择最合适的机器学习技术,本文介绍并分析使用了支持向量回归、随机森林和人工神经网络三种方法在股票市场的预测效果。选择MACD择时策略作为本文研究交易信号的基本技术策略,同时对于MACD参数的选择,使用网格搜索计算最优参数。自2020年新冠疫情以来,我国股票市场受到了诸多影响,为了客观分析本文提出的混合交易策略对投资收益的提高效果,本文将实证研究分为两个时期:疫情前阶段和疫情后阶段,并使用国内三大指数,上证50、沪深300和中证500的每日交易数据进行回测。本文首先以上证50指数为例,比较三种机器学习方法的预测精度,根据预测结果选择随机森林方法作为最优股票价格预测方法,然后使用2018年和2020年的数据分别计算最优MACD参数,最后回测分析优化策略的盈利效果,并对沪深300和中证500也进行了策略回测。结果表明,在技术分析策略中加入机器学习趋势指标,可以改善交易信号,提高技术分析策略的竞争力。该策略在行情向好时可以抓住时机,大幅提高利润。在股市影响因素较多、波动较大时,该策略也可以有效避开价格震荡区域,减小风险。

关键词： 机器学习   可解释性方法   桩基可打入性   案例推荐   符号回归   小样本学习  

摘要： 随着我国海上资源的逐步开发,海上油气田的建设规模越来越大,对桩基础的要求也越来越高,超大直径、超长的桩基础被设计、安装以适应逐步增加的承载力需求,桩的可打入分析至关重要。然而,由于桩的内在复杂性以及各种设计变量,与桩的驱动性能相关的内应力状态仍不清楚。打桩数据(如土层数据、桩基设计数据、打桩记录、CPT数据、桩锤信息等)包含打桩机制的知识,传统的反分析是提取这种知识的一种方法。机器学习(ML)为解决上述问题提供了另一种可能性。机器学习通过应用计算机算法自动发现输入数据和输出数据之间的规律性,并使用这些规律进行分类、聚类或回归等实现预测。目前机器学习在打桩中的应用研究主要集中在桩基整体的预测,即一根桩对应一个或几个预测目标,对应打桩过程的预测还比较少。对海油平台超大超长钢管桩(桩长100m左右)采用机器学习分析桩基可打入性的研究还没有。此外,目前采用的机器学习算法缺乏必要的可解释性。因此,本文基于海油平台桩基数据库,考虑岩土工程实际应用,结合适当的机器学习算法建立机器学习模型,并对相应的模型进行解释。基于海油平台桩基数据库,本文主要进行了三部分的研究工作:(1)采用集成学习方法对海油平台超大超长钢管桩的打桩过程中的锤击数进行预测。并采用可解释的机器学习方法解释得到的集成学习模型。(2)采用符号回归技术,自动推导桩基锤击数和累积能量的数学表达式。(3)基于案例推理系统,开发打桩案例推荐算法。研究主要结论如下:(1)机器学习是一种有效并精确的工具,能有效地利用已有桩基数据库,为研究、设计和建造提供支持。集成学习能准确地预测桩基锤击数。(2)符号回归能有效地从桩基数据库中自动推导经验方程。本文采用符号回归方法建立了桩基锤击数和桩基累积能量的预测经验方程,能准确地预测锤击数和桩基初始打入阶段的锤击能量(3)本文基于桩基数据库开发的案例推荐系统在桩基打入的不同阶段,即打桩前和打桩后给出准确的案例推荐,帮助研究人员和工程师进一步优化桩基设计和建造。

关键词： 机器学习方法   NAFLD   CRT分类树   列线图   预测模型  

摘要： 目的:利用CRT分类树、列线图构建非酒精性脂肪性肝病(Nonalcoholic fatty liver disease,NAFLD)患病风险的预测模型并进行评价,旨在通过机器学习方法筛查罹患NAFLD的高危人群,为NAFLD疾病的预防、早期诊断提供依据。方法:收集2017年07月至10月期间桂林医学院附属医院体检部体检的10390例资料齐全的人群的一般资料包括姓名、性别、年龄、身高、体重、既往史、用药史、个人史,实验室指标包括甘油三脂(TG)、总胆固醇(TC)、低密度脂蛋白胆固醇(LDL-C)、高密度脂蛋白胆固醇(HDL-C)、空腹血浆葡萄糖糖(FPG)、丙氨酸氨基转移酶(ALT)、天门冬氨酸转氨酶(AST)、尿酸(UA)、肌酐(Cr)、尿素氮(BUN),并计算体重指数(BMI)、甘油三脂葡萄糖指数(Ty G)、肾小球滤过率(GRF)。随机抽取70%的人群(7273例)作为训练集,30%的人群(3117例)作为验证集进行内部验证,以有无脂肪肝分为病例组和对照组,分别构建CRT分类树模型、列线图模型。绘制受试者工作特征曲线(ROC)评价模型的鉴别能力,使用决策曲线分析(DCA)及临床影响曲线(CIC)评价模型的临床实用性,使用校准曲线评价模型的准确性。结果:1、在匹配性别、年龄后的人群中,与对照组(2148例)比较,病例组(2148例)的BMI、SBP、DBP、FPG、TG、TC、LDL-C、Ty G、ALT、AST、UA水平升高,而HDL-C水平降低,差异有统计学意义(P<0.05);2、训练集与验证集的年龄、FPG、TC、LDL-C、HDL-C、Ty G、BUN、Cr、UA、GRF差异无统计学意义(P>0.05);3、CRT分类树模型结果提示BMI、Ty G、ALT、FPG、年龄、UA与NAFLD的患病相关。列线图模型结果提示BMI、Ty G、ALT、LDL-C、FPG、年龄、UA、HDL-C与NAFLD的患病相关;4、(1)训练集的CRT分类树、列线图模型的ROC曲线下面积(AUC)值分别为0.857、0.881,验证集的CRT分类树、列线图模型的ROC曲线下面积(AUC)值分别为0.853、0.892,提示这两个预测模型具有良好的鉴别能力;(2)训练集CRT分类树模型DCA的Pt范围在0.06-0.82之间,列线图模型的Pt范围在0.08-0.85之间,提示这两个模型具有良好的净获益率;验证集CRT分类树模型DCA的Pt范围在0.06-0.85之间,列线图模型的Pt范围在0.08-0.9之间,与训练集无明显差别,验证了训练集的两个模型良好的临床实用性;(3)训练集的CRT分类树、列线图模型CIC中红色曲线与蓝色曲线重合时的预测概率均为0.85左右,验证集的CRT分类树、列线图模型CIC中红色曲线与蓝色曲线重合时的预测概率分别为0.78、0.8左右,提示这两个模型具有较高临床影响价值;(4)训练集的CRT分类树模型校准曲线的P值=0.590,列线图预测模型校准曲线的P值=0.348,两者P值均>0.05,与标准曲线的最大偏幅分别为0.003、0.087,表示预测模型的校准曲线与标准曲线无差异,验证集的P值均>0.05,最大偏幅与训练集无明显差别,提示这两个预测模型具有较高的准确性。结论:1、BMI、Ty G、FPG、LDL-C、HDL-C、年龄、ALT、UA与NAFLD的患病相关;2、应用CRT分类树、列线图这两种机器学习方法构建的NAFLD预测模型具有良好的临床效能,对NAFLD患病风险具有良好的预测能力及较高的预测价值。

关键词： 井震数据融合   机器学习   钻井提效  

摘要： 安全、高效的钻井作业离不开对目标地层的钻前认识。对于待钻地层,通常以附近已钻井的测井、录井等数据资料为支撑,运用地质统计法建立的地质模型进行表征。除测井、录井等数据外,地震数据中同样蕴含着丰富的地层信息,且覆盖范围广。然而地震资料存在分辨率较低、处理过程较为复杂、处理结果受人为主观因素影响较大等问题。为了充分挖掘地震数据所含信息,提升对待钻地层的认知,本文提出一种基于机器学习技术的井震数据融合方法,通过构建地震数据与测井数据的关系模型,实现对待钻地层未知点的描述,进而指导钻井设计。本文首先对地震资料与测井资料的数据特点以及机器学习算法的基本原理进行研究,分析得出机器学习方法对井震数据特征描述的适应性较强,且受人为因素影响较低,能够建立井震数据关系模型;再通过对井震数据的提取和优选,将5项地震属性作为输入特征,12项测井解释数据作为输出特征,分别构建了3种机器学习预测模型(BP神经网络、XGBoost、多层感知机),针对12项输出特征进行训练、测试以及结果对比;最后基于预测结果,指导钻井液的设计和钻头的选型,实现钻井提效。结果表明,基于机器学习方法建立的井震数据关系模型整体预测效果较好,其中多层感知机建立的预测模型输出结果拟合优度最高,9项参数拟合优度超过0.9,其余3项超过0.8。通过计算钻井液安全密度窗口,确定钻井液密度的合理范围,计算结果与工程实际相符;同时,根据储层孔隙度、泥质含量、脆性矿物含量等测井参数的预测值,为钻头的选型提供了一定参考依据。本文的研究内容对地质工程一体化的发展具有一定贡献意义。