关键词： CO2提高采收率   机器学习   最小混相压力   模型验证   细管实验  

摘要： 注CO驱油既可以封存CO又可以提高油气采收率,因此,该方法受到了业内学者的广泛关注与重视。而混相驱油和非混相驱油的驱油效率差距极大,所以,决定驱油过程能否混相的最小混相压力（MMP）参数就变得尤为关键。常规细管实验确定MMP虽然准确,但测试效率较低;现有经验公式大多精度不高,局限性较大。机器学习的方法由于其方便、快捷、准确的特性,是用于预测MMP的最优方法之一。但是目前基于机器学习方法的研究大多存在输入因素筛选不充分、模型验证不充分等问题。因此,为了证明并解决这些问题,本文基于147组MMP数据,从主控因素筛选、模型建立、模型验证和模型应用的角度进行了MMP预测模型的研究工作:（1）本文在主控因素筛选方面首先采用灰色关联、皮尔森相关系数、肯德尔相关系数、斯皮尔曼相关系数、方差特征法、单变量线性回归法和树筛选等方法进行主控因素的筛选和评价,证明目前研究中主控因素筛选方式存在缺陷。在正负相关性方面,T、X、MWC、F、F和F参数与MMP呈正相关变化关系,X、X和F参数与MMP呈负相关变化关系。相关性排序从大到小依次是,T、X、Xc～c、F、MWC、Xc、F、F和F。（2）基于支持向量机、神经网络、普通最小二乘、随机梯度下降、决策树、随机森林、贝叶斯、最近邻等八种常见的机器学习算法进行模型的建立工作。采用常规的预测精度验证法验证八个模型,均取得良好评价效果。分别采用学习曲线法和单因素控制变量分析法进行额外的验证工作。学习曲线验证法筛选出了决策树、随机森林、最近邻三个过拟合模型。单因素控制变量分析法又筛选出支持向量机、随机梯度下降两个额外的缺陷模型,证明目前的模型验证方法的不可靠,需要结合更多模型验证方法。（3）筛选出普通最小二乘、贝叶斯回归和神经网络三个最优化的预测模型,训练集和测试集数据的平均相对误差在5.4%左右。结合实际需求,对比细管实验测量结果,实际应用中相对误差小于4.1%,要优于其余模型。

关键词： 机器学习   分类   回归   LAMOST   APOGEE   恒星表面有效温度  

摘要： 机器学习是目前非常流行且高效的方法,具有分类和回归的功能。它们能够识别或近似出多维特征空间中的复杂非线性模型,为天文学中的一些复杂问题提供了新的解决方案。本文主要利用机器学习中主流算法研究恒星/星系/QSO分类、恒星光谱类型分类以及估算恒星表面温度。具体研究工作如下:本文利用6)近邻算法(6)NN)、决策树(DT)、随机森林(RF)和支持向量机(SVM)在LAMOST DR5上进行恒星/星系/QSO分类。选择u,g,r,i,z,J,H作为算法输入特征。结果表明,以上四个算法模型能够以～95%的准确度识别星源类型。筛选出恒星后,本文继续借助上述四个主流机器学习算法去识别恒星的光谱类型(G,K,M,F,A)。结果显示,四个算法模型的ROC(receiver operating characteristic)曲线下面积都接近1,这四个模型都能在一定程度上识别恒星光谱类型。RF和SVM的识别精度高于6)NN和DT的识别精度。随机森林能够以～73%的准确度识别恒星光谱类型。究其原因,G星和F星交叉错分严重,这两星的预测效果不如其他三星。本文使用随机森林去估算恒星表面有效温度。恒星主要来源于SDSS DR16的APOGEE和LAMOST DR6。此外,本文还对比分析了两种输入特征集的预测效果。当采用NUV-u、u-g、g-r、r-i、i-J、J-H、H-K、K-WISE＿4＿5作为算法输入特征时,随机森林在APOGEE恒星上的准确度高达94.91%,其估算的温度与标准给定的温度的标准偏差为93.89K;随机森林在LAMOST恒星上的准确度高达90.46%,其估算的温度与标准给定的温度的标准偏差为113.10K。当采用NUV-J、J-H、H-K、K-WISE＿4＿5作为算法输入特征时,随机森林在APOGEE恒星上的准确度高达94.37%,其估算的温度与标准给定的温度的标准偏差为96.59K;随机森林在LAMOST恒星上的准确度高达88.89%,其估算的温度与标准给定的温度的标准偏差为119.92K。与前者相比,精度不会降低太多且NUV、J、H、K、WISE＿4＿5均来自于全天观测,可以更广泛地应用于恒星有效温度的估算。而且,J-H是估算有效温度最重要的特征,其次是NUV-J。NUV是一个不可忽略的波段。

关键词： 心血管疾病   机器学习   逻辑回归模型   CatBoost模型   决策树模型  

摘要： 心血管疾病是一种致残率和死亡率极高的慢性疾病,近年来,对我国公共医疗卫生事业的发展造成了阻碍。现如今多数研究注重疾病的治疗,而忽略了疾病预防方面的工作。如果能进行较为有效的心血管疾病的预测,就可以在一定程度上保障居民的身体健康。随着大数据分析的快速发展,机器学习方法在处理复杂数据时可以得到较高的准确率,因此本文在机器学习的基础上进行心血管疾病的预测研究,从年龄、性别、收缩压、舒张压、身高、体重、是否吸烟、是否经常锻炼、是否饮酒、胆固醇、血糖这11种影响心血管疾病的因素入手,对是否得心血管疾病进行详尽的描述性统计分析,从而分析影响该疾病的最主要因素,通过建立模型对心血管疾病进行深入的统计分析,并对心血管疾病进行预测。本文运用的是逻辑回归模型、决策树模型以及一种新型的boosting算法―Cat Boost模型,最后对各个模型的准确率及预测效果进行评价,从而得出Cat Boost模型是最适合本文数据的模型。此分析结果对心血管疾病预测领域的研究有一定的参考性,也为其他疾病预测的完善与发展打下了一定的基础。

关键词： 分子动力学模拟   机器学习   固态电解质   单离子导电嵌段聚电解质  

摘要： 传统的锂离子电池以液态电解液系统为主,存在电解液泄露、燃烧和爆炸等隐患。固态聚合物电解质(SPE)能够提升锂离子电池的稳定性和力学性能,但电导率普遍较低,且传统聚合物基体/锂盐体系存在浓差极化的问题。单离子导体(SICs)聚电解质能够有效阻碍阴离子迁移,防止浓差极化的发生。作为SICs的一类,单离子导电嵌段聚电解质(SIC-BCPE)可以通过调节不同嵌段的物理和化学性质,对多个材料参数进行设计和优化,近年来受到了广泛的关注,有望成为一类综合性能优异的电解质材料。在本文工作中,我们结合分子动力学(MD)模拟与机器学习方法对SIC-BCPE体系的多设计参数调控问题进行了研究。具体而言,我们设计了一种基于真实化学体系的SIC-BCPE通用模型。该模型包含四种具有代表性的设计参数,在实验上可以通过多样的物理结构调整(侧链长度,离子分数)和化学修饰(阴离子直径,电负性基团电荷)来进行调控,覆盖了广泛的设计空间。我们首先通过直接的MD模拟初步探索了各设计参数对离子电导率的影响,发现处于不同配位环境的锂离子的比例与离子电导率的变化趋势密切相关。接下来,我们引入机器学习方法进一步探究了设计参数组合与离子电导率的综合关系。将设计参数作为输入特征,离子电导率作为标签值,我们通过高斯过程回归(GPR)模型进行电导率预测并获得了高电导率设计方向。在此基础上,基于GPR模型的贝叶斯优化算法能够在少于网格搜索的采样次数的前提下找到SICBCPE体系的最优设计参数组合。更多地,为了对比各机器学习模型在材料科学领域中高维特征小样本数据集的适配性,本文分别引入支持向量回归(SVR)模型与全连接神经网络(FCNN)模型,对数据集进行高维回归并分析了回归误差。整体结果显示GPR与SVR模型对数据集的匹配程度较好。SVR模型可以在不损失过多精度的前提下有更快的训练效率。FCNN模型在小样本数据集上的回归误差高于其它两种机器学习模型,更适合大数据驱动。本研究中报道的SIC-BCPE通用模型以及MD模拟结合机器学习的高效率研究方法,有望为设计更广泛的聚电解质体系提供有价值的见解。

关键词： 声波反障碍散射问题   门控循环单元网络   动力系统   Lyapunov稳定性   常微分方程门控单元网络  

摘要： 反散射问题是数学物理问题中一个重要的研究领域,这项问题的研究不但具有理论意义,而且在实际工程技术等领域也被广泛的应用,其应用已经覆盖到地理勘探、生物医学成像、无损探伤、雷达探测等众多科技领域.由于反散射问题具有不适定性,这使得常用数值方法在反演过程中具有一定难度,而神经网络的非线性特性,能够有效减少反散射问题中的不适定性所造成的影响,因此本文采用神经网络方法来求解声波反障碍散射问题.本文的主要研究内容是针对声波反障碍散射问题,构造相应的神经网络求解方法,并依据微分方程中Lyapunov稳定性理论,分析对应神经网络的稳定性。本文采用门控循环单元网络(GRU)的方法,构造远场数据和障碍物形状参数之间的映射关系,用以解决声波障碍物形状参数反演问题.该方法主要利用循环网络中的信息传递机制,将不同节点的数据链接成一个向量,以期望利用节点之间的关系进行预测.这里利用微分方程来解释GRU,并通过微分方程中Lyapunov稳定性理论,分析对应微分方程的稳定性,从而给出GRU稳定性的条件.数值实验结果说明了在不同观测点个数和入射点个数条件下,网络能够较好的反演出障碍物的形状和位置信息,同时可以发现随着观测点个数的增加反演出的障碍物曲线越来越接近真实障碍物曲线,并且远场数据在含有噪声的情况下,GRU方法仍然具有较好的反演效果,验证了该方法在解决反障碍散射问题上具有稳定性.基于GRU稳定性的分析方法,进一步构造了常微分方程循环单元网络(ODE-RU).该网络依托于具有稳定性的连续微分方程,通过向前Euler离散以及Lyapunov稳定性定理,得到同样具有稳定性的离散微分方程,这个离散方程可以表示为一种前向传递关系,这就是ODE-RU网络的基本框架.在此基础上加入门控机制,形成了一种基于微分方程的门控神经网络,这种门控结构能够控制ODE-RU网络中记忆单元的信息传递.数值实验说明在声波反障碍散射问题中,无论在单一入射点还是在多个入射点的情况下,ODE-RU均能够较好地反演出障碍物的边界,并且与其它两种不同的循环神经网络GRU、LSTM相比,ODE-RU的反演效果稳定且误差均低于上述两种循环神经网络.

关键词： 热电材料   机器学习   特征选择   特征组合   随机森林  

摘要： 热电材料是一种能够实现热能和电能直接相互转换的新型能源材料,具有安全、节能、环保等优点,有利于工业的发展并且对环境无污染,因此受到人们的广泛关注。然而传统的实验方法和计算方法对新型热电材料的预测成本高,耗时长。本文用机器学习方法筛选出了对热电性能贡献最大的4个关键特征,进一步通过模型分解和特征组合分析发现了关键特征与热电性能之间的联系。除此之外,我们提供了一种基于特征选择的机器学习方法,对超过13万种材料的热电性能进行高效、准确的预测。主要研究内容包括如下:1.采用机器学习方法筛选出对热电性能影响较大的特征。数据来源于UCSB开发的MRL(Materials Research Laboratory)数据库中。使用Magpie程序包根据材料的化学式计算出145个初始特征并提取出来。基于Extra Trees模型的信息熵评价对初始特征进行重要性排序,去除相关和冗余特征,筛选得到对热电性能贡献最大的4个关键特征。我们还进一步探究了筛选出的关键特征与热电性能之间的关系。首先我们探究了热电材料和非热电材料在每个特征中的分布规律,发现热电材料和非热电材料在每个特征中的分布规律不明显,存在较多重叠。其次我们探究了每个特征与热电性能的关系,通过分析发现每个特征与ZT值、电导率、导热系数、Seebeck系数均没有明显的规律及线性关系。最后我们尝试将特征进行组合,探究特征的组合效应与热电性能之间的关系。通过分析发现特征的组合效应是通过影响电导率或热导率间接影响热电性能的。该研究内容不仅为热电材料的进一步研究提供了重要的信息,也为热电材料的开发提供了一定的研究思路。2.基于特征选择的机器学习最优模型预测热电材料。通过对比随机森林(Random Forest),自适应增强(Ada Boost),支持向量机(SVM),梯度提升决策树(Gradient Boost)和K-最近邻(KNN)五种模型的准确率、确定系数以及在测试集的预测评估情况,发现Random Forest模型是五种模型中综合效果最好的模型。基于筛选出的对热电性能贡献最大的4个特性,我们选用Random Forest模型对热电材料进行预测和分析,将超过13万种材料的搜索空间减小到6476种材料的候选系统,其中概率高达95%以上的热电候选材料有138种。在预测出的138种热电材料中,含Ag材料占据较多,超过40种。因此我们进一步探究了Ag与热电性能之间的关系,发现了含Ag材料的空间结构、含Ag量及晶胞体积对热电性能的影响规律。本文所采用的方法不仅限于寻找新的热电材料,还可以应用于寻找其他功能材料。

关键词： 个人消费信用贷款   个人征信   违约风险   机器学习   可解释性   CatBoost  

摘要： 随着互联网金融业务的高速发展,资金需求方可以在线上申请个人消费信用贷款,目前国内个人消费市场发展繁荣,参与者众多,在这种模式下,融资效率大大提高,显著推动国内消费市场的发展,促进经济的良好运行。虽然个人消费信用贷款为机构带来了一定的发展机遇,但是个人消费信用贷款的发展还存在一定的挑战。纵观个人消费信用贷款的发展,信用评估一直是放贷环节的重点,但是随着社会的发展,传统个人信用评估体系的僵化,已经不能满足当前信息爆炸的社会环境,而互联网企业对相关信用评估的优先布局,为征信行业带来充满活力的进步。与此同时,对于个人信用贷款违约的相关评估,也带来新的发展方向。随着人工智能的发展,越来越多的复杂任务可以通过机器学习的方式得出准确的预测。将信用评估和机器学习结合起来,可以把更全面的特征纳入到信用评估的过程,提高判断准确性。本文参考了国内外相关领域的文献,对个人消费信用贷款的发展、违约因素和违约判断模型进行梳理,接下来对个人消费信用贷款违约因素进行了详细列举,最后就是将可解释机器模型运用于实证研究当中,并对行业的相关方提供建议。实证研究所采用的数据是通过Python获取了A借贷平台三年中的个人消费信用借款的全息数据,通过对数据的分析,提出机器学习的可解释性在个人信用评估上的运用。将可解释性加入到机器学习模型,降低了对于大量数据的处理难度和非专业人员对模型理解的门槛,通过机器学习技术的卓越性能,在保证准确性的同时,尽可能多的展示出模型预测的可解释性,避免了传统黑盒模型的信任问题。