关键词： 支持向量机   特征提取   股票预测   金融数据分类  

摘要： 随着信息科技的发展，金融数据处理问题已经不仅仅拘泥于传统的数理统计方法，而更多的与人工智能领域的信息处理方法相结合，并取得了一些有开拓意义的研究成果。特别是支持向量机理论的崛起，为金融数据问题提供了一种新的解决方法。本文的主要工作有以下三方面： 1.建立了一个基于核主成分分析与支持向量机的股票预测模型，选取了纳斯达克指数、标准普尔指数、伦敦金融时报100指数、法兰克福指数、东京日经225指数和香港恒生指数等10种全球股票市场的核心指数十年的数据作为原始数据，将数据进行时间序列处理后，利用支持向量回归机对指数进行预测，取得了良好的效果。对比实验中将特征提取方法PCA与KPCA进行对比，结果说明经过特征提取后的数据的预测准确率要高于不经过特征提取的数据;而KPCA在对股票数据进行重构和特征提取时，性能要优于PCA。 2.建立了一个基于核主成分分析和稀疏的最小二乘支持向量机的上市公司分类模型，并对2004家上市公司进行了分类及绩效评价。最小二乘支持向量机具有快速的特点，但是却缺少了稀疏性。本文中引入了稀疏的最小二乘支持向量机来弥补最小二乘支持向量机的缺点，这使得计算复杂度更低、准确率更高。与其他模型不同是，本文提出了一个多分类的模型，将上市公司分为四类，这与真实情况更为相符，同时实验结果也表明，该模型预测准确率最高可以达到82%。对比实验中，比较了不同特征提取方法对模型的影响，实验结果表明KPCA的性能最好。 3.在金融大数据的背景下，第一次将深度信任网络用于金融数据的分类。实验数据选取了2010年中国A股市场上的2004只股票作为样本，不经过特征选择和提取，直接使用深度信任网络对原始数据进行重建和分类。实验证明，深度学习方法在解决金融大数据问题时具有一定的作用。

关键词： 控制理论   非线性预测控制   机器学习方法   支持向量机   建模   仿真  

摘要： 针对化学工业中经常出现的纯延迟对象以及非最小相位对象,传统的控制方法如PID控制,LQ最优控制的控制效果都不够令人满意,在面对多变量系统也无能为力。预测控制算法的出现正好解决了这个难题,在面对操作变量和被控变量维数很高,需要满足物理约束,时滞系统等问题中,预测控制具有十分明显的优势。但是随着过程工业日益大型化、连续化,现代工业生产过程日益复杂,此时,线性预测控制方法就不能很好的完成控制任务,而非线性预测控制又存在在线计算量大的问题。本文主要针对非线性预测控制,利用支持向量机进行建模,提出了一种在每一个采样点进行局部线性化的方法,把在线计算最优解问题转化为求解一个二次规划问题,通过这样的方式减少了非线性预测控制在线计算量大的问题,并保证了控制的精确度和稳定性。 本文的研究工作主要为以下几方面： 1.预测控制和支持向量机的内容研究 本文对预测控制的基本原理、发展过程和主要特点进行了简明的介绍,同时详细的阐述了支持向量机的基础理论,包括支持向量机的基本原理以及针对分类和回归两种不同用途的介绍和对比。 2.基于SVM-Wiener模型的非线性预测控制研究 论文详细的阐述了SVM-Wiener模型的建模过程,包括动态线性部分和静态部分非线性部分的详细分析和研究。并给出了非线性预测控制器的设计流程,重点介绍和分析了非线性预测控制局部线性化的计算方法。 3.基于SVM的Hammerstein-Wiener模型非线性预测控制研究 论文简单介绍了Hammerstein-Wiener模型的结构特点,详细推导了基于SVM的Hammerstein-Wiener模型的建模过程。根据模型的结构和特点设计了非线性预测控制器。 4.基于连续搅拌釜式聚合反应器的仿真 在论文的最后,对文章介绍的非线性预测控制方法进行了基于连续搅拌釜式聚合反应器的仿真,并通过大量的数据分析和仿真图对比,证明了所提出方法的控制精确度、稳定性以及高效性。 本文中有各类结构图、仿真图、流程图等共29张,进行数据对比以及定义参数等表共8张,引用参考文献52篇。

关键词： 推理机   机器学习   决策树   冲突消解   决策树剪枝  

摘要： 决策树机器学习方法,是一种模拟人类学习行为的有效方法,其核心问题是如何在己知训练样本数据的基础上构建树的拓扑结构。由于机器学习问题是一个与问题域紧密相关的问题,所以不同的应用目标会引发出一些现有理论框架所不能解决,或不能很好解决的更具体更深入的话题。本工作即以汽车变速器故障诊断问题为背景,以ID3算法为基本模型,而展开的面向任务性质的机器学习方法研究工作。 论文工作首先讨论了一种以ID3算法为基础的机器学习算法模型,其本质是对一组离散的目标函数进行逼近。学习后得到的函数被表示为一棵决策树,采用自顶向下的方式贪婪搜索遍历可能的决策空间。以此为基础,针对汽车变速器故障诊断问题,构建了以信息熵为节点分裂准则,以节点数据量,信息熵贡献度,结构深度为分裂停止准则的机器学习算法。 在基本学习模型的基础上,论文工作进一步讨论了决策树的剪枝和冲突消解问题。给出了基于悲观错误修剪和最小错误修剪的决策树修剪准则设计,以及一种新的冲突消解策略设计。 以上述工作为基础,论文工作最后讨论了汽车变速器故障诊断推理机设计问题,包括特征提取、故障诊断知识库与规则库的建立,属性表、决策表的建立,决策树学习建模的问题。并对所建立的决策树模型进行了测试分析。

关键词： 电机   异音检测   支持向量机   一类学习   特征提取  

摘要： 现代工业生产以及家用电器都离不开各式各样的电机,人们在重视电机性能的同时也希望降低电机转动而产生的噪音。目前,工厂对异音电机识别是通过对产线工人进行培训,用人耳听音的方式实现对生产线上大批量小型电机的音质检测,而大量单调、重复听音劳动致使听觉疲劳影响主观判断,导致异音电机混入正常样本流入市场,对公司的经济和声誉会造成不可挽回的损失。因此,实现产线异音电机的自动化检测对电机产业的发展具有十分重要的意义。 本文针对电机声音信号的统计特性及其人工质检的特点,利用声传感器技术代替人耳实现对电机声音信号的采集,这种非接触式的测量方式正符合产线测试设备简单、高效等要求。在电机平稳运行情况下采集声信号,根据人耳听觉特性,从电机声音的平稳性来分析电机的频谱。因为人耳对相位不敏感,只需要对幅度谱来分析电机异音的特性,为了突出特征差异的绝对化,本文采用主成分分析法对电机的声信号进行数据压缩、维数来实现电机声信号提取特征。又考虑电机声信号中可能存在非平稳成分,将小波变换引入电机异音检测研究以更精确分析电机的时频特性,利用小波包分解获取电机声信号的各频段系数,根据奇异值分解的特征矢量对特征的贡献量进行降噪、重构并映射到特征矢量所张成的状态空间,实现对电机声信号的特征提取。同时,电机声信号进行小波包分解得到相互正交的频带,其能量没有损耗且蕴含着丰富的特征信息,将电机的特征映射到能量分布的子空间中,并以归一化能量构建特征矩阵实现对异音电机的特征提取。文中根据上述方法分别实现对电机声信号进行特征提取送入分类器进行训练,取得了良好的效果。 考虑到产线上异音样本量少、获取困难,个体差异造成异音等问题难以分析,且电机异音形成过程异常复杂,应用支持向量机一类学习这种新的机器学习方法实现对异音电机检测。该方法以正常电机样本为基础建立的质检判别函数,并不需要异音样本,避免了其它分类算法要求训练样本类别全面和覆盖广泛的条件。文章最后通过大量正常电机样本训练并以异音电机样本进行验证,得出对异音电机的识别率能满足工厂的需求,达到了预期目标。

关键词： 生物信息学   图形表示   k字   机器学习   数值刻画   系统发生分析   聚合酶链式反应   亚细胞定位  

摘要： 当人类基因组计划（Human Genome Project, HGP）呈上之际，人类开始进入了后基因组时代。在这一时代里，生物序列数据成指数增长，如何把有价值的生物信息从海量的生物序列数据中挖掘出来，已成为迫切需要解决的问题。本文研究机器学习方法在生物信息学若干问题中的应用，主要内容如下： 第二章，我们提出一类新的DNA序列3-D图形表示并且证明它具有两种性质：（1）这是一个非退化图形;（2）每一个DNA序列与其对应图形成一一对应关系。基于这个图形表示，我们将DNA序列转化为12维特征向量，它的分量为相应L/L矩阵的ALE指标。对3个数据集构建了系统发生树，结果证明了我们方法的有效性。 第三章，借助特征序列，我们提出了DNA序列的32k维完全字向量表示。然后基于粗糙集理论提出一种特征选择方法来提取包含信息最丰富的k字并用这些选择的特征来表示DNA序列。为了评价我们的方法的性能，对5个数据集进行了系统发生分析实验。其中第1个数据集用作训练集，从32116144个k字中按重要程度，共有869个字被选择出来构成最终的特征向量。另外的4个数据集作为测试集。结果表明，我们所提出的方法能抓住最重要的信息并且对于分子系统发生分析是非常有效的。 第四章，借鉴第三章的工作，我们从DNA模板出发，结合k字频率之间的关系和k字频率本身，构造了模板DNA序列的24维特征向量，并以支持向量机为分类器，利用夹克刀检验，对模板DNA序列进行PCR扩增难易预测。我们的准确度达到了92.59%。 第五章，借鉴第三章和第四章中的频率位置信息与频率本身相结合的思想，并结合氨基酸的分类模型、理化性质和替换矩阵构造了蛋白质序列的特征向量，以最近邻方法作为分类器，利用ZW225和CL317数据集对我们的方法进行了检验，所得结果同其它亚细胞定位预测方法做了比较。结果证明了我们的方法是非常有效的。

关键词： 蛋白质结构类预测   特征提取   遗传算法   机器学习   多分类器融合算法   MaAda融合算法  

摘要： 随着人类基因组计划的完成以及生物测序技术的发展，大量的蛋白质序列信息数据不断涌现出来。然而人们对蛋白质高级结构和功能的认识还不够，远远落后于对蛋白质序列的认识。同时通过传统的生物实验方法已经无法满足海量数据的处理需求，因此非常有必要探讨借助计算机的快速计算能力，来进行蛋白质结构和功能的理论研究，这也是摆在生命信息科学工作者面前的极具挑战的任务。 蛋白质作为生命活动的主要表现者和承担者，通过研究其结构和功能的相互作用来揭秘生命的内在奥秘，是新世纪生物信息学研究的核心内容。而蛋白质结构类是人类研究蛋白质结构和功能的关键，所以本论文的主要内容是围绕着蛋白质结构类预测这个问题。主要从以下三个方面进行展开，蛋白质序列特征信息的提取及组合、蛋白质序列多特征信息的特征挑选以及基于机器学习的蛋白质结构类预测。为了进一步提高蛋白质结构类的预测精度，本研究主要从以下三个方面进行了尝试，现将本研究的主要工作及其创新之处总结如下： 1)蛋白质序列特征信息的提取及组合 特征信息的提取的好坏直接影响蛋白质结构类预测精度，为了更加全面的描述一条给定的蛋白质序列，本文提出了一套能够全面反映蛋白质序列的特征信息。具体包括以k-字统计频率和k-片段位置分布两种特征提取方法分别提取了蛋白质一级序列、蛋白质物理化学性质序列以及蛋白质二级序列的频率和位置信息。并将这些不同性质的特征信息进行融合，有效的克服了特征信息单一的缺点，为提高蛋白质结构类的预测精度打下了坚实的基础。 2)蛋白质序列多特征信息的特征挑选 虽然融合越多的不同性质的特征信息能够更加全面的描述蛋白质序列，但是实际情况是并不是特征维数越多，分类的精度就会越高。相反，由于高维的特征信息中包含的噪声和冗余性也越多，增加了分类模型的计算量和复杂度，反而不利于提分类器的分类精度和其推广能力。所以，本文采用基于遗传算法的特征信息选择算法，并将其应用于蛋白质序列的特征信息挑选。遗传算法的主要思想是“优胜劣汰，适者生存”，那些适应度差的特征随着迭代次数的增加就会被逐步丢弃，而那些适应度好的特征则会被保留下来，继续繁衍后代，经过遗传算法选择后的特征信息集中既保留了原特征信息集中的绝大部分信息，又降低了特征信息集的维数，有利于分类模型性能的改善。 3)基于机器学习的蛋白质结构类预测 在蛋白质结构类的预测研究中，机器学习算法是一个非常重要的环节，直接关系到结构类预测的成败。在本研究中，首先主要介绍了常见的三种单分类算法，分别为人工神经网络、贝叶斯算法以及支持向量机。但传统的单分类器算法存在着一些不足，在所有的单分类器算法中，没有任何一种分类算法能够对任意给定的的样本特征都具备很好的区分能力。紧接着介绍了四种常见的多分类器融合算法，分别为多数投票法、贝叶斯规则、平均值法和加权平均值法。但是常见的多分类器融合算法的单个分类器之间的决策结果是相互独立的，并没有通过单分类器之间的充分协商，造成了一些决策信息的丢失。鉴于此，本研究提出了一种新的多分类器融合算法—Mada算法。实验结果也表明，Mada多分类器融合算法能够较大程度的提高蛋白质结构类的预测精度。 综上所述，本研究从生物信息学的角度出发，较为系统地解决了蛋白质序列信息提取及多特征信息融合、蛋白质序列多特征信息的特征挑选和蛋白质结构类预测等信息处理问题。这些研究成果有助于促进蛋白质的结构及功能的更进一步研究，同时也对蛋白质序列分析、机器学习领域的发展有很大的帮助。

关键词： Video-oculography   Nystagmus   Machine learning   Eye movement   Classification  

摘要： Nystagmus recordings frequently include eye blinks, noise, or other corrupted segments that, with the exception of noise, cannot be dampened by filtering. We measured the spontaneous nystagmus of 107 otoneurological patients to form a training set for machine learning-based classifiers to assess and separate valid nystagmus beats from artefacts. Video-oculography was used to record three-dimensional nystagmus signals. Firstly, a procedure was implemented to accept or reject nystagmus beats according to the limits for nystagmus variables. Secondly, an expert perused all nystagmus beats manually. Thirdly, both the machine and the manual results were united to form the third variation of the training set for the machine learning-based classification. This improved accuracy results in classification; high accuracy values of up to 89% were obtained.

关键词： 生物学   信息   支持向量机  

摘要： 生物学的新发现将极大地依赖于我们在多个维度和不同尺度下对多样化的数据进行组合和关联的分析能力,而不再仅依赖对传统领域的继续关注。在生物信息的存储、获取、联网、处理、浏览以及可视化等方面,都对理论、算法和软件的发展提出了迫切的需要,计算机科学也从生命系统中获得启示,产生了许多新概念,包括:决策树、随机森林、支持向量机、人工神经网络等等。这样的学科交叉丰富了各个相关领域,这将在未来的几十年中得到进一步发展。

关键词： Visualization   Machine-learning   Similarity   Fingerprints   DOPAMINE D3 RECEPTOR   LIGANDS   DESIGN   MODELS  

摘要： Fingerprint similarity is a common method for comparing chemical structures. Similarity is an appealing approach because, with many fingerprint types, it provides intuitive results: a chemist looking at two molecules can understand why they have been determined to be similar. This transparency is partially lost with the fuzzier similarity methods that are often used for scaffold hopping and tends to vanish completely when molecular fingerprints are used as inputs to machine-learning (ML) models. Here we present similarity maps, a straightforward and general strategy to visualize the atomic contributions to the similarity between two molecules or the predicted probability of a ML model. We show the application of similarity maps to a set of dopamine D3 receptor ligands using atom-pair and circular fingerprints as well as two popular ML methods: random forests and naive Bayes. An open-source implementation of the method is provided.

关键词： 应用程序   申请文件   数量特征   专利权   日本   信息   书目   机器学习方法  

摘要： This study examined Japanese patents in terms of the quantitative characteristics of application documents that resulted in the acquisition of rights in order to clarify the relationship between the features and patentability of applications. The groups of approved applications and those that had not been approved were compared for 12 variables: publication time lag; numbers of inventors, classifications, pages, figures, tables, claims, priority claims, countries for priority claims, cited patents, and cited non‐patent documents; and median of citation age. Furthermore, the authors carried out the experiments in which patent applications were automatically classified into two groups by the machine learning method, random forests. As a result, statistically significant differences between the two groups were observed for the following variables (p < .001): the numbers of inventors, pages, figures, claims, priority claims, and countries for priority claims were significantly larger in the group of approved applications, while the time lag until publication was smaller. In particular, the publication time lag and the numbers of inventors, pages, and figures were variables representing the features that largely contribute to discriminating approved applications in the classification using random forests, which implies that these have relatively strong relationships with patentability.