关键词： FEEDFORWARD NETWORKS   APPROXIMATION  

摘要： In practical engineerings, structures are often excited by different kinds of loads at the same time. How to effectively analyze and simulate this kind of dynamic environment of structure, named combined dynamic environment, is one of the key issues. In this paper, a novel prediction method of combined dynamic environment is proposed from the perspective of data analysis. First, the existence of dynamic similarity between vibration responses of the same structure under different boundary conditions is theoretically proven. It is further proven that this similarity can be established by a multiple-input multiple-output regression model. Second, two machine learning algorithms, multiple-dimensional support vector machine and extreme learning machine, are introduced to establish this model. To test the effectiveness of this method, shock and stochastic white noise excitations are acted on a cylindrical shell with two clamps to simulate different dynamic environments. The prediction errors on various measuring points are all less than +/- 3 dB, which shows that the proposed method can predict the structural vibration response under one boundary condition by means of the response under another condition in terms of precision and numerical stability.

关键词： TUMOR CLASSIFICATION   MICROARRAY  

摘要： Multiclass prediction remains an obstacle for high-throughput data analysis such as microarray gene expression profiles. Despite recent advancements in machine learning and bioinformatics, most classification tools were limited to the applications of binary responses. Our aim was to apply partial least square (PLS) regression for breast cancer intrinsic taxonomy, of which five distinct molecular subtypes were identified. The PAM50 signature genes were used as predictive variables in PLS analysis, and the latent gene component scores were used in binary logistic regression for each molecular subtype. The 139 prototypical arrays for PAM50 development were used as training dataset, and three independent microarray studies with Han Chinese origin were used for independent validation (n = 535). The agreement between PAM50 centroid-based single sample prediction (SSP) and PLS-regression was excellent (weighted Kappa: 0.988) within the training samples, but deteriorated substantially in independent samples, which could attribute to much more unclassified samples by PLS-regression. If these unclassified samples were removed, the agreement between PAM50 SSP and PLS-regression improved enormously (weighted Kappa: 0.829 as opposed to 0.541 when unclassified samples were analyzed). Our study ascertained the feasibility of PLS-regression in multi-class prediction, and distinct clinical presentations and prognostic discrepancies were observed across breast cancer molecular subtypes.

关键词： ARTIFICIAL NEURAL-NETWORK   RANDOM FORESTS   ASSOCIATION   DISEASE  

摘要： Recently, the greatest statistical computational challenge in genetic epidemiology is to identify and characterize the genes that interact with other genes and environment factors that bring the effect on complex multifactorial disease. These gene-gene interactions are also denoted as epitasis in which this phenomenon cannot be solved by traditional statistical method due to the high dimensionality of the data and the occurrence of multiple polymorphism. Hence, there are several machine learning methods to solve such problems by identifying such susceptibility gene which are neural networks (NNs), support vector machine (SVM), and random forests (RFs) in such common and multifactorial disease. This paper gives an overview on machine learning methods, describing the methodology of each machine learning methods and its application in detecting gene-gene and gene-environment interactions. Lastly, this paper discussed each machine learning method and presents the strengths and weaknesses of each machine learning method in detecting gene-gene interactions in complex human disease.

关键词： 医学图像处理   机器学习   病理学穿刺样本   计算机断层扫描   直推式学习   代价敏感学习   多模态数据   稀疏表示分类器  

摘要： 医疗成像设备的发展和普及,大大促进了医学图像处理研究。作为医学图像处理的重要方法,机器学习技术扮演着重要的角色,已经成为最常使用的处理方法之一。本文围绕医学图像处理的两个应用：“肺癌病理细胞图像识别”和“前列腺CT图像分割”,针对其中存在的现实问题,尝试使用机器学习技术来解决。在本文中,我们提出了以下创新技术：(1)一种直推式代价敏感分类器mCLRLS (Multi-class Cost-sensitive Lapla-cian Regularized Least Squares)。为了解决肺癌图像分类错误诊断严重性不一致的问题：将正常图像错分为癌症图像意味着需要医生重新确诊,而癌症图像错分为正常图像意味着病人很有可能失去最佳治疗机会,引入了代价敏感学习中不同类别的错分代价不同的假设;与此同时为了减轻病理学家花费在标记大量病理学切片上的工作负担,引入了直推式学习中的拉普拉斯正则化项,假设未标记图像和已标记图像满足流形假设;在此基础上提出了新的直推式代价敏感学习分类器：mCLRLSo在真实肺癌病理图像数据集上有效地解决了所提出的问题。(2)一种多模态稀疏表示分类器mSRC (Multi-modal Sparse Representation-based Classification)。为了进一步提高癌症类型分类性能,研究了多模态信息对于不同癌症类型分类的作用,并在此基础上提出了一种多模态稀疏表示分类器(mSRC)。通过引入了多视图学习问题中的大差异性原则,采用遗传算法来指导多模态字典学习,保证单个模态的判别性和多个模态之间的差异性;最后通过层次融合策略来预测未知图像的类标。实验验证合理利用多模态之间的判别性和差异性信息将会有效地提高分类性能。(3)一种基于直推式学习的特征选择方法tLasso (Transductive Lasso)以及一种基于流形正则化的加权回归算法wLapRLS (Weighted Laplacian Regularized Least Squares)。传统的基于机器学习的前列腺图像分割方法分割结果受到病人前列腺移动幅度大小的影响,针对这一问题提出了一种交互式的前列腺图像分割方法,目的是花费少量医生的手动标注时间来提高分割效果。引入了直推式学习理论,在此基础上提出了病人特定信息的感兴趣区域提取方法IPRE (Iterative Propagation-based ROI Extraction),提出了基于直推式学习的特征选择方法tLasso,以及提出了基于流形正则化的加权回归算法wLapRLSo在真实CT前列腺图像集上进行验证,并取得了令人满意的分割效果。(4)一种基于直推式空间约束特征选择方法SCOTO (Spatial-COnstrained Transductive LassO)。为了解决基于机器学习的分割方法中,CT图像不同区域形态变化较大的问题,提出了基于直推式空间约束特征选择算法SCOTOo SCOTO能够针对不同局部区域选择不同的特征,同时保持相邻区域特征的平滑性,并在此基础上设计了一种可行的基于投影梯度下降的优化方法来求解该问题。实验效果在真实CT图像集上得到了有效的验证。

关键词： 介词短语   依存句法分析   机器学习方法   介词短语边界  

摘要： 句法分析是自然语言处理研究过程中的重要技术之一。近几年依存句法分析的研究也越来越被关注。但相对于英文的依存句法分析研究成果而言汉语的依存句法分析还处于初级阶段。为此本文以现有的汉语依存句法分析研究成果为指导，采用基于决策式句法分析模型和基于分类器的训练算法相结合的依存句法分析方法，结合汉语固有的语法特点，针对汉语句子中含有介词短语的句法分析问题进行了研究和探索。 介词短语是一种复杂的短语结构，在汉语句子中占有很大的比例，汉语介词短语的研究主要是解决边界问题，正确识别介词短语对于汉语句子的依存关系分析具有重要的意义。本文首先对一些常见的依存句法分析方法进行了讲述，其中详细研究了Arc-eager算法和RPP算法,然后针对Arc-eager算法和RPP算法在分析过程中出现的错误问题，本文对RPP算法的介词短语边界识别策略做了相关的改进。由于Arc-eager算法只能处理邻近词之间的依存关系，所以Arc-eager算法在处理长距离右依存时会出现错误，RPP算法虽然对Arc-eager算法做了相关的改进，但是RPP算法在处理含有动词的介词短语时往往会出现错误分析的问题。为此，本文在对汉语句子进行依存关系分析时，根据汉语介词短语的固有特点，借鉴RPP算法的右边界后续词特征对介词短语进行边界识别，同时对RPP算法进行了一定的改进。经过改进后的介词短语依存关系分析算法，不但可以解决介词短语长距离分析时出现的过早依存问题，而且还可以处理含有动词的介词短语边界识别问题。 通过采用哈工大的依存关系语料库作为实验数据和基于支持向量机的句法分析器作为实验工具对本文提出的汉语句法分析策略进行了全面的测试和评估。实验结果表明本文提出的策略对汉语句子中含有介词短语的句法分析是有效的，而且显著的提高了分析的准确率。

关键词： 网络流量预测   支持向量回归机   全局人工鱼群算法   ARMA   组合预测模型  

摘要： 随着互联网的迅速发展，互联网应用不断推陈出新，网络系统日益复杂。为了更好的控制网络行为、配置网络资源，应对网络攻击，也为了设计出更合理的互联网系统，就需要对复杂的网络行为进行分析和预测。网络流量的建模与预测对于监测网络行为、保证网络安全有着非常重要的意义。当前的研究表明，网络流量序列呈现出复杂的特性，如自相似性、长相关性、多重分形性等，且传统的网络流量预测方法和模型已经难以刻画日益复杂多变的互联网行为了。 论文对网络流量的复杂特性进行了简单的介绍，并从线性模型、非线性模型、组合模型三个角度分析了传统的网络流量预测模型的特点，对比了这些模型的优缺点。机器学习方法中的支持向量回归机算法是进行网络流量预测的重要智能方法，论文先对机器学习和支持向量回归机预测方法进行了简单的介绍，然后提出了两种基于它的改进模型。 针对支持向量回归机预测模型的参数选择方法上的不足，将一种新颖高效的智能搜索算法-全局人工鱼群算法运用于支持向量回归机的参数择优过程中，选择出使支持向量回归机的预测效果最好的一组参数，建立预测模型，并将这种模型运用于网络流量预测当中。仿真实验表明，这种预测模型与其它两类通过优化支持向量回归机的参数择优过程的改进模型相比，预测精度高，且稳定性强。 针对网络流量序列既具有短相关性，又具有长相关性的特点，先使用小波将原始序列解成两个子序列，使用在短相关领域表现良好的ARMA模型对原始序列的短相关的部分进行建模和预测，再使用在长相关领域表现良好的SVR模型对原始序列的长相关部分进行建模和预测，然后将两部分的预测结果融合，得到最终的预测结果，并将这种模型运用于网络流量预测当中。仿真实验表明，这种组合模型与单独的两个预测模型相比，预测效果好。

关键词： 养殖布局   支持向量机   水动力模型   桑沟湾   多输出支持向量机  

摘要： 海洋生物种类繁多，为人们提供了大量的化学能源、矿物能源、食用药用能源以及空间资源，因此，研究海洋经济是人们可持续发展的必要之路。海洋生物在海域中的养殖密度及分布布局都会对海水的潮汐潮流造成一定的影响，因此，因地制宜地进行增养殖是获得良好经济效益的前提，研究最优养殖布局对人们有着非常重要的作用。 作为统计学习理论基础上一种新的机器学习方法，支持向量机较好地解决了小样本、非线性、过学习、高维数等实际问题，在预测、分类及回归方面都有很好地应用。而由于海洋中的观测数据量相对少，影响因素较多，物理过程复杂等特点，很多数据都难以提取及准确的使用。基于此，本文使用将支持向量机和水动力相结合的方法解决海洋养殖布局问题。 针对桑沟湾特定养殖海区，在目前只有较少的观测数据的情况下，本文研究如何充分利用观测资料给出的数据，并结合水动力数值模式，使用统计学习方法，从有限数据中深入挖掘出有用的信息。在水动力模型中加入养殖筏架对整个流场产生的阻力，研究其对流场产生的影响，然后优化改进的模式，进而使用支持向量机求解整个湾内流速的变化。 此外，在求解过程中，根据海湾的固有特点，目标值的不固定性、多样性，本文又提出了将多输出支持向量机与水动力模式相结合的方法求解湾内流速的变化情况，经过实验的多次验证，使用多输出支持向量机不但节省了运算时间，并且得到的结果也比较准确，为海洋学的研究提供了大量的数据资料，对科学反映桑沟湾高密度养殖区的真实环境提供可能，为优化养殖布局、改善养殖环境提供科学的依据。

关键词： 多序列比对   DNA微阵列数据   隐马尔可夫模型   聚类算法   生物信息学   转录因子结合位点   集成学习   共变模型   随机上下文无关文法   非编码RNA   序列-结构比对   最大边权团   最小割  

摘要： 生物信息学是一个新兴的跨学科研究领域,通过采用计算方法来解决分子生物学问题,最终目的是能够发现隐藏于海量生物数据中的生物模式和信息,并应用这些信息来提高对一些重要的生物运行机制的理解。生物序列分析则是生物信息学领域重要的基础性研究工作。近年来,随着生物学实验数据的爆炸式增长,机器学习方法在生物序列分析和重要信息的提取中发挥着越来越重要的作用。机器学习通过建立适当的统计模型,可以捕捉隐藏于大量实验数据中的复杂模式并基于它们做出决策。因此,机器学习方法特别适用于类似生物信息学的拥有大量数据但相应理论很不完善的领域。 本文围绕机器学习方法在生物序列分析中的应用展开研究,主要做了以下工作： 1、求解多序列的最优比对是一个NP问题,目前已有大量的方法和程序被开发出来用于蛋白质多序列比对。但是,这些方法大多数都是使用优化得分函数的方法获得最佳或接近最佳的比对,因此只能产生一个单一的比对结果。最近的研究工作发现,通过最优化得分函数的方法取得的最佳序列比对结果,往往并不是最具有生物学意义的比对。因此,本文提出一种基于集成学习的多蛋白质序列比对方法,将隐马尔可夫模型作为集成学习中的基分类器,在对训练集中的序列进行排序后依次与隐马尔可夫模型进行比对,根据比对结果优化模型参数,最后生成一组分数较高的比对结果。在构建集成学习系统时,提出并证明了一种双序列比对方法,可以精确计算出两个给定蛋白质序列的具有领先分数的若干个比对结果,其计算的时间复杂度为二次函数。此外,针对蛋白质二级结构信息对序列比对结果的影响,在之前模型的基础上进行改进,通过一个匹配矩阵实现蛋白质二级结构的匹配分数计算,并初步分析和探讨了引入二级结构信息对不同测试组的比对精度影响。 2、针对目前基于共变模型的非编码RNA序列搜索软件计算效率低的缺点,对传统共变模型进行了改进。首先,对非编码RNA家族的成员序列与该家族的共变模型比对的结果进行了分析,结果表明在共变模型的任何状态,最优比对的子序列长度大多与一致结构的长度相差不多。据此,将RNA家族的二级结构分成若干个基本的结构单元,其中每一个结构单元代表二级结构中的一个茎或环,并为每个结构单元增加了长度限制。设计了一种结构单元的长度限制计算方法,在计算出上、下限的同时,给出相应的置信度。并根据各个结构单元的长度分布对家族中的序列在进化过程中出现插入和删除的次数进行了限定,从而显著降低了序列结构比对的计算时间。 3、转录因子结合位点在基因调控中起着非常重要的作用,准确预测它们在启动子区域的位置可以有助于理解特定基因的表达水平的调节。针对转录因子结合位点的识别,已经开发出了很多的计算方法和工具,但其预测的准确度并不理想。本文提出了一种基于图论的转录因子结合位点的预测方法。通过一个无向有权图来模拟同源基因的启动子区域内的所有子序列和它们之间的关系,从而把问题转化为图的最优化问题。同时,为了提高寻找问题的最佳解决方案的速度,提出了一种预处理技术,可以显著降低图的大小。最后,设计了一种枚举算法搜索图模型中的最大边权团,最大边权团对应的子序列即为预测的转录因子结合位点。 4、传统的聚类方法在用于DNA微阵列数据分析时,多数只能生成一种聚类结果,无法识别出与多组不同的基因表达模式相类似的基因。针对该问题,提出一种基于图形模型和图割算法的DNA微阵列数据聚类方法,将样本空间的整个数据集表示为一个有权图,然后迭代地求解图的最小割权值和第二小割权值,根据图割,将图分割为子图。此外,在数学上证明了图的第二最小割可以在多项式时间内算出。对高连通图的定义进行引申后,用于无向有权图中,并将高连通图的判据作为图分割的终止判据。

关键词： 前列腺   机器学习   深度神经网络   空间金字塔  

摘要： 前列腺癌是男性生殖系统最常见的恶性肿瘤，被视为危害中老年男性健康的主要原因之一，只有早发现、早治疗，才不会错过治疗的最佳时机。前列腺病理切片图像自动分析的核心算法，已成为国内外学者的研究热点。因此，研究前列腺病理切片的自动分类算法，对开发前列腺计算机辅助诊断系统，辅助医生诊断，有很大的帮助。 为提高医生工作效率和防止前列腺病理图像人为标记失误，本文提出了一种基于深度学习的前列腺病理图像组织来源的判断算法。该算法首先对前列腺病理图像按图像块进行随机采样，并通过白化等预处理后，用深度学习算法对这些采样图像块进行无监督的学习，然后将学习到的特征作为Softmax回归分类器的输入，对随机采样的图像块分类,最后利用ROC(Receiver Operating Characteristic)曲线，选取合适的阈值，对整幅图像进行分类，实现对前列腺病理图像组织来源的判断。 在前列腺癌病理图像识别方面，癌变前列腺病理图像空间整体结构相比正常前列腺病理图像有以下差异：前列腺间质结构紊乱，方向不规则;腺腔区域变小，甚至无腺腔;细胞核散乱分布。本文利用基于空间金字塔匹配(Spatial Pyramid Matching,SPM)的词袋模型(BagofWords,BoW)方法，对前列腺病理图像空间整体信息进行描述，最后用SVM分类器进行分类。 实验结果表明，本文提出的前列腺病理切片图像分析方法是可行的，具有较好的鲁棒性。

关键词： 机器学习方法   朴素贝叶斯分类器   特征构建  

摘要： piRNA的识别是目前生物信息学领域研究的热点问题之一。piRNA，又称Piwi-interacting RNA是一类重要的非编码小RNA，其长度大约是25到32个核苷酸，可以和Piwi蛋白结合形成piRNA复合物，并且与RNA沉默作有关。目前对于非编码RNA的研究工作主要分为两个方面，一是大规模非编码RNA的鉴定，主要借助于计算机，从已有的非编码RNA中提取特征信息，然后将特征信息进行全基因组尺度的识别;二是采用基因组学和实验方法研究非编码RNA的功能。本文以人类、小鼠、大鼠、果蝇等模式生物作为研究对象，通过搜集现有经实验验证的piRNA序列构建训练集合，分别构建了基于核苷酸组分和物理化学性质分类的多种特征表示模型，并采用朴素贝叶斯分类器结合5轮交叉检验的方法进行预测。最后对各种模型的预测结果进行了比较。结果表明k-mer频率结合核苷酸分类的特征组合模型得到了较好的预测性能，总准确度达到82%多，高于k-mer频率等的特征模型。 本文的主要内容安排如下： 第一章简述生物信息学的主要研究内容及本文的主要工作;第二章概述非编码RNA的分类预测问题的背景和研究现状;第三章介绍常见的特征构建和机器学习方法，包括k-mer法、核苷酸分类的特征表示方法、K-2阶马尔科夫模型等;第四章介绍本文的主要工作——基于朴素贝叶斯的piRNA的识别问题研究;第五章总结及未来展望。