关键词： 机器学习方法   神经网络方法   环境科学   计算机智能   人工智能   年代   信息  

摘要： 机器学习是计算机智能（也叫人工智能）的一个主要的子领域。它的主要目标就是利用计算的方法从数据中提取信息。神经网络方法，一般被认为是机器学习研究中的第一次突破，它自上世纪80年代以来开始流行，而核方法是在上世纪90年代后半期作为机器学习研究的第二波高潮而到来的。本书对于机器学习方法和它在环境科学中的应用给出了统一的处理。

关键词： 软件故障定位度量   语句执行次数   机器学习方法   多变量预测模型  

摘要： 为定位具有故障的语句，人们在测试用例执行信息的基础上开发了多种语句级的可疑度度量，并用它们来对语句的可疑度进行排序，帮助程序员更快的找出存在故障的语句。其中的一些度量方法如SAFL[1]能在一定程度上减少冗余测试用例的影响，大大改进语句级可疑度度量的精确度。\n 然而先前的研究工作都没有将语句执行次数作为影响因子加入分析过程；且研究者的工作都集中在对单个可疑度度量的性能分析上，而没有考虑这些度量联合使用时的效果。本文针对这两个问题，提出了两种新的分别针对单个度量和多个度量联合的故障定位方法：（1）将语句执行次数作为一个重要影响因子加入测试用例的矩阵执行模型，同时结合SAFL的去冗思想，得出一种新的语句级故障定位度量；（2）利用机器学习方法建立多变量的预测模型，在此基础上对语句的可疑度进行排序。\n 本文首先对六种语句级故障定位方法的结果进行了比较，在此基础上进行了基于语句执行次数的故障定位实验和基于机器学习方法的实验。初步的实验结果表明，两种新的方法均能够提高语句的故障定位性能，其中多变量预测模型将有更深远的启发研究意义。

关键词： SMALL-MOLECULE INHIBITORS   DRUG DISCOVERY   IN-SILICO   ORGANIC-MOLECULES   INFRARED-SPECTRA   ANTAGONISTS   PREDICTION   MDM2   STRATEGIES   INTERFACES  

摘要： Protein-protein interactions (PPIs) may represent one of the next major classes of therapeutic targets. So far, only a minute fraction of the estimated 650,000 PPIs that comprise the human interactome are known with a tiny number of complexes being drugged. Such intricate biological systems cannot be cost-efficiently tackled using conventional high-throughput screening methods. Rather, time has come for designing new strategies that will maximize the chance for hit identification through a rationalization of the PPI inhibitor chemical space and the design of PPI-focused compound libraries (global or target-specific). Here, we train machine-learning-based models, mainly decision trees, using a dataset of known PPI inhibitors and of regular drugs in order to determine a global physico-chemical profile for putative PPI inhibitors. This statistical analysis unravels two important molecular descriptors for PPI inhibitors characterizing specific molecular shapes and the presence of a privileged number of aromatic bonds. The best model has been transposed into a computer program, PPI-HitProfiler, that can output from any drug-like compound collection a focused chemical library enriched in putative PPI inhibitors. Our PPI inhibitor profiler is challenged on the experimental screening results of 11 different PPIs among which the p53/MDM2 interaction screened within our own CDithem platform, that in addition to the validation of our concept led to the identification of 4 novel p53/MDM2 inhibitors. Collectively, our tool shows a robust behavior on the 11 experimental datasets by correctly profiling 70% of the experimentally identified hits while removing 52% of the inactive compounds from the initial compound collections. We strongly believe that this new tool can be used as a global PPI inhibitor profiler prior to screening assays to reduce the size of the compound collections to be experimentally screened while keeping most of the true PPI inhibitors. PPI-HitProfiler is free

关键词： 支持向量机激   素敏感脂肪酶   机器学习方法   分子描述符   递归变量消除法  

摘要： 脂肪组织中,激素敏感脂肪酶(HSL)被认为是调节脂肪酸代谢的关键限速酶.HSL在糖尿病的发病过程中起重要作用,抑制HSL活性有助于糖尿病的治疗,因此探索新颖的HSL抑制剂成为当前研究的热门.在激素敏感脂肪酶的作用机制和三维结构缺乏的情况下,需要发展预测HSL抑制剂的方法.本文采用几种机器学习方法(支持向量机(SVM)、k-最近相邻法(k-NN)和C4.5决策树(C4.5DT))对已知的HSL抑制剂与非抑制剂建立分类预测模型.252个结构多样性化合物(123个HSL抑制剂与129个HSL非抑制剂)被用于测试分类预测系统,并用递归变量消除法选择与HSL抑制剂相关的性质描述符以提高预测精度.本研究对独立验证集的总预测精度为75.0%-80.0%,HSL抑制剂的预测精度为85.7%-90.5%,非HSL抑制剂的预测精度为63.2%-68.4%.支持向量机方法给出最好的总预测精度(80.0%).本研究表明支持向量机等机器学习方法可以有效预测未知数据集中潜在的HSL抑制剂,并有助于发现与其相关的分子描述符.

关键词： 空间数据挖掘   L—M算法   可视化   分类预测  

摘要： 地理信息分类的传统线性算法具有正向直接判定的快速优势,但局限于对已知数据进行线性的判别划分,而非线性未知信息的分类预测同样是GIS技术的重要内容。人工神经网络算法为一些非线性知识的发现提供了可能。本文在通用的GIS格式数据基础上,采用L-M算法进行分类,通过分类结果来预测未知信息。开发出可视化的GIS数据神经网络分类预测软件模块。并以美国各镇人口为样例数据进行测试,分类预测结果显示该算法具有可行性及系统具有实用性。

关键词： .Denby   Support Vector   classifiers  

摘要： Indoor handset localization in an urban apartment setting is studied using GSM trace mobile measurements. Nearest-neighbor, Support Vector Machine, Multilayer Perceptron, and Gaussian Process classifiers are compared. The linear Support Vector Machine provides mean room classification accuracy of almost 98% when all GSM carriers are used. To our knowledge, ours is the first study to use fingerprints containing all GSM carriers, as well as the first to suggest that GSM can be useful for localization of very high performance.

关键词： Time series  

摘要： This paper discusses the prediction of time series with missing data. A novel forecast model is proposed based on max-margin classification of data with absent features. The issue of modeling incomplete time series is considered as classification of data with absent features. We employ the optimal hyperplane of classification to predict the future values. Compared with traditional predicting process of incomplete time series, our method solves the problem directly rather than fills the missing data in advance. In addition, we introduce an imputation method to estimate the missing data in the history series. Experimental results validate the effectiveness of our model in both prediction and imputation.

关键词： 机器学习   交叉销售   指纹图像分割   基于内容的图像检索   相关特征映射  

摘要： 随着信息技术的高速发展,人们已在很多应用领域积累了大量的数据,对这些数据进行分析并学习数据中蕴含的知识,成为了这些应用领域的共同要求。机器学习是当前人工智能领域的热点研究方向之一,它本身也是一个应用驱动的学科。已有的研究成果表明,很多应用问题采用机器学习的方法来解决是一种行之有效的渠道或手段。本文针对若干典型的应用问题,采用或提出合适的机器学习方法进行处理,取得了较好的效果。本文工作主要包括以下四个方面的内容： 1.类别不平衡学习、代价敏感学习及其在交叉销售上的应用研究。交叉销售已成为企业盈利的重要手段,如何解决其数据中普遍同时存在的类别不平衡和代价敏感问题是准确预测交叉销售客户的关键,也是难点之一。为解决上述应用问题,本文结合类别不平衡学习和代价敏感学习技术,提出了一种使用最优阈值投票的方法。该方法首先结合过抽样和欠抽样技术获取多个类别平衡的训练数据集,然后在每个平衡数据集上分别训练得到多个底层学习器,最后利用所提出的基于最优阈值的投票集成方法集成底层学习器得到决策模型。在PAKDD 2007数据挖掘竞赛的交叉销售数据集上的实验验证了该方法的有效性。 2.半监督学习及其在指纹图像分割上的应用研究。指纹图像分割是自动指纹识别系统预处理中的关键技术之一。传统的分割方法需要大量已标记的指纹图像作为训练数据,但实际应用中获取标记样本比较繁琐和耗时。本文根据半监督学习的思想,提出了一种基于协同训练的指纹图像分割方法,以综合利用已标记和未标记的指纹图像。该方法在基于像素水平的Coherence、Mean、Variance特征体系下,使用标记盒和支持向量机作为基分类器进行协同训练。在FVC 2002指纹库上的实验结果表明,该方法能够在标记信息较少的情况下取得较好的性能,并且在处理低质量指纹图像时也表现出了较强的鲁棒性。 3.距离度量学习及其在基于内容的图像检索（content-based image retrieval,CBIR）上的应用研究。在CBLR应用中,一个关键步骤就是度量图像间的距离或相似度。距离度量学习可以为给定的任务学习到恰当的距离度量准则并已被成功地应用于很多领域。然而,现有的多数距离度量学习均是离线式的方法,并不适用于CBIR的在线应用环境;现有的少数在线式距离度量学习方法也无法有效地利用图像库中充裕的未标记图像信息。为解决上述问题,本文提出了一种在线式的半监督距离度量学习方法并应用至CBIR中。该方法针对每个用户查询及其后续的相关反馈学习一个距离度量准则。检索任务被设计成一系列的凸优化问题,本文也给出了闭式解以实现快速求解。该方法根据用户的查询和反馈信息来产生约束信息,并基于Qsim的思想有效利用了图像库中的未标记图像。在COREL图像库上的实验也验证了该方法的有效性。 4.相关特征映射及其在CBIR上的应用研究。CBIR系统的最终目的就是依据用户的查询为用户搜索相关图像,其搜索的准确性和可靠性在很大程度上取决于系统内部的排序方法。本文提出了一种基于相关特征映射技术的排序方法。分析显示,映射之后的空间能更好地适用于CBIR的排序任务。本文也设计了一个新的排序算法以快速有效地在相关特征空间中实现排序和检索。该方法避免了高耗费的距离计算,这也大大不同于主流的基于距离或相似度度量的排序方法。在COREL图像库上的实验也表明该方法在检索性能和时间消耗上均优于现有方法。

关键词： 结构化机器学习   条件随机场   稀疏高阶的条件随机场模型   两维Trie结构   序列标注   依存句法分析  

摘要： 相比于普通的机器学习算法,结构化机器学习可以利用结构信息达到更好的效果,但其时间复杂度要高很多,虽然有快速的近似解法,但精度的损失一定程度上抵消了结构信息带来的好处,因此研究快速精确的结构化机器学习算法成了一个重要的课题。 本文中,我们对结构化机器学习中的推断算法以及特征抽取两个重要环节进行改进。首先,我们针对序列标注问题,基于许多实际应用中高阶特征信息的稀疏性特点,提出了稀疏高阶的条件随机场模型和一种新的快速精确的推断算法,它可以同时处理局部特征和稀疏的高阶特征。由于稀疏性的存在,这种新的推断算法是十分高效的。在手写体识别任务上,我们采用词缀特征作为高阶特征,稀疏高阶的条件随机场模型达到了所有公开的实验结果中最高的精度。在中文组织机构名识别任务上,我们将人工抽取的规则转化为高阶特征,并取得了微软亚洲研究院数据集上第二名的成绩。这两个实验表明,在特征集相同的情况下,稀疏高阶的条件随机场模型明显优于其他的方法。 其次,我们提出了一种新的特征字符串索引结构以加速特征抽取,从而缩短解码时间。现在许多结构化机器学习方法采用模板生成数以百万千万的特征。复杂的模板可以产生大量复杂的特征,从而提高了精度,但却需要更多特征抽取的时间,大大影响了解码速度。为此,我们提出了两维的Trie结构,该结构可以利用模板之间的相互关系提高特征抽取的速度：一个模板生成的特征字符串是它的扩展模板生成的特征字符串的前缀,因此前一个特征字符串的索引号可以用来检索后一个特征字符串,从而节约了时间。我们将这种新的数据结构用在基于图模型的依存句法分析的任务上。在中文宾州树库上的实验表明,两维Trie的特征抽取速度是传统Trie的5倍,整个句法分析的解码速度是后者的4.3倍。

关键词： 音频水印   机器学习   核判别分析   最优水印问题   粒子群优化   多目标遗传算法   变长机制   降采样技术   能量关系调制   能量量化调制   常规信号处理   去同步攻击  

摘要： 随着互联网和数字多媒体技术的迅速发展,人们可以通过互联网等各种渠道方便快捷地获得、编辑、复制和传播越来越多的数字音频。这给人们带来了很大便利,但同时也产生了日益严重的安全问题,诸如数字音频的版权保护等。作为数字音频版权保护的一种重要手段,数字音频水印技术具有非常重要的应用前景,近年来已经取得了快速进展。然而,仍然存在着许多有待解决的关键问题。本文在深入分析鲁棒音频水印方法的基础上,对基于机器学习的水印方法进行了深入的研究,探讨了三种新颖的基于机器学习的音频水印技术。论文的主要内容如下: (1)针对现有的一些基于机器学习方法(诸如神经网络、支持向量机等)的训练算法复杂和训练时间长等问题,提出了一种基于核判别分析的音频水印方法。在降采样技术基础上,设计了一种能量关系调制技术。这种能量关系调制技术主要由两部分组成:一是能量关系的调制,二是DWT系数的比例调制方法。它带来的优点是能够较好地保障水印系统的不可感知性(即含水印音频的听觉质量),并且将能量关系隐藏到音频信号中。基于核判别分析的水印检测器通过学习在音频信号中所隐藏的能量关系以提取出水印。借助于核判别分析的强大的(非线性)学习能力和良好的泛化能力,这种水印检测器具有高的鲁棒性,同时核判别分析的训练算法具有简单、快速的优点。 (2)以寻求不可感知性和同时抵抗常规信号处理操作和去同步攻击的鲁棒性之间的平衡作为优化目标,提出了一种多小波域中的能够抵抗常规信号处理操作和去同步攻击的音频水印方案。首先,采用均值量化技术在时域嵌入同步码,其作用是用于确定水印信号的嵌入位置以抵抗去同步攻击对水印嵌入位置的破坏。其次,设计了一种能量量化调制方法用于实现水印的嵌入。该调制技术以低频多小波系数的局部能量指标作为调制对象,并通过代数学公式导出相应的多小波低频系数的修改公式。最后,利用粒子群优化技术所设计的音频水印优化过程自动地确定水印算法的最优水印参数。所得到的最优水印参数能够使不可感知性和同时抵抗常规信号处理操作和去同步攻击的鲁棒性之间达到最优平衡。 (3)最优音频水印问题本质上应该是一个多目标优化问题。然而,先前的基于遗传算法的水印方法或方案采用一种加权和形式将最优音频水印问题转化为一个单目标优化问题来求解。针对最优音频水印问题的多目标本质,提出了一种用于音频水印算法性能优化的多目标优化框架。以多目标遗传算法NSGA-II为基础,设计了一种具有变长机制的多目标遗传算法及其音频水印优化过程,其中变长机制包括变长染色体、初始化机制、混合交叉操作和变异操作。传统的音频水印算法容易被集成到这个框架中,并且利用这个音频水印优化过程能够为这些传统的水印算法自动地确定最优水印参数和搜索最合适的嵌入位置。此外,Pareto最优解集的多解特性能够为所设计水印系统提供更大的灵活性。