关键词： 统计学习理论   支持向量机   学习算法   机器学习方法  

摘要： 支持向量机是一种基于统计学习理论的新型机器学习方法,由于其出色的学习性能,已经成为当前机器学习界的研究热点.详细总结了支持向量机的学习方法,其学习方法主要分为3大类:分解算法、多变量更新算法和序列算法,比较了它们的优缺点;最后指出了学习算法的研究方向.

关键词： 人脸识别   统计学习理论   支持向量机   结构风险最小化原则   支持向量机(SVM)   人脸识别算法   分类问题   机器学习方法   学习问题   推广性能  

摘要： 支持向量机(SVM)是在统计学习理论(SLT)的基础上发展起来的一种新的机器学习方法,它基于结构风险最小化原则,能有效地解决过学习问题,具有良好的推广性能和较好的分类精确性。本文采用SVM方法进行人脸识别研究,将人脸识别这一典型的多分类问题构造成适合SVM处理的二分类问题,克服了传统SVM方法在解决多分类问题上的一些缺陷。

关键词： 核方法   支持向量机   机器学习   再生核希尔伯特空间   多用户检测  

摘要： 阐述了核方法的基本原理与研究动机,分析了特征空间的性质,介绍了常见的核方法,给出了构建新核方法的步骤及需要注意的问题,指出了核方法值得关注的研究方向,展示了其在多用户检测中的应用情况,以其对核方法研究领域有较全面的把握。

关键词： 真核基因   蛋白质结构   亚细胞定位   窗宽模型  

摘要： 本文对基于机器学习方法的基因和蛋白预测进行了研究。\n 对真核基因剪接位点进行建模和预测，建立了供体位点和受体位点贝叶斯网络模型，并根据两种位点的生物学特性，对模型的拓扑结构和上下游节点的选择进行了优化。研究了蛋白质亚细胞定位的预测方法，并提出了一种名为LOCSVMPSI的真核蛋白质亚定位的预测方法。该方法基于支持向量机技术，并使用PSI-BLAST产生的profile中的位置特异性打分矩阵(position-specific scoringmatrix，PSSM)作为特征。使用支持向量回归技术对残基可溶性的真实值进行预测。对RS-126，Manesh-215和CB-513三个数据集进行了测试，通过比较不同的参数及窗宽模型来获得最佳结果，采用平均绝对误差、相关系数等参数来衡量预测效果，同时与多层反馈神经网络方法(RVP-Net)的实验结果比较，在3次交叉验证情况下三个数据集预测结果的平均绝对误差和相关系数参数均有提高。另外，该算法采用了多序列比对作为输入，效果比单序列有显著提高。

关键词： 语音合成   文语转换   韵律短语预测   统计模型   机器学习   最大熵模型  

摘要： 语音合成是从文本生成语音的技术。为了生成高自然度的语音，一方面要从文本信息预测出准确翔实的韵律信息，包括韵律层次、重音分布、基频曲线、时长、停延、能量等。一方面是制作大规模合成语音库中，收录丰富的、足具表现力的语音基元。韵律层次的预测是生成基频、时长等其他韵律参数的前提条件，是影响合成语音自然度的重要因素。\n 本文首先对韵律层次预测的研究历史和现状做了较为完整的调研。通过对前人工作进行深入了解，作者认为基于机器学习的方法在目前条件下，优于人工总结规则的方法，今后几年应继续在该方向开展更多的研究工作，并且应着力解决好属性信息选择和统计模型选择这两个问题，一方面努力利用好更多有利于韵律预测的语法、语音、统计信息，一方面寻找更适合该任务的统计模型和算法。\n 围绕这两个方面，本论文阐述了作者在语调短语预测方面的研究，主要工作包括：\n 第3章提出了基于相似句的韵律短语边界预测方法。对于任意一个输入的句子，该模型都从一个带有韵律短语标注的句子库中寻找其相似句，然后根据找到的一个或者多个相似句的韵律短语边界位置，决定输入句的韵律短语边界位置。在寻找相似句中，提出了相似距离的度量方法——合成的编辑距离，同时考虑了词性、词义、音节数目对韵律短语边界位置的影响。在1000句测试集上的实验结果表明该方法能够达到我们预期的效果，即在能够接受的手工标注工作量下，超过现有决策树的效果。\n 第4章提出了基于最大熵模型的语调短语边界预测方法。在已有的特征CCFS(CountCutoffFeatureSelection)方法的基础上，本文提出了特征上下文CCFS方法和基于似然比的特征选择方法。实验证实，特征上下文CCFS方法的效果最好。同时比较了传统的基于决策树的方法和基于最大熵模型的方法的效果，指出在使用相同属性的条件下，最大熵模型更适合于语调短语边界的预测。\n 第5章针对目前多数方法只利用局部上下文信息的局限，提出了三种平滑模型，把语调短语的长度分布信息有效地跟局部上下文信息相融合，显著地提高了整个系统的预测效果。这三种平滑模型分别是增扩特征集模型、切分平滑模型和滑动窗口模型。其中滑动窗口平滑模型的贡献最为显著。\n 第6章为减少制作标注库时的手工工作量，基于主动学习的基本原理，设计了一个有序标注语料库的方法，同以前随机标注方法相比，节约了约一半的手工工作量。

关键词： 词义消歧   最大熵原理   汉语   自然语言处理   机器学习方法   最大熵模型   关键问题   知识表示   特征   上下文   规范化   多义词   正确率  

摘要： 词义消歧是自然语言处理中亟待解决的一个关键问题,本文提出一种基于最大熵模型的有监督的机器学习方法,用于汉语词义消歧。该方法综合了词标记、词性、主题等上下文特征,并用一种统一的表示方法规范化特征形式,解决了多种不同特征之间的融合和特征的知识表示。实验对20个汉语高频多义词进行了测试,平均正确率为87％,验证了该方法的有效性。

关键词： hard drive failure prediction   rank-sum test   support vector machines (SVM)   exact nonparametric statistics   multiple instance naive-Bayes   CLASSIFIER   TESTS  

摘要： We compare machine learning methods applied to a difficult real-world problem: predicting computer hard-drive failure using attributes monitored internally by individual drives. The problem is one of detecting rare events in a time series of noisy and nonparametrically-distributed data. We develop a new algorithm based on the multiple-instance learning framework and the naive Bayesian classifier (mi-NB) which is specifically designed for the low false-alarm case, and is shown to have promising performance. Other methods compared are support vector machines (SVMs), unsupervised clustering, and non-parametric statistical tests (rank-sum and reverse arrangements). The failure-prediction performance of the SVM, rank-sum and mi-NB algorithm is considerably better than the threshold method currently implemented in drives, while maintaining low false alarm rates. Our results suggest that nonparametric statistical tests should be considered for learning problems involving detecting rare events in time series data. An appendix details the calculation of rank-sum significance probabilities in the case of discrete, tied observations, and we give new recommendations about when the exact calculation should be used instead of the commonly-used normal approximation. These normal approximations may be particularly inaccurate for rare event problems like hard drive failures.

关键词： INFORMATION   GENE   DATABASE  

摘要： Background: The majority of information in the biological literature resides in full text articles, instead of abstracts. Yet, abstracts remain the focus of many publicly available literature data mining tools. Most literature mining tools rely on pre-existing lexicons of biological names, often extracted from curated gene or protein databases. This is a limitation, because such databases have low coverage of the many name variants which are used to refer to biological entities in the literature. Results: We present an approach to recognize named entities in full text. The approach collects high frequency terms in an article, and uses support vector machines (SVM) to identify biological entity names. It is also computationally efficient and robust to noise commonly found in full text material. We use the method to create a protein name dictionary from a set of 80,528 full text articles. Only 8.3% of the names in this dictionary match SwissProt description lines. We assess the quality of the dictionary by studying its protein name recognition performance in full text. Conclusion: This dictionary term lookup method compares favourably to other published methods, supporting the significance of our direct extraction approach. The method is strong in recognizing name variants not found in SwissProt.

关键词： 数据挖掘技术   数据分析   See5/C5工具软件   判定树   规则集   分类方法   预测方法   数据库  

摘要： 如何在大量的数据中获取有用信息,并且通过对数据进行有效的分析来进一步实现对未来情况的预测,是当今许多领域迫切需要的技术。本文通过对数据挖掘领域中经典的分类及预测软件See5/C5的解析,介绍了它的核心算法、实现机制以及应用特点。通过简单的应用例子展示出了分类及预测的实现过程,在信息处理的具体应用中可以结合应用的规模和特点选择相应的判定树处理功能,以求获得最佳的预测效果。

关键词： 自然语言   信息抽取   机器学习方法   统计学习   命名实体  

摘要： 信息抽取是一种用于处理各种类型文本文档的非常有效的方法,然而建立一个文本信息抽取系统却是非常困难和耗费时间的。近年来,基于统计的机器学习方法在信息抽取领域的研究受到了广泛关注。本文深入探讨了当前自然语言信息抽取领域广泛采用的几种非常有效的统计学习方法,比较分析了各种方法的统计推断过程和学习算法及其优缺点,讨论了各种统计学习方法所面临的训练语料匮乏问题的主要解决方法,并指出了今后进一步研究的方向。