关键词： 知识发现   关联规则   智能故障诊断   产生式规则   机器学习方法   最优   编程   获取   综合性   实用性  

摘要： 从数理统计和关联规则的综合性出发,提出了一种从事例集中获取知识的机器学习方法。该方法利用Matlab进行编程,按照预定的优化目标生成最优的产生式规则。以旋转机械故障诊断知识发现为例进行了仿真实现,从中可获取各类故障的最优判别功能。结果表明,该方法是可行的,它验证了该方法在旋转机械故障诊断中的实用性和有效性。

关键词： 机器学习方法   人脸识别技术   择性集成学习   非线性流形学习   模式识别   图象识别  

摘要： 本文主要研究了基于新型机器学习方法的人脸识别技术，内容涉及人脸检测与人脸识别。本文将机器学习领域最新的研究进展，如选择性集成学习和非线性流形学习等应用于人脸识别，做出了三个方面的创新工作：\n 第一，提出了基于投影函数的人脸检测算法。研究了不同投影函数用于精确定位眼睛位置时的不同特点，并提出了广义投影函数GPF的概念。使用一种广义投影函数的特例——混合投影函数HPF能够精确定位眼睛的中心位置，从而提高了人脸检测的准确度。\n 第二，提出了选择性多本征空间集成人脸识别算法SEME，该算法自动选择人脸图像中不同的子区域结合起来进行人脸识别，能够获得比直接使用整张人脸图像更高的识别率。\n 最后，提出了非线性流形学习算法S-Isomap，使用S-Isomap进行可视化和分类都取得了较好的效果，从而为设计基于非线性流形的人脸识别算法奠定了基础。

关键词： 机器学习   人工胚胎   人工免疫  

摘要： 　主要从方法论的角度概述了人工胚胎和人工免疫等领域的国内外机器学习的研究状况,并对进一步的研究工作做了简单的展望.

关键词： 机器学习   语料库   未标注样本   Co-training   主动学习   统计学习理论  

摘要： 文中通过讨论机器学习和自然语言处理之间的关系,论述了语料库语言工程中机器学习的困境,概述分析了应用半监督学习的现状,研究有限样本下结合未标注样本的方法和统计学习理论框架的结合前景。

关键词： 面向用户   语言模型   机器学习   线性结构   N-gram模型  

摘要： 为改善语言模型的自适应能力,提出的面向用户的语言模型在组织结构上由通过大规模平衡语料的训练得到的通用语言模型(其原始参数维持不变)和通过在线学习得到的用户模型(其参数采用先进先出技术动态更新)组成;在数据存储结构上,通用模型采用多级索引结构来解决数据稀疏问题,用户模型采用线性结构表示,用二分法查找。根据最大限度纠正语言模型的转换错误和避免语言模型不平衡的原则,提出了适应汉语N-gram模型的机器学习方法。实验结果表明,这种机器学习方法具有“强化”特点,和“渐进学习”方式一起为应用系统提供了更灵活的选择。

关键词： 一范数支持向量机   机器学习方法   对偶形式   特征提取算法   决策函数  

摘要： 支持向量机算法是一种新的机器学习方法,其主要应用于分类学习问题上.本文推导出一范数支持向量机问题的对偶形式,并用其对偶形式成功解决了2000年全国大学生数学建模竞赛A题-DNA序列分类问题,输入样本有16个特征,而分类函数只依赖于样本的两个特征,得到了很好的特征提取结果;可以看出一范数支持向量机具有很好的特征提取效果而且具有计算方便,效率高等优点.

关键词： 文本分类   垃圾邮件过滤   机器学习  

摘要： 高精度的垃圾邮件过滤技术是最近自然语言处理的研究热点、在这篇论文中我们在与指导机器学习（Supervised Machine Learning）的框架下使用统计的方法研究垃圾邮件过滤问题、本文系统地研究了不同统计特征选取的方法和特征集大小对常用分类算注性能的影晌。特别地，本文观察到特征选取函数的重要性随分类器的不同差别很大。以常用的朴素贝时斯（Naive BayeS）分类器为例，我们观察到其性能在小特征集上受特征选取函数影响很大。支撑向量机（SuPPort VeCtor Machine），AdaBoost和最大嫡模型在邮件分类上取得了很好的效果：对特征选取函数不敏感，很容易扩展到高维特征空间，在不同测试集上的分类效果稳定。此外，试验还表明简单的“bag of words”过滤模型对垃圾邮件过滤有很好的效果，尤其拥有与语言无关的特性。我们对中文语料进行了简单的预处理（分词）之后就取得了很好的分类效果。试验中还发现邮件信头中的特征对分类效果有显著影晌。在仅使用邮件信头中的特征的情况下，我们在四个测试语料上取得了98%的分类准确车。这意昧着邮件信头的特征可以被用作高效垃圾邮件过滤特征。

关键词： 机器学习方法   神经网络   模糊系统   支持向量机   统计学习理论  

摘要： 学习是人类的基本智能活动,学习能力是人类智能的根本特征。学习是指系统为了适应环境而产生的某种长远变化,这种变化使得系统能够更有效地在下一次完成同一或同类工作。机器学习是指机器(计算机或智能机)在人工智能系统中模拟并实现各种学习行为的过程。传统的机器学习方法主要有神经网络、小波网络、模糊系统、贝叶斯分类器和模糊划分、及建立在统计学习理论基础的新的通用机器学习方法---支持向量机。本文以三种主要的机器学习方法神经网络、模糊系统、支持向量机为主,在介绍了机器学习方法的基础理论和神经网络、模糊系统、支持向量机的机理后,主要从它们相互之间的区别、内在一致性、以及它们相互结合三个方面分别分析研究了这三种机器学习方法的内在联系,并试图寻求一种机器学习方法的统一途径。最后得出了正则加权径向基函数这种统一的机器学习方法的结论,在统一机器学习方法方面做了有益的尝试。 论文分为以下几个部分:第一章是绪论部分,主要包括引言、研究背景、本论文研究的学术意义以及工作内容等方面的内容。第二章介绍神经网络知识及机理,第三章介绍模糊系统知识及机理。第四章介绍支持向量机知识及机理。第五章研究分析了神经网络和模糊系统的内在联系。第六章研究分析了神经网络和支持向量机的内在联系。第七章研究分析了模糊系统和支持向量机的内在联系。第八章阐述了神经网络、模糊系统、支持向量机的统一途径,并且构建了正则加权径向基函数这种新的统一的机器学习方法。第九章为结束语。

关键词： 机器学习   计算智能   概念规则学习   支持向量机   基金项目评审   项目文档检索   决策支持系统   多主体技术  

摘要： 随着计算机和通信技术的创新与应用,社会生产力水平得到了快速的提高。人类寻求在机器中复制人类智能的愿望越来越强烈,极大地促进了计算智能和学机器学习等学科的发展。本文应用统计学、计算智能、系统工程和管理科学等理论,在对机器学习理论、概念规则学习方法和支持向量机方法等进行了系统深入的研究,并将机器学习方法应用于基金项目评审和管理。 本主要研究内容如下: 1、描述了智能系统或知识系统的一般框架,论述了机器学习与计算智能的联系,分析了机器学习的概念、方法和典型应用领域,提出了将机器学习方法应用于科学基金项目评审和管理的思路。 2、分析了PAC可学习定义,推导了有限假设空间下一致学习机和非一致学习机的样本复杂度的关系式。基于统计学理论研究了经验风险最小化原则学习过程的一致性问题。基于VC-维概念,研究了经验风险与真实风险之间关系的一般化不等式,并论述了学习过程的结构风险最小化归纳原则。 3、研究了规则学习的策略与典型算法,提出了基于约束聚类的概念学习方法（CLCC）。定义了合取规则可学习性的概念,设计了一种启发式正例聚类的算法框架,以及从正例聚类生成合取规则的基于期望信息的快速算法。提出了概念规则的后剪枝方法和处理准则。同时,将CLCC算法和传统算法分别应用于基金项目评价的概念学习,并进行了详细计算实验和分析。 4、研究了支持向量机（SVM）模型的特点和形式,描述了SMO算法的计算过程和程序框架。提出了根据样本数据在欧氏空间上的局部几何特征,筛选最有可能成为支持向量的候选样本的思路。设计了候选支持向量选择的SCSV算法和异常样本过滤处理的AEF算法,AEF+SCSV与SMO算法相结合可以有效学习SVM分类函数。研究了基于SVM的基金项目评价问题的机器学习方法,并进行了详细的实验计算。 5、应用决策支持系统和Multi-Agents技术,研究了基于机器学习方法的基金项目评审决策支持系统。给出了基金项目评议决策支持系统的工作流程和框架,以及基金项目智能交互式信息检索过程和处理流程。采用ID3、CLCC和SVM方法,建立了项目评议知识库系统和用户查询项目文档分类学习知识库系统。给出了基于机器学习的基金项目评审决策支持系统PE＆PRDSS-MAS的整体原型设计,描述了各Agents的功能和控制方式。

关键词： EXPRESSION PATTERNS   CANCER  

摘要： Background: Using DNA microarrays, we have developed two novel models for tumor classification and target gene prediction. First, gene expression profiles are summarized by optimally selected Self-Organizing Maps (SOMs), followed by tumor sample classification by Fuzzy C-means clustering. Then, the prediction of marker genes is accomplished by either manual feature selection (visualizing the weighted/mean SOM component plane) or automatic feature selection (by pair-wise Fisher's linear discriminant). Results: The proposed models were tested on four published datasets: (1) Leukemia (2) Colon cancer (3) Brain tumors and (4) NCI cancer cell lines. The models gave class prediction with markedly reduced error rates compared to other class prediction approaches, and the importance of feature selection on microarray data analysis was also emphasized. Conclusions: Our models identify marker genes with predictive potential, often better than other available methods in the literature. The models are potentially useful for medical diagnostics and may reveal some insights into cancer classification. Additionally, we illustrated two limitations in tumor classification from microarray data related to the biology underlying the data, in terms of (1) the class size of data, and (2) the internal structure of classes. These limitations are not specific for the classification models used.