关键词： 图像分类   目标检测   支持向量机   最大化间隔方法   可变形部分模型   不平衡数据   模型选择  

摘要： 图像中包括哪些类别的对象?对象的具体位置在哪里?每一类的对象有几个?对象有什么姿势动作?它们之间的关系又是怎样?如果让人们回答这些问题,是一件很容易的事情。但普遍意义上的计算机理解图像内容,仍然是一个未解的难题。朝着这个最终目标,图像分类与目标检测这两个基础问题,受到了机器视觉领域的广泛重视,有着大量深入的研究。图像分类问题需要回答某一类或某几类对象是否存在于给定的图像中,但不需要给出对象的具体位置。而目标检测问题更为困难,除了要回答图像中存在哪些类别的对象,同时还要给出对象的具体位置。这两个问题既不同又相关。不同之处在于是否需要给出对象具体位置。相关之处在于能够处理目标检测的方法也自然能够完成图像分类,但是这样加大了问题的难度,事实上目标检测的正确率远远不如只作图像分类;但是图像毕竟还是按照目标对象是否存在而分类,图像的类别还是主要由对象所在的区域而决定。\n 本论文同时考虑了问题之间的差异性与相关性,并将这两者统一看成区域选择问题。假设测试图像中所有对象的范围都被标注清楚,那么无论是图像分类还是目标检测,剩下的工作就只是对范围之内的区域做类别区分。由此可见,这两个问题的特殊之处就在于区域的选择。从区域选择的角度也可以解释目前主要的研究工作与研究难点。\n 图像分类的优秀方法常常用到各种不同层次不同种类的图像特征合并,有些复杂的方法甚至先采用目标检测得到重点区域,然后再特别加入重点区域中的特征。这些方法虽然没有得到精确的对象区域,但隐含的尽量选择了对象可能存在区域的特征。如何排除掉明显无关的区域,尽量用对象所在区域决定图像类别正是这个问题的难点。\n 目标检测的两大流派分别是基于分割的方法和滑动窗口方法。前者先将图像预先分割成若干区域,然后判断每个区域是否属于目标类别,这相当于是对区域区域做了选择。此类方法的缺点是检测结果容易受到分割错误的影响,如果区域本身就存在错误,如果区域本身既不是整个对象,也不是对象的某个有效部位,那么无论模型怎么分类,也得不到有意义的检测结果。这时区域选择的难点是如何得到尽量正确的区域。后者将检测窗口置于图像中的每个位置,然后判断窗口内部是否包含目标对象,这种区域选择的方式就更为直接。此类方法虽然检测精确度较高,但检测速度较慢,而且还需要后处理方法压缩多个重合的检测窗口。此时的难点是如何尽量减少窗口搜索的区域。如果能有一种方法提供较为稳定准确的对象出现的位置,就可以只将窗口置于提供的那些位置上进行检测。\n 本论文从区域选择这个统一的角度出发,并根据具体问题与难点的不同,提出不同的图像分解方法,以及对分解得到的区域选择利用的方法。\n 针对图像分类的区域选择难点,本论文提出一种新的机器学习框架-分解学习。它同时利用了有类别和无类别的数据,以类似于子空间聚类的方式搜索图像原始输入空间中的有效区域。每个区域被看作类别概念的子概念,单个基础分类器在每个区域中独立训练,其输出将作为新特征空间的一个高层特征。在重建的新特征空间中训练最终分类器。实验在MNIST手写数字数据集和Caltech101图像分类数据集上进行,分解学习在不采用任何与机器视觉相关的特征提取方法的情况下,仍然有效的提高了分类的正确率。\n 针对基于分割的目标检测方法的区域选择难点,本论文提出一种最大化间隔分割选择方法。每张图像经过多种互补的分割方法预处理,得到多包区域,其中存在一包相对较好的对象分割结果。分割选择的目标是将每张图像的最佳分割结果选择出来,将其中的区域拿出组成训练集。“分割选择+分类”被统一建模为最大化间隔问题,目标函数被表示为二次规划的形式。此目标函数经过推导转化,得到其最终的对偶形式,并通过模拟煺火解法得到近似最优解。实验在PASCAL VOC2007数据集上进行,在绝大部分类别上,分割选择方法的检测精确度超过了单一分割方法。\n 针对滑动窗口目标检测方法的区域选择难点,本论文提出一种区域位置提示的可变形模型候选点检测算法。我们延续了上面的研究工作,通过仔细观察采样图像的分割结果,发现一个有趣的事实:虽然几乎每张图里都存在分割错误,但是在大多数情况下总会有某个区域的边角与对象真实位置的边角很接近。由此,如果重用之前的分割结果,检测窗口只需要置于这些边角位置,就可以避免大量不必要位置上的穷举搜索。可变形部分模型保证了检测器本身的精确性,而分割位置提示保证了检测的效率,同时避免了后处理操作。实验仍然在PASCAL VOC2007数据集上进行,候选点检测算法在一半类别上超过了穷举搜索方法。\n 除了以上难点之外,目标检测在具体训练时还有容易被忽视的地方。目标检测的训练数据由少量的目标对象和大量的其他对象或背景组成。这是典型的不平衡数据集,目标类别在其中只占一小部分。不平衡数据集往往

关键词： 暂态稳定评估   机器学习   支持向量机   随机森林   主成分分析法  

摘要： 理论和仿真研究表明,依靠少量受扰严重机组的动态特征能够有效地判别大电网的暂态稳定性。提出一种组合搜索严重受扰机组,并据此构造稳定评估原始输入特征的方法。进一步利用主成分分析法降低特征维数,构成机器学习评估模型的输入特征。在新英格兰39节点测试系统和IEEE 50机测试系统上,利用所提方法仿真实现了决策树、支持向量机和k最近邻法等暂态稳定评估模型,结果表明所提出的构建电力系统暂态稳定评估输入特征方法有效,有助于改变原始特征构建的主观和随意性。

关键词： 脑电信号   特征提取   特征变换   分类  

摘要： 脑电信号是人脑的生理电信号,可以反映大脑的生理功能和思维状态,在神经系统疾病诊断和脑-机接口等领域都得到了广泛的应用。传统的脑电信号分析方法主要以人工阅读法为主,已经不能满足现代脑电信号分析的需求。基于机器学习的脑电信号自动分类正日益成为研究热点。 基于机器学习的脑电信号自动分类主要包含特征提取、特征变换、分类器三部分。本文提出了基于回声状态网络的脑电信号特征提取方法。不同于现有脑电信号特征提取方法,该方法不是去寻找一些脑电信号描述量,而是对脑电信号进行系统辨识,并将系统辨识的结果作为脑电信号的特征。该方法在脑电信号特征提取过程中信息损失较少,保证了脑电信号自动分类可以达到较高的分类精度。本文将特征变换引入到脑电信号自动分类,采用主成分分析和线性判别分析两种特征变换方法降低脑电信号特征空间维数,提高脑电信号自动分类精度。最后,结合关联向量机和极限学习机两种新型的机器学习分类器,实现了波恩大学癫痫研究中心脑电信号的自动分类。仿真结果显示：基于回声状态网络的脑电信号特征提取可以很好地胜任癫痫脑电信号自动分类的任务：特征变换方法的引入,能有效降低脑电信号特征空间维数,提高分类精度;基于关联向量机和极限学习机的脑电信号自动分类方法在取得较高分类精度的同时,模型稀疏性和算法效率得到了大幅提升。

关键词： 朴素贝叶斯   支持向量机   特征抽取   特征选择   功能磁共振成像  

摘要： 图像中蕴含着丰富的情感语义,图像情感语义识别是图像处理、人工情感、机器学习、认知心理学多领域研究的热点。图像情感是人们观看图像时的情感反应,是人们对图像的一种主观反应,是一种隐式的,内隐的反应。现有文献大部分都是基于图像本身的低阶特征,并通过机器学习建立和情感语义之间的关系。选用已标注的情感图像库是这类研究的关键,但是目前大多数的图像库的情感是人工标注的,这种标注需建立在统计学基础上,需要大量人力,物力,且人工标注很难反映内隐的情感体验。 功能磁共振成像(functional magnetic resonance imaging, fMRI)是一门图像技术,主要是通过测量血氧水平依赖信号进行脑激活研究。随着fMRI在情绪过程研究中的应用,研究人员发现不同的情感将产生不同的激活模式。本文提出采用fMRI技术观察人脑对图像情感的反应,利用机器学习的方式建立脑激活模式与情感之间的映射关系,通过训练得到的分类器对未知图像情感进行自动标注。 本研究是国家自然科学基金“基于fMRI个性化图像情感标注及其本体库研究”的一部分(ID“60970059”),属于探索性研究,主要是研究不同情感类型在大脑中的激活模式,选择合适的特征选择方法提高分类器的准确度,实现对fMRI数据情感类型的解读。本论文主要工作如下： 1.研究不同情感在脑中的功能定位。设计图像情感磁共振实验,实验采用事件相关性设计,在实验过程中,被试通过按键确定图像的情感语义(正性、中性、负性)。选用包括场景、人物、动物情感明确,歧义少的图片用于研究图像情感。采用Statistical Parametric Mapping (SPM)软件对获得的fMRI数据进行分析,利用f-test对比方式,获得正性、中性、负性三个条件对比激活的脑区。通过实验发现,外核,额上回,中央前回,额中回,颞上回,顶叶,枕叶等脑区被明显激活,这些激活脑区与已有的文献报道相吻合。 2.针对fMRI数据样本少,高维等特点,对分类器的性能进行研究对比。研究发现,选用相对简单的线性分类器进行fMRI数据分类,分类正确率超过随机水平,平均准确度接近参与被试主观预测,并且具有较快的数据处理速度。实验结果也表明,采用线性分类器分析fMRI数据,能够解读其中蕴含的情感状态。 3.分类器算法的关键是选择合适的特征。本研究以体素作为特征,采用特征抽取和特征选择两种方式进行降维：首先,特征抽取,选择SPM产生的激活区中的体素作为特征;然后,特征选择,基于单个体素的准确度或激活度排序体素,并从中选择最优体素。该方法有效提高分类器的准确度,准确度最高达到90%左右。

关键词： 生物信息学   机器学习方法   蛋白质亚细胞位点   最佳分割位点   夹克刀检验  

摘要： 生物信息学是一门交叉学科,它包含了生物信息的获取、处理、存储、分发、分析和解释等在内的所有方面,它综合运用数学、计算机科学和生物学的各种工具,来阐明和理解大量数据所包含的生物学意义。生物信息学的研究方面十分广泛,其中,蛋白质亚细胞位点定位是目前热门的研究课题之一。一个完整的细胞可以分成许多不同的细胞区域,如细胞质、叶绿体、线粒体等,大多数蛋白质在核糖体中合成以后要被转运到特定的细胞器中,蛋白质只有在合适的位点才能执行其特定的功能,否则会产生其它影响,甚至导致疾病产生。因此,能够准确有效的预测蛋白质的亚细胞位点具有十分重要的生物学意义。 本文的内容如下: 第一章介绍生物信息学产生的背景、研究的对象、内容以及本文的工作。 第二章介绍生物信息学中有关分类问题中的一些机器学习方法,包括k-最近邻算法、贝叶斯统计、神经网络模型和支持向量机等。 第三章给出一种基于最优分割位点的蛋白质亚细胞位点预测方法。根据每条蛋白质序列的最佳分割位点,把序列分割成三部分:N端分选信号部分、中间部分和成熟白质部分,然后在每个子序列中分别提取特征,这些特征包括氨基酸组分,双肽组分以及氨基酸的物理化学性质,最后再把这些特征融合在一起作为整条序列的特征。通过夹克刀检验,该方法在NNPSL数据集上得到的原核生物蛋白质序列和真核生物蛋白质序列的预测精度分别是92.1%和87.8%。

关键词： 机器学习   彩色体数据   分类   高斯混合模型   局部线性嵌入  

摘要： 近年来,可视化技术在医学领域发挥越来越重要的作用。连续扫描的二维医学图像通过可视化技术三维重建,能够提供更丰富的解剖学和病理学信息。彩色体数据一般来源于人体的生理切片图像,由于记录每一个采样点的真实颜色,因此较传统标量体数据提供了更多的信息量。但是由于彩色体数据缺乏物质密度、吸收系数等物理信息,使体素的不透明度设置难度增加,无疑给彩色体数据分类带来了挑战。对体素赋予适当的不透明度值,可以增强感兴趣组织和特征结构的显示,辅助体数据有效合理的分类。传统标量体数据的分类技术已比较成熟,但是彩色体数据的分类研究则相对较少。 针对上述问题,本文分析了彩色体数据的特征属性,即颜色及其导出的纹理属性,提出了基于特征空间聚类的彩色体数据分类方法。 本文首先提出了基于颜色的高斯混合模型(GMM)分类方法,在颜色空间对彩色体数据进行初步分类,并且用户可以交互地调整生成的高斯模型,获得更好的分类结果。 对于颜色空间中不易区分的特征结构,本文又提出了基于高维纹理向量降维聚类的分类方法,把图像处理领域中的纹理分析方法应用于彩色体数据,获得一阶、二阶和高阶纹理属性组成的高维纹理向量,并运用局部线性嵌入(LLE)方法进行降维聚类,用户可以在降维后的特征空间中,直观简洁地选择感兴趣的特征结构。 最后,论文展示了基于上述高斯混合模型(GMM)和用局部线性嵌入(LLE)方法在可视人彩色体数据的分类结果,实验结果表明了本文提出的方法在彩色体数据分类上的有效性。

关键词： Classification of Web objects   Web caching   machine learning methods   BROWSER   SYSTEM   SCHEME  

摘要： Web caching is a technology to improve network traffic on the Internet. It is a temporary storage of Web objects for later retrieval. Three significant advantages of Web caching include reduction in bandwidth consumption, server load, and latency. These advantages make the Web to be less expensive yet it provides better performance. This research aims to introduce an advanced machine learning method for a classification problem in Web caching that requires a decision to cache or not to cache Web objects in a proxy cache server. The challenges in this classification problem include the issues in identifying attributes ranking and improve the classification accuracy significantly. This research includes four methods that are Classification and Regression Trees (CART), Multivariate Adaptive Regression Splines (MARS), Random Forest (RF) and Tree Net (TN) for classification on Web caching. The experimental results reveal that CART performed extremely well in classifying Web objects from the existing log data with a size of Web objects as a significant attribute for Web cache performance enhancement.

关键词： 机器学习   无师自通   未标记数据集   稀疏编码   监督学习  

摘要： 机器学习的发展趋势,就是不断地使用易获得的、廉价的数据作为样本数据,来辅助训练数据进行学习。"无师自通"学习是迁移学习的一种改进,它使用未标记的数据集作为样本数据集,且并不假设未标记数据集和标记数据集有着同样的数据分布,它运用稀疏编码方法来对未标记数据集得到一个更高层次的表示。然后,再使用经典的监督学习方法如SVM方法来对得到的新的数据集进行机器学习。该文将介绍"无师自通"学习法的主要原理,并对其核心算法—稀疏编码算法进行深入分析并通过实验给出具体的实例。

关键词： Epidemiology   influenza A virus, H1N1 subtype   public health surveillance   INFLUENZA   COMPLAINTS   DISEASE  

摘要： Objectives: We assessed the performance of syndromic indicators based on Google Flu Trends (GFT) and emergency department (ED) data for the early detection and monitoring of the 2009 H1N1 pandemic waves in Manitoba. Methods: Time-series curves for the weekly counts of laboratory-confirmed H1N1 cases in Manitoba during the 2009 pandemic were plotted against the three syndromic indicators: 1) GFT data, based on flu-related Internet search queries, 2) weekly count of all ED visits triaged as influenza-like illness (ED ILI volume), and 3) percentage of all ED visits that were triaged as an ILI (ED ILI percent). A linear regression model was fitted separately for each indicator and correlations with weekly virologic data were calculated for different lag periods for each pandemic wave. Results: All three indicators peaked 1-2 weeks earlier than the epidemic curve of laboratory-confirmed cases. For GFT data, the best-fitting model had about a 2-week lag period in relation to the epidemic curve. Similarly, the best-fitting models for both ED indicators were observed for a time lag of 1-2 weeks. All three indicators performed better as predictors of the virologic time trends during the second wave as compared to the first. There was strong congruence between the time series of the GFT and both the ED ILI volume and the ED ILI percent indicators. Conclusion: During an influenza season characterized by high levels of disease activity, GFT and ED indicators provided a good indication of weekly counts of laboratory-confirmed influenza cases in Manitoba 1-2 weeks in advance.

关键词： 股票   支持向量机   时间序列   小波变换   预测  

摘要： 股票至今已经有400多年的发展历史了。股票市场的变化,间接地反映了整个国民经济的发展状况和股票公司的运营情况,它是整个社会经济的“晴雨表”和“报警器”。研究股票市场未来若干天的数据变化对广大的投资者来说有很重要的意义。 从事股票数据研究的学者主要分为三类:第一类学者主要应用技术分析的方法来研究市场过去和现在的行为反应,从而预测整个股市和某支股票价格未来的大致变化趋势;第二类学者主要通过时间序列分析方法来预测股票市场的走势;第三类学者则应用机器学习的方法建立各种学习模型来研究股票数据。 本文对股票预测研究现状、机器学习、统计学习理论、支持向量机、混沌时间序列、小波理论作了一些介绍,并根据这些理论建立了预测的模型。该预测模型的核心是支持向量机的学习方法。支持向量机建立在统计学习理论的基础之上,其结构简单,在解决小样本、非线性的问题时效果很好,而且能够避免“维数灾难”和“过学习”等现象。 具体的来说,本文完成的工作主要有以下几点: 一、将支持向量机与混沌时间序列结合起来建立预测模型。根据相空间重构的方法将现有的数据变换成混沌时间序列,然后将时间序列数据划分成训练数据和测试数据,从而建立支持向量机的预测模型。 二、在最优参数的搜索方面主要应用了遗传算法。支持向量机的参数选取方法直接影响着预测模型的性能。遗传算法的在解决非线性问题和多维空间寻优问题上效果卓著,文中应用遗传算法搜索得到的参数能够取得较好的预测效果。 三、采用小波变换的方法将股票数据分解成高频数据和低频数据,然后分别建立预测模型并得到高频和低频的预测结果,最后通过小波重构的方法将两类数据的预测结果合并,从而得到未来若干天的股票数据。这种方法得到的预测效果比较好,但是预测结果受小波种类的影响较大。