关键词： 机器学习   数据挖掘   推荐系统   用户建模  

摘要： 在传统的机器学习中,往往假设数据的分布是固定不变的。但是在许多现实应用场景中,比如推荐系统中,数据的分布往往会随着时间的变化而变化,即存在着“时序演进”的现象。使用传统方法无法考虑“时序演进”性质,往往会使得刻画的数据分布不精确,难以对未来的数据进行很好的预测。随着生产生活中可获取数据量的不断增大、数据环境越来越复杂,传统方法在处理时序演进问题上的局限性也越来越凸显。如何快速而有效地利用数据“时序演进”的性质来提高模型的性能,近年来得到了越来越多研究者的关注。本文试图针对在线购物这一复杂的数据场景,考虑数据中“时序演进”的性质,尝试通过特征处理、空间嵌入等不同角度将数据的动态性转换为静态状态来处理,从而一方面能够较好刻画“时序演进”的性质,另一方面能够降低构建模型的难度。主要取得了以下创新成果:第一,提出了一种基于时间窗口特征的时序演进推荐算法。该方法通过不同宽度的窗口来从不同粒度上捕捉用户与商品随时间演进的特征,然后利用集成学习方法来学习这些静态的特征,从而得到一个具有“时序演进”特性的推荐系统。在腾讯公司提供的真实线上推荐系统中的应用效果,表明了该方法相对传统的推荐方法在推荐精度上有较大的提高。第二,提出了一种基于用户阶段演进的用户建模方法。该方法基于用户的交互数据,构建了一个静态低维的用户流形空间,将不同用户在不同时期所处的阶段进行对齐。在这个空间中,较为稳定的阶段的演进模式更容易被刻画出来。基于阶段演进的规律,我们就可以更深刻地理解用户的行为,从而对用户未来的行为也能有更好的预测。在使用腾讯公司提供的真实在线购物网站的数据的实验中,引入用户流形的推荐系统的推荐精度得到了明显提高,并且大幅超越了许多基准方法。同时用户流形空间的可视化结果也展示了用户流形空间可以很好地刻画用户动态偏好变化的模式。

关键词： 机器学习   半监督学习   协同训练   众包   任务分配   模型复用  

摘要： 机器学习需要有标记数据来训练模型进行预测,有标记数据的获取通常需要人工参与,因此价格非常昂贵。在很多实际应用中,未标记数据可以较为容易地大量获取,如何利用廉价的未标记数据一直以来都是机器学习领域中的研究热点。目前出现了两种利用未标记数据的方法:一种是自动利用未标记数据辅助有标记数据提升学习性能的半监督学习;虽然该类方法大多能够提升学习性能,但都基于潜在的模型假设,当模型假设与数据分布存在偏差时可能会降低学习性能;另一种是通过众包以较低的代价给数据提供标记,进而可以精确利用未标记数据以降低学习风险。本文主要围绕半监督学习和众包进行研究,取得了以下进展:第一,针对半监督学习中的重要风范协同训练易受不充分视图的影响这一问题,提出了一种新型的加权协同训练算法。视图不充分时协同训练过程中会出现与最优分类器不一致的样本,该算法通过检测潜在的不一致样本并降低其权值以减少这些样本对训练过程的影响。实验结果表明,与标准的协同训练算法相比该算法有更好的泛化性能与更强的鲁棒性。第二,针对众包过程中任务标记依赖于任务难度这一特点,提出了一种新型的任务分配算法。该算法通过估计部分任务的难度构建训练集学得预测难度的模型,将任务分为简单和困难两类。对于简单的任务可利用众包进行标记;而对于困难的任务,则需雇佣专家为其提供高质量标记。实验结果表明该算法能够在提高标记质量的同时降低标记代价。此外,本文还对利用未标记数据的模型复用进行了研究,该场景中用户需要集成多个无法修改的预训练模型,针对这一问题,本文提出了一种新型的多视图模型复用算法。该算法通过信念传播估计预训练模型的可靠性,并基于未标记数据上的多视图一致性指导这一估计过程,进而利用估计得到的可靠性加权集成多个预训练模型。实验结果表明该方法能够显著提升分类精度。

关键词： 手写数字识别   机器学习   SVM   人工神经网络  

摘要： 手写数字识别是光学数字识别技术的一个重要分支,本质上是图片分类问题,利用机器学习的方法解决手写数字识别问题已经达到非常高的精度。本文主要介绍了手写数字识别的背景、国内外研究现状、手写数字识别的一般步骤。文章第三分部对手写数字识别步骤做了重点介绍,包括支持向量机算法和人工神经网络算法。

关键词： 冷胁迫蛋白   机器学习   分类预测   特征提取   数据库  

摘要： 冷胁迫对生物的生长和生活有着极度严重的影响,尤其是对植物来说。对植物的冷胁迫调节机制的研究,对相关的生物技术研究以及提高农作物产量等都有重要意义。当前,对植物冷胁迫蛋白的识别主要依靠人工进行,这种方式费时费力。截止目前,通过前期的资料整理,对整个拟南芥的蛋白数据库进行统计,已发现的与冷胁迫相关的蛋白仅有594条。所以,利用机器学习的方法,通过对已有的数据进行训练和预测,以为生物实验提供数据支持,具有一定的意义和研究价值。在本课题中,仅仅有正例的数据以及拟南芥的全部蛋白质序列,其中在后者中包含很多的未发现的冷胁迫蛋白序列。所以,这里首先考虑了PU Learning方法,从理论上来讲PU Learning是最合适的方法之一。将除正例数据之外的蛋白序列作为未标记的数据。尝试了PUCPI和LibD3C两种当前比较常用的PU Learning算法,但结果仅在50%上下。之后开始采用常用的分类算法进行尝试,将之前的未标记数据作为负例数据处理,并在LibSVM中得到了较好的结果。除了对分类算法的尝试,实验中还尝试了多种特征提取方法,如Pse-One、K-SkipN-Gram、Information Theory等,以及对多种特征提取方法的组合。此时,分类的准确率提高到了80%以上。在最后,一个新的负例集合被构造出来(这样可以有效的降低负例集中包含的未发现的冷胁迫蛋白的数量),并把分类准确率提高到了85%左右,取得了较好的结果。在寻找到了一个较好的冷胁迫蛋白的预测方法后,对现有的数据进行了整理并搭建了冷胁迫蛋白数据库网站。网站采用了Maven、Spring Boot,Mybatis,Mysql、VUE等主流Java Web开发技术,主要使用Java语言进行开发。为使用者提供了对拟南芥冷胁迫蛋白进行序列浏览、全文检索(Lucence)、序列比对(Blast)与分类预测等功能。

关键词： 强对流天气   临近预报   机器学习   数值模式数据   数据挖掘  

摘要： 目前，以四维变分同化技术为基础的大气再分析数值模式，已经可以以10-15分钟的高时间分辨率和1-3公里的高空间分辨率，对多普勒雷达等多种观测资料进行同化分析，可以实时反演出对流天气的三维动力和热力结构，包括三维风场、湿度、温度、压力等。本文利用这些实时再分析大气数据，使用数据挖掘和机器学习技术，研究强对流天气的预警方法。　　本文提出的强对流天气预警算法如下：首先，使用数据挖掘中的数据预处理方法对实时大气再分析数值模式的输出数据进行处理，整个处理过程包括四个步骤，一是数据的获取;二是数据清洗，也就是去除数据中的无效数据或坏点;三是数据归约，数据归约包括基于固定大小box处理的元组归约和基于特征选择的属性归约;四是数据变换，主要是对数据进行归一化处理。然后，对强对流天气的预警问题进行机器学习的形式化建模，将其转化为一个分类问题，并使用支持向量机作为分类器。针对再分析大气数据的特点，考虑到时间信息和空间信息对特定区域对流灾害天气的影响，本文构建了时间和空间特征。在时间信息上，将当前时刻与前一时刻的差值作为额外的特征。在空间信息上，不仅考虑指定位置内的特征值，还将其周围区域的特征值也纳入特征向量。试验结果表明，本文提出的方法可以有效预报强对流天气。与其它方法相比，本文提出的方法不需使用光流法计算运动矢量场，即可以预报出强对流天气的运动趋势，并且可以预报出对流的新生（CI），这是以往的方法不能做到的。

关键词： 空气质量预测   分类算法   混合模型   位置数据   网络爬虫  

摘要： 随着我国雾霾问题的日益严重,人们越来越关注空气质量,预测未来时间和未知区域的空气质量可以给人们生活提供建议,而城市中的普通人往往关注空气质量等级而不是某一个污染物的指数,所以预测空气质量等级有一定的现实意义。一般的气象学方法例如大气预测模型、污染扩散模型,往往结构复杂,计算量高。传统的机器学习方法能避免这些问题,但是数据源和模型结构都较为单一。如何利用城市里高速发展的互联网产生的大量数据,深入理解分析空气质量预测课题,提取特征构造模型,从而提高空气质量预测的效果是一个值得探索的问题。本文提出了基于位置数据的空气质量分类混合预测模型,主要研究工作如下:1)研究空气质量和气象特征,时间特征,POI(Point of Interest)特征,以及位置数据之间的相关性。2)对于未来时间的空气质量等级预测,在时间上用SVM算法分类,在空间上对周边区域通过分割整合处理特征,使用ANN算法进行分类,再将两个预测结果通过决策树整合。3)对于未知空间的空气质量等级预测,在时间上用CRF算法分类,在空间上用KNN选择若干个相似的已知区域,计算两两之间的相关系数作为特征,使用GBDT算法进行分类,最后用决策树整合。4)通过一系列实验,研究位置人流数据,即位置数据的使用粒度对预测效果的影响,比较本文中使用位置数据的混合分类模型与回归模型、单一模型、以及其他传统模型的性能,结果显示本文的模型有一定的改进。

关键词： RANDOM FOREST   METABOLISM   OBESITY   CELLS   ACID  

摘要： Background: The recent pandemic of obesity and the metabolic syndrome (MetS) has led to the realisation that new drug targets are needed to either reduce obesity or the subsequent pathophysiological consequences associated with excess weight gain. Certain nuclear hormone receptors (NRs) play a pivotal role in lipid and carbohydrate metabolism and have been highlighted as potential treatments for obesity. This realisation started a search for NR agonists in order to understand and successfully treat MetS and associated conditions such as insulin resistance, dyslipidaemia, hypertension, hypertriglyceridemia, obesity and cardiovascular disease. The most studied NRs for treating metabolic diseases are the peroxisome proliferator-activated receptors (PPARs), PPAR-alpha, PPAR-gamma, and PPAR-d. However, prolonged PPAR treatment in animal models has led to adverse side effects including increased risk of a number of cancers, but how these receptors change metabolism long term in terms of pathology, despite many beneficial effects shorter term, is not fully understood. In the current study, changes in male Sprague Dawley rat liver caused by dietary treatment with a PPAR-pan (PPAR-alpha, PPAR-gamma, and -delta) agonist were profiled by classical toxicology (clinical chemistry) and high throughput metabolomics and lipidomics approaches using mass spectrometry. Results: In order to integrate an extensive set of nine different multivariate metabolic and lipidomics datasets with classical toxicological parameters we developed a hypotheses free, data driven machine learning approach. From the data analysis, we examined how the nine datasets were able to model dose and clinical chemistry results, with the different datasets having very different information content. Conclusions: We found lipidomics (Direct Infusion-Mass Spectrometry) data the most predictive for different dose responses. In addition, associations with the metabolic and lipidomic data with aspartate amino transamin

关键词： protein-protein interfaces   hot-spots   machine learning   Solvent Accessible Surface Area (SASA)   evolutionary sequence conservation   ACCESSIBLE SURFACE-AREA   CRYSTAL-STRUCTURE   STRUCTURAL BASIS   RIBONUCLEASE INHIBITOR   ACCURATE PREDICTION   CATALYTIC DOMAIN   COMPLEX REVEALS   TISSUE FACTOR   FREE-ENERGY   3RD DOMAIN  

摘要： Understanding protein-protein interactions is a key challenge in biochemistry. In this work, we describe a more accurate methodology to predict Hot-Spots (HS) in protein-protein interfaces from their native complex structure compared to previous published Machine Learning (ML) techniques. Our model is trained on a large number of complexes and on a significantly larger number of different structural-and evolutionary sequence-based features. In particular, we added interface size, type of interaction between residues at the interface of the complex, number of different types of residues at the interface and the Position-Specific Scoring Matrix (PSSM), for a total of 79 features. We used twenty-seven algorithms from a simple linear-based function to support-vector machine models with different cost functions. The best model was achieved by the use of the conditional inference random forest (c-forest) algorithm with a dataset pre-processed by the normalization of features and with up-sampling of the minor class. The method has an overall accuracy of 0.80, an F1-score of 0.73, a sensitivity of 0.76 and a specificity of 0.82 for the independent test set.

关键词： 软件安全   结合语义   机器学习   方法   探讨  

摘要： 近年来,在计算机信息技术发展的同时,各种类型的软件已经被广泛地应用在社会生活和生产当中的多个领域。然而,在长期的发展过程中,信息系统的漏洞逐渐突显出来,病毒的种类也处于动态的变化过程中,所以,软件安全已经成为当前所需考虑的难题。而在此背景下,机器学习快速发展,并且在多个领域都被广泛应用。

关键词： ESTROGEN-RECEPTOR   IMAGE-ANALYSIS   PROGESTERONE-RECEPTOR   RADIOGENOMIC ANALYSIS   EXPRESSION   LESIONS   RECURRENCE   DIAGNOSIS   FEATURES   RISK  

摘要： Using quantitative radiomics, we demonstrate that computer-extracted magnetic resonance (MR) image-based tumor phenotypes can be predictive of the molecular classification of invasive breast cancers. Radiomics analysis was performed on 91 MRIs of biopsyproven invasive breast cancers from National Cancer Institute's multi-institutional TCGA/TCIA. Immunohistochemistry molecular classification was performed including estrogen receptor, progesterone receptor, human epidermal growth factor receptor 2, and for 84 cases, the molecular subtype (normal-like, luminal A, luminal B, HER2-enriched, and basal-like). Computerized quantitative image analysis included: three-dimensional lesion segmentation, phenotype extraction, and leave-one-case-out cross validation involving stepwise feature selection and linear discriminant analysis. The performance of the classifier model for molecular subtyping was evaluated using receiver operating characteristic analysis. The computer-extracted tumor phenotypes were able to distinguish between molecular prognostic indicators; area under the ROC curve values of 0.89, 0.69, 0.65, and 0.67 in the tasks of distinguishing between ER+ versus ER-, PR+ versus PR-, HER2+ versus HER2-, and triple-negative versus others, respectively. Statistically significant associations between tumor phenotypes and receptor status were observed. More aggressive cancers are likely to be larger in size with more heterogeneity in their contrast enhancement. Even after controlling for tumor size, a statistically significant trend was observed within each size group (P = 0.04 for lesions <= 2 cm; P = 0.02 for lesions >2 to <= 5 cm) as with the entire data set (P-value = 0.006) for the relationship between enhancement texture (entropy) and molecular subtypes (normal-like, luminal A, luminal B, HER2-enriched, basal-like). In conclusion, computer-extracted image phenotypes show promise for highthroughput discrimination of breast cancer subtypes and may yield a quantitative