机器学习与数学分析

机器学习
对于某给定的任务T，在合理的性能度量方案P的前提下，某计算机程序可以自主学习任务T的经验E；
随着提供合适、优质、大量的经验E，该程序对于任务T的性能逐步提高。
这里最重要的是机器学习的对象：
任务Task,T，一个或者多个
经验Experience,E
性能Performance,P
即：随着任务的不断执行，经验的累积会带来计算机性能的提升。
机器学习是人工智能的一个分支。我们使用计算机设计一个系统，使它能够根据提供的训练数据按照一定的方式来学习；随着训练次数的增加，该系统可以在性能上不断学习和改进；通过参数优化的学习模型，能够用于预测相关问题的输出。
机器学习可以解决什么

• 给定数据的预测问题
• 数据清洗/特征选择
• 确定算法模型/参数优化
• 结果预测
  不能解决什么
  大数据存储/并行计算
  做一个机器人
  机器学习的一般流程
  数据挖掘/机器学习的流程:数据收集-数据清洗-特征工程-数据建模
  最大熵模型：自然语言处理解决标记问题
  聚类：K-means/K-Mediods/密度聚类/谱聚类
  降维：PCA/SVD/ICA
  SVM：与核技术相结合
  主题模型pLSA/LDA：与聚类、标签传递算法相结合
  条件随机场：无向图模型，链式条件随机场解决标记问题
  变分推导Variation Inference：与EM、贝叶斯相结合，参数、隐变量的学习
  深度学习：大规模人工神经网络导数就是曲线的斜率，是曲线变化快慢的反应