课程大纲

一、 智能能力、学习、和智能系统  

1)   两种智能能力

2)   规律与模型

3)   两个典型例子混合高斯分布和子空间分析

PCA、子空间、 因子分析、和ICA

      4)三个层次反问题问题求解参数學習、模型选择

学习的本质特点和基本要素

     1) 学习的本质通过有限的样本集建立学习系统与外界的双向映射

     2) 要素一学习系统(学生)的结构

若干常见结构和四种组构方式

     3) 要素二指导方针(学习理论)

   样本集最佳描述到学习反映样本集背后的规律

     4)要素三实现过程(學習算法)

   积分与优化,理论计算复杂性

 基本挑战学习理论

1)   大数定理统计一致性Bias-Variance关系

2)   从大样本理论小样本集挑战

样本集大小规律复杂性系统规模之间的关系

样本最佳表示理论和最佳内部编码理论

3)   两个对策方向结构规范与结构简

结构规范:Tikhonov (简单平滑)SVM (界限分明)Combining and Boosting(集成复用)

结构简裁:Sparse(稀疏)与Selection(选裁)

4)   四个学习理论

误差估计(CVAICVC) Bayes (classicup-to-date) 、最佳编码(KolmogorovMDL

最大和谐(BYY harmony learning

学习理论与四种哲学思想

、 学习之计算实现:积分与优化

1)   积分之近似计算

Taylor展开Lapalace近似

AIC  BIC

2)   优化算法局部搜索与非局部搜索

局部梯度搜索、backpropagation, deep-learning

EM 算法与混合高斯学习、一个统一算法

SVM与凸规划算法

3)   模型选裁

两阶段法与逐步选择

学习过程中的自动选择:RPCL学习与BYY学习

4)   学习远不仅仅是优化:  搜索最优、累积优化、习得推断、适应进化

BYY和谐学习

1)   阴阳五行和谐系统与BYY学习系统

2)   问题求解A5与中医五行理论:以RHT检测为例

3)   BYY和谐:默契地一致与匹配之最小系统

4)   从学习梯度流看异同:最大似然、和谐学习和RPCL学习

統計學習理论的一个统一体系: 与现有主要方法之异同

1)   三个信息理论的统一框架

2)   三条通联现有主要方法之

最小交叉熵、最佳信息传递Variational BayesBayes方法(MAPBIC

3)   BYY和谐学习的若干优点

4)   算法峰点邻域近似、阴阳交替学习

几个典型学习问题 

 1)   学习线性矩阵系统XAY+E(独立因子、非负矩阵、 preference矩阵、时序关系)

 2)   学习局部子空间与自动确定子空间个数维数

 3)   学习Multi-agents (局部回归、局部判别、局部活动)

 4)   学习树状高斯混合分布与隐马模型学习