当我们需要衡量一个随机变量可能的数值的时候，例如测量一个电压的范围， 我们就需要引入平均值和方差了。

平均值对 …

There are comments.

Independence 独立性，是用于处理大量随机变量的重要工具。 利用独立性，我们可以同时对大量的独立变量进行估计。

There are comments.

为了能够更明确的表达机器学习的问题，人们引了概率论。

There are comments.

Novelty detection （异常检测）是一个不好定义的问题。这个问题形容那些不寻常（unusual）的观测情况。 选择哪些东西作为“不常见”这件事情，本身 …

There are comments.

Regression （回归）问题是另一类经典问题。回归问题的目标是在给定\(x\)的基础上，给出\(y \in R\)的估计。 一个例子是股票：股票每天的股 …

There are comments.

Structured Estimation 主要描述如何对\(y\)进行合适的设计。 在不同的背景下，\(y\)所表达的意义是不同的。 当对网页进行分类的时候，\(y\)可能是 …

There are comments.

多分类问题是二分类问题的一个逻辑拓展。 主要的区别是，\(y\in\{1,...,n\}\)，y取值于一个范围。 例如，我们可能需要对一个文档所用的语种进行分 …

There are comments.

• 当我们允许选择一部分\(X\)来构建模型时，这称之为主动学习。
• 我们可能没法办法得到全部的\(X\)的数据，有些数值可能是缺 …

There are comments.

1. 我们能够看见连续序列\((x_i,y_i)\)，需要对\(y_i\)进行估计，这一般称之为在线学习（online learning)。
2. 集合\(X:=\{x_1,...,x_m\}\)与集合\(Y:=\{y_1,...,y_m\}\)，\((x_i, y_i)\)成对，需要预 …

There are comments.

二分类问题是一个被研究最多的问题之一。 比较常见有：邮件是否是垃圾邮件，一个水果是苹果还是橘子。

There are comments.