RavenZhao's Blog

DON'T PANIC.

第四章 决策树

机器学习

第四章 决策树 4.1 基本流程 决策树(decision tree):基于树结构来进行决策。 决策过程的最终结论对应了我们所希望的判定结果; 决策过程中提出的每个判定问题都是对某个属性的“测试”; 每个测试的结果或是导出的最终结论,或是导出的进一步的判定问题。 决策树包含: 一个根结...

第三章 线性模型

机器学习

第三章 线性模型 3.1 基本形式 给定由$d$个属性描述的示例$x=(x_1,x_2,x_3,…,x_d)$,其中$x_i$是$x$的第$i$个属性上的取值,线性模型(linear model)试图学习得到一个通过属性的线性组合来预测的函数,即:$f(x)=w_1x_1+w_2x_2+w_3x_3+…+w_dx_d+b$。 一般用向量形式写成$f(x)=w^tx+b$,其中$...

第二章 模型评估与选择

机器学习

第二章 模型评估与选择 2.1 经验误差与过拟合 错误率(error rate):分类错误的样本数占样本总数的比例。如果在$m$个样本中有$a$个样本分类错误,则错误率$ E = a/m $。 精度(accuracy)= 1-错误率。$ accuracy = 1 - E $。 误差(error):学习器的实际预测输出与样本的真实输出之间的差异。 学习器...

第一章 绪论

机器学习

第一章 绪论 1.1 引言 我们能做出有效的预判,是因为我们已经积累了许多经验,通过对经验的利用,就能对新的情况做出有效的决策。 在计算机系统中,”经验“通常以数据的形式存在。 机器学习所研究的主要内容,是关于在计算机上从数据中产生“模型”(model)的算法,即机器学习算法(learning algorithm) 假设用P来评估计算机程序在某任务类T上的性能,若一个程...