分类

Perceptron

• 
• 

Perceptron Learning Algorithm

• 
  • $y_i\in \{-1,1\}$
• Iteration
  • 不断 pick，调整分类平面
  • 
    • 即朝着 $y_i$ 方向调整

理论依据

• 线性可分
  • 或者 ${\mathbf{w}}_{\ast }^T{\mathbf{x}}_i\cdot y_i>0$
• 理论
  • 证明
    • 假设我们的更新规则是 ${\mathbf{w}}_{(t+1)}={\mathbf{w}}_{(t)}+y_{i(t)}{\mathbf{x}}_{i(t)}$

处理数据

• 让不可分变可能可分
  • 

决策平面

• 
• 
  • 可以衡量点的置信度

学习模型

损失函数