机器学习-统计学习1

统计学习

MLE(极大似然估计)

极大似然方法

基本概念
  • 概率分布
    机器学习-统计学习1表示一个概率分布,机器学习-统计学习1是该分布的参数。例如,抛掷硬币的概率分布为:
    机器学习-统计学习1
  • 样本
    从概率分布中产生的数据称为样本,机器学习-统计学习1是从该分布中产生的n个样本。
  • 离散/连续分布
    当x取离散值时,称变量x的分布为离散分布;取连续值时,则称为连续分布。
  • 离散/连续参数
    机器学习-统计学习1取离散值时,称机器学习-统计学习1为离散参数;取连续值时,称机器学习-统计学习1是连续参数。
  • 极大似然方法
    机器学习-统计学习1
    机器学习-统计学习1

离散分布-离散有限参数

机器学习-统计学习1
机器学习-统计学习1

离散分布-连续分布

机器学习-统计学习1
机器学习-统计学习1

连续分布-连续参数

机器学习-统计学习1
机器学习-统计学习1
机器学习-统计学习1
机器学习-统计学习1

最大后验估计MAP

概述
  • 数据集
    机器学习-统计学习1
  • 先验概率分布
    机器学习-统计学习1
  • 似然函数
    机器学习-统计学习1
  • 后验概率分布
    机器学习-统计学习1
  • 定义
    通过求解后验概率最大值来推断未知参数的方法称为最大后验法。
    机器学习-统计学习1
    机器学习-统计学习1
    机器学习-统计学习1
    机器学习-统计学习1

贝塔分布

机器学习-统计学习1
机器学习-统计学习1
机器学习-统计学习1