(P1笔记)Regression回归——机器学习:李宏毅

Regression回归

  • 对照学习框架来看
    (P1笔记)Regression回归——机器学习:李宏毅
    • 他是上一节中的scenario场景中的一个 task任务:Regression回归

    • Regression:output a scalar 回归:输出是一个数值量

    • 上节课说机器学习就是为了找到一个function,那回归要做的事情就是我们要找的那个functionoutput是一个数值也就是说我们要找的function的output是一个数值就是我们的回归Regression

  • Regression的几个例子:1.股票预测,就要用到Regression这个技术,他的function的Input是往年股票的一些数据或咨询之类的,output输出是哪家股票上涨的一个数值。2.无人车:也是找function,只不过他很复杂,他的input是一些sensor数据,距离之类的数据,output就是方向盘的角度之类的,也是数值。3.可购买性计算
    (P1笔记)Regression回归——机器学习:李宏毅
    (P1笔记)Regression回归——机器学习:李宏毅

    • 应用举例:培养宝可梦的CP战斗力值

      • 找一个function,他的input就是进化前的宝可梦的,output就是进化后的CP值
        (P1笔记)Regression回归——机器学习:李宏毅
        (P1笔记)Regression回归——机器学习:李宏毅(P1笔记)Regression回归——机器学习:李宏毅
    • 根据我们之前说的机器学习的步骤分三步

      • 1.Model(找一个模型),就是一大堆数据
        • 也就是找一组function set
        • 我们需要的这些function他的input就是某一只宝可梦记作x,output就是进化后的CP值记作y
        • 根据自己写的公式:y=b+w*xcp,作为function的输出计算公式(w和b是模型的参数)
          (P1笔记)Regression回归——机器学习:李宏毅
        • y1,y2,y3我们都假设好了,但我们知道y3是不合理的,我们让机器自己挑出哪些是合理的哪些是不合理的,挑出最好的function
        • 由公式得出线性模型(Linear model)如下图
          (P1笔记)Regression回归——机器学习:李宏毅
      • 那我们现在有了一个model之后,接下来就进行第二个步骤
        • 第二个步骤就是去衡量model里的function有多好有多不好,这件事怎么做?
        • 首先需要搜集一些训练的资料(Training Data),而训练的资料里面必须要告诉机器说:这个function的input和output的对应关系(也就是说进化前与进化后的对比),比如抓一只小龟CP是612,然后进化后的CP是979,这就是一组对应关系(P1笔记)Regression回归——机器学习:李宏毅
        • 这其实并不是真正的例子,我们是有真正的例子的,比如我现在的Training Data里有10只宝可梦用x1~ x10表示,十只的输入,用y1~y10来表示十只的输出。这个是真正的Data。把这十只用图表示出来十个点,每个点就是每只宝可梦进化前和进化后的CP值
          (P1笔记)Regression回归——机器学习:李宏毅
        • 接下来有了这些Training Data以后,我们就可以来衡量这个Function有多好有多不好。根据自己定义的公式来进行衡量(Goodness of Function),根据Loss Function的公式,然后通过公式解算就选择最好的Funchtion,这个公式可以通过线性代数解出来
          (P1笔记)Regression回归——机器学习:李宏毅
        • 这个Gradient Descent梯度下降,可以用在各种不同的task上面,我们只要定义出这个Loss Function L出来,不管model是什么样的,只要对输入的参数是可微分的,那我们就可以用Gradient Descent
          (P1笔记)Regression回归——机器学习:李宏毅