Definition of Dichotomy

台大的线上课程，Machine Learning Foundations，对于Dichotomy的定义：

大家对此定义，是否感到困惑？式子左边有h，为何右边也有h？

这有点像是我们在念文言文，有许多字是一字多义。尤其是“于”这个字，“茕茕仆夫，于彼冀方”这里的“于”是“往”的意思。“婿立于门外”这里的“于”是“于”的意思。当然，本人学问没这么大，这些例子是从网路上抓下来的。

学文言文有一个好处就是，不会执着于一个字只能有一个解释，可以发挥想像力及推演能力，去理解一篇文章。

回到正题。这里要说的是，左边的h，指的是Dichotomy。而右边的h，就是Hypothesis。而Dichotomy是一种很特别的Hypothesis。

先看式子的右边，这是什么意思？

这是N个 {X, O} 的笛卡尔积。请参考WIKI的Cartesian Product (笛卡尔积)
https://en.wikipedia.org/wiki/Cartesian_product

N = 2去想这件事 (+1为O，-1为X)：

N = 3时：

所以，当N=3时，Dichotomy的个数最多有8个 |h(x1, x2, x3)|

Hypothesis的定义

找到一个hypothesis，h，能区分平面上的3个点为 (+1为O，-1为X)
h(x1) = +1
h(x2) = +1
h(x3) = -1

换一个方式问，能区分平面上的3个点为 +1、+1、-1，的Hypothesis，有几个？上一篇说明，有无限多个。

我们把所有能区分平面上的3个点为 +1、+1、-1，的Hypothesis，归为一类，称为Dichotomy，用符号h'，表示之，以区分h。
h'(x1, x2, x3) = (h(x1), h(x2), h(x3)) = (+1, +1, -1)

于是，我们把无限多个Hypothesis，归为一类，用一个Dichotomy表示。课程里所提的，式子左边的h，其实就是h'。因为课程用相同的符号h表达Dichotomy和Hypothesis，造成我们的困扰，有可能是因为我们文言文读的不够多的关系。而为何用相同的h代表Dichotomy和Hypothesis？这是因为Dichotomy是一种特殊的Hypothesis。从此以后，课文提到的Hypothesis，其实就是Dichotomy。这样想，就明白了。

-Count