2020-08-26

论文导读：使用半定规划的方法进行数据降维–通过最大最小距离[Max-min distance analysis by using sequential SDP relaxation for dimension reduction]

本文旨在记录阅读文献时的想法，并不适合小白，有一定数据降维经验的小伙伴会更快上手。
原文地址：Max-min distance analysis by using sequential SDP relaxation for dimension reduction
本文的目的是实现数据降维，需要首先了解普通的PCA和LDA[Linear discriminate analysis]的算法。
LDA的算法是通过最大化类与类之间的距离和最小化同类之间的方差为目标的算法。目标函数设定为$\text{objective} : min \frac{W^TS_{b}W}{W^TS_{w}W}$objective:minWTSw​WWTSb​W​
具体的请移步：LDA

本文的方法提出一个新的优化目标：最大化类别间的最小距离。根据木桶原理，分类的性能瓶颈肯定受限于最小的距离的两个类别。最小的距离被优化了，那么整体的性能肯定会得到优化。
设定好了目标函数以后我们可以显式的把优化问题表达出来。
考虑一个$C$C种类别的分类问题，假设每一个类别之内的数据点的分布都是同样方差的高斯分布。
大概如下如图所示：