SVM(二)拉格朗日对偶式 在 SVM(一) 中从感知机说到硬间隔线性可分SVM的损失函数，此时损失函数是有约束条件的，无法直接计算导数为0时的参数，需要转换一下将目标函数和约束条件放到一个拉格朗日函数中 ，这也就是为什么要构造拉格朗日函数，同时引出 拉格朗日对偶式，利用对偶式来求解，并且有利于引出核函数的思想，这里简单讨论一下SVM对偶式，并给出一个具体例子来思考原始问题和对偶问题的异同点 … read more
SVM(一)从感知机到SVM损失函数 在做二分类任务的时候，往往可采用的方法有很多，比如 对数几率回归 或者树模型(往往是 随机森林 ， GBDT 这一类集成模型)，当然还有很多种办法， 感知机 就是其中的比较直观和简单的一种，感知机的原理很简单，考虑在特种空间中的 线性可分 … read more