内容简介
《支持向量机：理论、算法与拓展》以分类问题（模式识别、判别分析）和回归问题为背景，介绍支持向量机的基本理论、方法和应用。特别强调对所讨论的问题和处理方法的实质进行直观的解释和说明，因此具有很强的可读性。为使具有一般高等数学知识的读者能够顺利阅读，书中首先介绍了优化的基础知识。
《支持向量机：理论、算法与拓展》可作为理工类、管理学等专业的高年级本科生、研究生和教师的教材或教学参考书，也可供相关领域的科研人员和实际工作者阅读参考。目录
序言
符号表
第1章最优化基础
1．1欧式空间上的最优化问题
1．1．1最优化问题实例
1．1．2最优化问题及其解
1．1．3最优化问题的几何解释
1．2欧式空间上的凸规划
1．2．1凸集和凸函数
1．2．2凸规划问题及其基本性质
1．2．3凸规划的对偶理论
1．2．4凸规划的最优性条件
1．2．5线性规划
1．3Hilbert空间上的凸规划
1．3．1凸函数及Frechet导数
1．3．2凸规划问题
1．3．3凸规划的对偶理论
1．3．4凸规划的最优性条件
1．4欧式空间上带有广义不等式约束的凸规划
1．4．1带有广义不等式约束的凸规划
1．4．2带有广义不等式约束的凸规划的对偶理论
1．4．3带有广义不等式约束的凸规划的最优性条件
1．4．4二阶锥规划
1．4．5半定规划
1．5Hilbert空间上带有广义不等式约束的凸规划
1．5．1K－凸函数与Frechet导数
1．5．2凸规划问题
1．5．3凸规划的对偶理论
1．5．4凸规划的最优性条件
第2章线性分类机
2．1分类问题的提出
2．1．1例子（心脏病诊断）
2．1．2分类问题和分类机
2．2线性可分问题的支持向量分类机
2．2．1最大间隔法_
2．2．2线性可分问题的支持向量分类机
2．2．3支持向量
2．3线性支持向量分类机
2．3．1最大间隔法
2．3．2线性支持向量分类机
第3章线性回归机
3．1回归问题和线性回归问题
3．2硬ε带超平面
3．2．1从线性回归问题到硬乒带超平面
3．2．2硬ε-带超平面与线性分划
3．2．3构造硬ε带超平面的最优化问题
3．3线性硬ε-带支持向量回归机
3．3．1原始问题
3．3．2对偶问题及其与原始问题解的关系
3．3．3线性硬ε-带支持向量回归机
3．4线性ε-支持向量回归机
3．4．1原始问题
3．4．2对偶问题及其与原始问题解的关系
3．4．3线性ε-支持向量回归机
第4章核与支持向量机
4．1从线性分划到非线性分划
4．1．1非线性分划的例子
4．1．2基于非线性分划的分类算法
4．1．3基于非线性分划的回归算法
4．2核函数
4．2．1核函数及其特征
4．2．2核函数的判定和常用的核函数
4．3支持向量机及其性质
4．3．1支持向量分类机
4．3．2支持向量回归机
4．4支持向量机中核函数的选取
4．4．1已知训练集时核函数的选取
4．4．2核函数的直接构造
第5章C-支持向量分类机的统计学基础
5．1分类问
5．1．1概率分布
5．1．2分类问题的统计学提法
5．2经验风险最小化原则
5．3VC维
5．4结构风险最小化原则
5．5结构风险最小化原则的一个直接实现
5．5．1原始问题
5．5．2拟对偶问题及其与原始问题的关系
5．5．3结构风险最小化分类机
5．6C-支持向量分类机的统计学习理论基础
5．6．1C-支持向量分类机的回顾
5．6．2对偶问题与拟对偶问题的关系
5．6．3C-线性支持向量分类机的统计学习理论解释
……
第6章模型选择
第7章算法
第8章支持向量机的变形与拓广
参考文献
索引前言/序言
支持向量机是借助于优化方法解决数据挖掘中若干问题的有力工具，它在一定程度上克服了“维数灾难”和“过学习”等传统困难，并在文本分类、生物信息、语音识别、遥感图像分析、故障识别和预测、时间序列预测、信息安全等诸多领域有了成功的应用。
支持向量机不仅有着统计学习理论的坚实理论基础，而且具有直观的几何解释和完美的数学形式。虽然自20世纪90年代由Vapnik提出以来一直处于飞速发展的阶段，但是支持向量机的理论基础和各种算法实现的基本框架已经形成。自2000年开始，国外已陆续有专著出版。
2004年，作者在科学出版社出版了学术专著《数据挖掘中的新方法——支持向量机》，该书是国内一本专门对支持向量机进行全面完整介绍和论述的著作，出版后读者反映良好，并被中国科学院研究生院、清华大学、中国农业大学等用作研究生教材，被评为2006年北京市精品教材。经过五年的继续研究与教学实践，我们决定对该书进行全面改写，增加新的研究成果，并更名为“支持向量机——理论、算法与拓展”。
《支持向量机：理论、算法与拓展》特别强调可读性，强调直观对理解问题实质的重要作用。在给出系统严谨的论述之前，一般先用图像等直观手段引进各种概念、方法和结论，并特别注意对它们的本质给予形象的解释和说明。对于原始文献中没有提及直观解释的内容，我们也尽可能予以补充，例如，对求解多类分类问题的Crammer-Singer支持向量机，我们给出了清晰的几何解释。与第一部著作相比，《支持向量机：理论、算法与拓展》的逻辑系统更加清晰，对问题的阐述也更加简明，
《支持向量机：理论、算法与拓展》主要讨论分类问题和回归问题，基于把回归问题转化为分类问题的研究工作，《支持向量机：理论、算法与拓展》以分类问题为主线，形成了统一的格局。主要内容如下：第1章介绍优化基础。该章着重于凸规划的介绍，添加了引领优化方法应用研究的锥规划（包括二阶锥规划和半定规划），以及Hilbert空间中的凸规划理论。这是以后章节以及进一步研究新的支持向量机的优化基础。第2章和第3章则分别对线性分类问题和线性回归问题直观地导出最基本的线性支持向量机。第4章介绍核的基本概念，并在此基础上介绍求解一般的分类问题和回归问题的支持向量机。第5章则从间隔法的统计学解释入手，讨论支持向量机的统计学习理论基础。第6章介绍支持向量机实际应用中的模型选择问题，第7章介绍实现支持内量机的几个主流算法。第8章是前面讨论过的基本的支持向量机的变形与拓广，包括求解多类分类问题、半监督问题、带有扰动的问题和多示例问题的支持向量机。
《支持向量机：理论、算法与拓展》包含了我们自己的研究工作，例如第5。6节，就是我们完善支持向量机的统计学习理论基础的研究成果。我们相信，这是迄今为止对C-支持向量分类机的一种最确切、最直接、最简明的统计学习理论解释。此外，这里还给出了C-支持向量分类机中的参数C以全新的意义。又如第8章中给出的利用顺序回归的思想求解多类分类问题的支持向量机，通过构建二阶锥规划或者半定规划模型求解半监督问题和带有扰动的问题的支持向量机，以及处理多示例问题的支持向量机等内容。
《支持向量机：理论、算法与拓展》所设定的读者范围较广，既包括初涉支持向量机的人员，也包括希望利用支持向量机解决实际问题的人士，还可作为对支持向量机进行深入研究的参考书，
《支持向量机：理论、算法与拓展》得以出版，我们要感谢国家自然科学基金连续多年对我们研究工作的资助和国家科学技术学术著作出版基金的资助；感谢北京航空航天大学的王日爽教授、曲阜师范大学的王长钰和王宜举教授、大连理工大学的夏尊铨和张立卫教授、北京交通大学的修乃华教授、北京理工大学的刘宝光教授、空军指挥学院的李意起教授、上海大学的白延琴教授、中国农业大学的经玲教授和甄苓副教授，感谢中国科学院马志明院士、章祥荪研究员、石勇教授，中国微软亚洲研究院李航研究员，香港中文大学张树中教授对《支持向量机：理论、算法与拓展》的关心和支持，感谢桂林电子科技大学的朱志斌教授和中国人民大学的张春华博士给予的宝贵建议，同时感谢我们讨论班的成员：杨志霞博士、赵琨博士和王永翠、邵小健、秦如新、赵艳梅、高婷婷、邵元海、徐岩、李玉欣等同学，他们都对《支持向量机：理论、算法与拓展》提供了帮助。
