目录

• 说明（readme）
• 经典监督学习方法（Supervised learning）
• 贝叶斯决策理论（BAYES DECISION THEORY）
• 支持向量机稳健数值逼近
• LDA学习算法
• QDA学习算法
• 修正KNN方法
• 朴素贝叶斯方法
• 算例分析（case study）
• 女性乳腺癌诊断（breast cancer）
• iris分类（Iris Data）
• 葡萄酒品种推断（Using chemical analysis determine the origin of wines）
• 附录（部分源代码）
• QDA方法
• KNN方法
• 朴素贝叶斯方法

经典监督学习方法

Supervised learning

本栏所有函数由本人编写，未采用第三方库，打算全部用go语言编写。之所以采用 go语言，一是因为，机器学习算法方面我没有积累，因此是零包袱，可以随便采用什么语言。 另外go语言语法上与c语言比较接近。因此也较为容易翻译成c/c++等语言。 没有采用python编写，因为python已经有很多较为成熟的机器学习框架可以使用，没必要再写一遍。 目前主要开发的软件包括

• mknn
• QDA
• LDA
• 贝叶斯分类器
• 朴素贝叶斯分类器
• 支持向量机数值逼近 (matlab)

算法请自行参考斯坦福等校的机器学习教材。 本栏主要参考的一些书如下

• The Elements of Statistical Learning
• The+nature+of+statistical+learning+theory
• data mining and analysis
• Computer Age Statistical Inference
• All Of Statistics
• Modern Multivariate Statistical Tecqnicues
• 机器学习（周志华）
• Applied Multivariate Statistical
• Pattern.Recognition-Theodoridis,.Koutroumbas（中文版：模式识别）

不同机器学习算法，对不同的场景有各自的优劣性，Hastie和Tibshirani等人对经典算法的性能进行过较为详细的比较分析。 有兴趣可以自行查阅相关文献。