机器学习的数学基础
基础不牢地动山摇,好好打数理基础!但一口吃不成大胖子—— 有答主提到:
”在很多相关的回答中,我都一再强调不要试图补足数学知识再开始学习机器学习。一般来说,大部分机器学习课程/书籍都要求:
- 线性代数:矩阵/张量乘法、求逆,奇异值分解/特征值分解,行列式,范数等
- 统计与概率:概率分布,独立性与贝叶斯,最大似然(MLE)和最大后验估计(MAP)等
- 优化:线性优化,非线性优化(凸优化/非凸优化)以及其衍生的求解方法如梯度下降、牛顿法、基因算法和模拟退火等
- 微积分:偏微分,链式法则,矩阵求导等
- 信息论、数值理论等
一般人如果想要把这些知识都补全再开始机器学习往往需要很长时间,容易半途而废。而且这些知识是工具不是目的,我们的目标不是成为优化大师。建议在机器学习的过程中哪里不会补哪里,这样更有目的性且耗时更低。” [本文只包含开源部分的下载链接]
线性代数
Introduction to Linear Algebra
适合入门、相对简单友好的书
下载地址
视频教程 台湾清华大学 趙啟超教授 课程首页
矩阵求导相关
- 推荐一下我自己写的入门:矩阵求导简易入门手册
- 台湾大学 Matrix Calculu by Po-Chen Wu 我个人觉得是简要却齐全的速成ppt。
- 查阅手册:matrixcookbook
- 在线计算与验证:MatrixCalculus
线性代数 拓展(应用数学系)
線性代數(一) Linear Algebra I 视频地址
線性代數(二) Linear Algebra II
课程用书:Linear Algebra, 4th Edition, S. Friedberg, A. Insel and L. Spence, 2003, Prentice Hall.
概率论与统计学
洪永淼 概率论与统计学
Mathematics for Machine Learning
本书主页 下载地址 学习视频及其笔记
本书结构:
Part I: Mathematical Foundations
Introduction and Motivation
Linear Algebra
Analytic Geometry
Matrix Decompositions
Vector Calculus
Probability and Distribution
Continuous Optimization
Part II: Central Machine Learning Problems
When Models Meet Data
Linear Regression
Dimensionality Reduction with Principal Component Analysis
Density Estimation with Gaussian Mixture Models
Classification with Support Vector Machines
机器学习入门
李宏毅2021春机器学习课程
课程地址:
https://speech.ee.ntu.edu.tw/~hylee/ml/2021-spring.html
课件和资料Github版:
https://github.com/Fafa-DL/Lhy_Machine_Learning
可参考笔记:
https://github.com/unclestrong/DeepLearning_LHY21_Notes
机器学习实战:基于Scikit-Learn和TensorFlow
好书,看就完了!!(翻译可能有时候不靠谱) [涉及到的代码]](https://github.com/ageron/handson-ml2)
python机器学习手册
本书的特色是任务制学习
机器学习进阶
李航老师 统计学习
入门选手可参考学习路径
深度学习
待更新(开摆)
计算机视觉
待更新(开摆)