1. 为什么机器学习需要数学基础
在咖啡馆里,我经常遇到想转行AI的年轻人,他们总是急切地问:"学机器学习是不是只要会调库就行?"这时我总会放下咖啡杯,给他们讲一个真实的故事:去年我们团队招了个只会调用sklearn的应届生,在优化推荐系统时,他盲目调整超参数导致线上A/B测试CTR下降了23%。后来发现,如果他理解极大似然估计的原理,本可以避免这个价值百万的错误。
机器学习本质上是用数学语言描述现实问题。以最常见的线性回归为例,当我们用y=wx+b拟合数据时,最小二乘法背后其实是极大似然估计在正态分布假设下的特例。没有这个认知,你永远只会机械地调用LinearRegression.fit(),却不知道何时该改用泊松回归或逻辑回归。
概率论是机器学习的语法。监督学习中的贝叶斯定理、无监督学习中的EM算法、强化学习中的马尔可夫决策过程,全都构建在概率框架上。去年我在处理电商用户流失预测时,正是通过修正似然函数中的分布假设,将模型AUC从0.81提升到了0.89。
关键认知:机器学习算法是数学方法的代码实现。就像不懂乐理也能弹曲子,但永远成不了作曲家。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 极大似然估计的底层逻辑
2.1 从抛硬币理解似然函数
假设你捡到一枚可能被做过手脚的硬币,如何确定它出现正面的概率θ?最科学的方法是做实验:连续抛10次,观察到7次正面。频率学派会说θ=0.7,但这忽略了小样本的偶然性。
构建似然函数L(θ)=θ⁷(1-θ)³,这个函数表示在给定θ时,观察到当前数据的概率。下图展示了θ从0到1时L(θ)的变化:
| θ值 | 似然值L(θ) | 计算过程 |
|---|---|---|
| 0.5 | 0.00117 | 0.5⁷×0.5³ |
| 0.6 | 0.00215 | 0.6⁷×0.4³ |
| 0.7 | 0.00222 | 0.7⁷×0.3³ |
| 0.8 | 0.000786 | 0.8⁷×0.2³ |
通过求导可找到使L(θ)最大的θ值,这正是极大似然估计(MLE)的核心思想。在机器学习中,我们处理的不过是更高维的θ(模型参数)和更复杂的L(θ)。
