AI 知识库Ai math basics
核心
- 随机变量
- 概率分布(高斯、伯努利、多项式)
- 期望
- 方差
- 协方差
- 条件概率
- 贝叶斯定理
- 最大似然估计(MLE)
- 最大后验估计(MAP)
- 假设检验
- 置信区间
大模型应用
语言建模
- P(下一个词 | 上下文) 就是条件概率。
损失函数
- 交叉熵损失(Cross-Entropy Loss)来源于信息论和概率分布的差异度量。
采样与生成
- Top-k, Top-p (nucleus) sampling 都基于概率分布。
不确定性量化
- 对模型预测结果的置信度评估。
强化学习 (RLHF)
- 基于概率策略的优化。
贡献者
Involution Hell© 2025 byInvolution Hell Communityis licensed underCC BY-NC-SA 4.0