Hyperparameters

Definition / 释义

超参数：在机器学习/统计模型中，由训练过程之外预先设定（或通过搜索/验证选择）的参数，用来控制模型结构或训练行为，例如学习率、正则化强度、树的深度、聚类数等。（不同于由数据直接学习得到的 parameters/模型参数。）

Pronunciation / 发音

/ˌhaɪpərˈpærəmiːtərz/

Examples / 例句

We tuned the hyperparameters to improve accuracy.
我们调整了超参数来提高准确率。

Selecting hyperparameters via cross-validation can reduce overfitting but may be computationally expensive for large models.
用交叉验证来选择超参数可以减少过拟合，但对大型模型来说计算开销可能很大。

Etymology / 词源

hyper- 源自希腊语，意为“超过、超出、过度”；parameter 来自希腊语 para-（“旁边/辅助”）+ metron（“测量”），指“衡量用的量/参数”。合在一起，hyperparameter 表示“位于模型参数之上、用于控制参数学习方式或模型形式的设置”。

Related Words / 相关词

• Parameter
• Tuning
• Optimization
• Regularization
• Cross-Validation
• Grid Search
• Random Search
• Bayesian Optimization
• Learning Rate
• Overfitting

Literary Works / 文学与著作例证

• Deep Learning（Ian Goodfellow, Yoshua Bengio, Aaron Courville）——在讨论训练技巧与模型选择时频繁使用 hyperparameters。
• Pattern Recognition and Machine Learning（Christopher M. Bishop）——在贝叶斯方法、模型选择与核方法中常提及 hyperparameters。
• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）——在正则化、模型复杂度与验证方法相关章节出现该术语。