Model Selection

Definition / 定义

model selection：模型选择；在统计学、机器学习等领域中，从多个候选模型（或同一模型的不同设定/超参数）里，依据某种标准（如预测效果、泛化能力、复杂度惩罚等）选出最合适的一个。

Pronunciation / 发音

/ˈmɑːdəl sɪˈlɛkʃən/（美式常见）；/ˈmɒdəl sɪˈlɛkʃən/（英式常见）

Examples / 例句

Model selection is important for good predictions.
模型选择对获得良好的预测很重要。

After testing several algorithms and tuning hyperparameters, we used cross-validation for model selection to avoid overfitting and improve generalization.
在测试多种算法并调参后，我们使用交叉验证进行模型选择，以避免过拟合并提升泛化能力。

Etymology / 词源

model 源自拉丁语 modulus（“尺度、标准”），经法语进入英语，逐渐发展出“模型、范式”的含义；selection 来自拉丁语 selectio（“挑选、选择”），由 selectus（“被选出的”）演变而来。合起来 model selection 字面意思就是“对模型进行挑选”，在现代多用于数据分析与机器学习语境。

Related Words / 相关词

• Cross-Validation
• Overfitting
• Underfitting
• Hyperparameter
• Regularization
• Generalization
• AIC
• BIC

Literary Works / 文献与作品

• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）
• An Introduction to Statistical Learning（James, Witten, Hastie, Tibshirani）
• Pattern Recognition and Machine Learning（Christopher M. Bishop）
• Deep Learning（Goodfellow, Bengio, Courville）