模型调优（超参数优化）
交叉验证
什么是交叉验证
k 折交叉验证（k-Fold Cross-Validation）是一种数据集的分割方法，将训练集划分为 份，其中一份做验证集、其他 份做训练集
交叉验证法原理
将数据集划分为 4 份（4折交叉验证）：
第一次：把第一份数据做验证集，其他数据做训练
第二次：把第二份数据做验证集，其他数据做训练
... 以此类推，总共训练4次，评估4次。
使用训练集+验证集多次评估模型，取平均值做交叉验证为模型得分
若 模型得分最好，再使用全部训练集(训练集+验证集) 对 模型再训练一遍，再使用测试集对 模型做评估
网格搜索
为什么需要网格搜索
模型有很多超参数，它们的能力存在很大的差异。需要手动产生很多超参数组合来训练模型。
每组超参数都采用交叉验证评估，最后选出最优参数组合建立模型。
网格搜索的原理
目标：系统地遍历预定义的超参数组合，找到使模型性能最优的配置
方法：
用户指定每个超参数的候选值（例如
learning_rate = [0.01, 0.1],n_estimators = [100, 200]）。算法构建所有可能的组合（笛卡尔积），形成一个“网格”。
对每组超参数，使用交叉验证评估模型性能。
选择验证性能最好的超参数组合作为最终结果。