关于大模型的扩展法则(Scaling Laws),下列描述最符合 KM 法则核心观点的是:
模型性能主要受限于模型架构的精细程度,而非数据量
模型性能与参数量、数据集大小及计算量之间存在幂律关系,且随着规模增加性能可预测地提升
只要模型参数量翻倍,推理速度就会自动提升一倍
当模型达到一定规模后,增加数据量反而会导致性能急剧下降