在大模型训练中应用隐私保护技术(如强噪声干扰的差分隐私)时,通常需要面对的权衡(Trade-off)是:
隐私保护越强,模型的预测准确性(Utility)往往会下降
隐私保护越强,模型的参数量会随之大幅减少
隐私保护越强,模型对硬件的存储需求越低
隐私保护越强,模型的推理速度会呈指数级提升