关于分布式资源管理和硬件软件协同优化,下列描述正确的是:
分布式推理中常用张量并行和流水线并行来将大模型分布到多个设备上,以突破单设备显存限制
硬件升级后不需要对软件做任何适配,性能会自动提升
张量并行不需要设备间通信
分布式推理只有流水线并行一种策略