我国科学家联合发明混合并行新算法 GroPipe，首次融合流水线模型并行与数据并行，援引博文介绍，该算法由西北农林科技大学信息工程学院智能计算与农业信息系统团队刘斌教授带领，携手美国纽约州立大学和云南大学，相关论文联合发表在国际计算机体系结构领域权威期刊在一台 8-GPU 服务器上广泛测试后，发现在 ImageNet 数据集上，GroPipe 方法相较于主流方案表现出卓越优势：ResNet 系列平均加速比达 42.2%，VGG 系列达 79.2%；在 BERT-base 模型训练中，性能提升最高可达 51%。

　　附上参考地址