hemu.zp
|
3b1f1a0252
|
[to #42322933] Add GPT3 tensor parallel inference
添加基于 Megatron-v3 的 GPT3 tensor 并行的推理代码
复用 DistributedPipeline 与 megatron-util
适用模型：1.3B/2.7B/13B 参数的 GPT-3 预训练生成模型
Link: https://code.alibaba-inc.com/Ali-MaaS/MaaS-lib/codereview/10416721
|
2022-10-18 15:58:33 +08:00 |
|