微软英伟达联训练最庞大的语言模型AI

微软和Nvidia今天宣布，他们训练了他们声称是迄今为止最大和最有能力的AI驱动的语言模型：威震天-图灵自然语言生成（MT-NLP）。微软和Nvidia表示，作为这两家公司的图灵NLG 17B和Megatron-LM模型的继任者，MT-NLP包含5300亿个参数，在一系列广泛的自然语言任务中实现了 "无与伦比的 "准确性，包括阅读理解、常识推理和自然语言推断。

 

"我们今天获得的质量和结果是在释放人工智能在自然语言中的全部承诺的旅程中向前迈出的一大步。DeepSpeed和Megatron-LM的创新将有利于现有和未来的人工智能模型开发，并使大型人工智能模型的训练成本更低、速度更快，"

 

Nvidia的加速计算产品管理和营销高级总监Paresh Kharya和微软图灵团队的小组项目经理Ali Alvi在一篇博客文章中写道。