5300亿参数!微软联手英伟达训练迄今为止最庞大语言模型AI

时间:2021-10-12 15:38:43 来源: 中关村在线


微软和Nvidia今天宣布,他们训练了他们声称是迄今为止最大和最有能力的AI驱动的语言模型:威震天-图灵自然语言生成(MT-NLP)。微软和Nvidia表示,作为这两家公司的图灵NLG 17B和Megatron-LM模型的继任者,MT-NLP包含5300亿个参数,在一系列广泛的自然语言任务中实现了 "无与伦比的 "准确,包括阅读理解、常识推理和自然语言推断。

"我们今天获得的质量和结果是在释放人工智能在自然语言中的全部承诺的旅程中向前迈出的一大步。DeepSpeed和Megatron-LM的创新将有利于现有和未来的人工智能模型开发,并使大型人工智能模型的训练成本更低、速度更快,"

Nvidia的加速计算产品管理和营销高级总监Paresh Kharya和微软图灵团队的小组项目经理Ali Alvi在一篇博客文章中写道。"我们期待着MT-NLG将如何塑造明天的产品并激励社区进一步推动自然语言处理(NLP)的边界。这个旅程是漫长的,远未完成,但我们对可能发生的事情和未来的发展感到兴奋"。


精彩推送

关于我们 加入我们 广告服务 网站地图

All Rights Reserved, Copyright 2004-2020 www.ctocio.com.cn

如有意见请与我们联系 邮箱:29 59 11 57 8@qq.com

 IT专家网 版权所有