NVIDIA需要聊天距离会话AI的一步
2021-09-04 09:44:02 [来源]:
来自NVIDIA的新的人工智能(AI) - 从NVIDIA的演讲识别被配置为在Microsoft Bing中的语音助手搜索和新一代的聊天禁令。该技术可能导致聊天系统的开发,可以更像真正的人类。
NVIDIA声称新系统可以电源聊天,而不是现有的AI系统操作更现实。为实现这一目标,它表示新的NVIDIA平台已被优化以在庞大的数据集上运行查询。
根据NVIDIA的说法,聊天禁令,智能个人助理和搜索引擎非常困难,因为无法实时部署极大的AI模型,以人力级理解运行。为了克服这一限制,Nvidia表示,它向其AI平台增加了关键优化,它表示可以在超过两毫秒的时间内提供完整的AI推论。
“大型语言模型正在彻底改变AI的自然语言,”NVIDIA应用深度学习研究的副主席布莱恩卡坦佐罗说。“他们正在帮助我们解决异常困难的语言问题,让我们更接近真正对话AI的目标。”
Microsoft Bing的rangan Majumder,Group Program Manager表示:“与NVIDIA密切合作,Bing进一步优化了使用NVIDIA GPU的流行自然语言模型BERT的推理,其中一部分AIID AI基础设施,这导致了在去年在去年部署的排名搜索质量Bing的最大改进。
“与基于CPU的平台相比,我们通过Azure NVIDIA GPU实现了两倍的延迟减少和五次吞吐量改善,使Bing能够为全球所有客户提供更相关,具有成本效益,实时的搜索体验。 “
使用NVIDIA的T4 GPU运行其TensorRT库,新平台仅在Bert-Base Squad数据集中在Bert-Base Squad数据集中在NVIDIA表示的是许多实时应用的10毫秒处理阈值下的推断。
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。