联手刷新ai推理纪录)
智通财经app获悉，微软宣布，其azure nd gb300v6虚拟机在meta的llama270b模型上实现了每秒推理速度达110万token的行业新纪录。据悉，azure nd gb300虚拟机采用英伟达(nvda.us)的blackwell ultra gpu，具体为nvidia gb300nvl72系统，配置72个nvidia blackwell ultra gpu和36个nvidia grace cpu，采用单机架构设计。这款虚拟机专为推理工作负载优化，具有50%的gpu内存提升和16%的热设计功率(tdp)提高。
微软首席执行官萨提亚?纳德拉在社交媒体上表示:“这一成就是我们与英伟达长期合作和在生产规模运行人工智能方面专业知识的结晶。”
资料显示，为了验证性能提升，微软在一个nvidia gb300nvl72域下的18台nd gb300v6虚拟机上运行了llama270b模型，使用nvidia tensorrt-llm作为推理引擎。微软表示:“一个nvl72机架的azure nd gb300v6实现了总计110万个token/秒的推理速度。” 这一新记录超越了微软之前在nvidia gb200nvl72机架上实现的86.5万个token/秒的成绩。
对此，signal65的实验室副总裁拉斯?费洛斯指出:“这一里程碑不仅突破了每秒百万token的障碍，还在一个能够满足现代企业动态使用和数据治理需求的平台上实现。” 他补充称，azure nd gb300相较于上一代nvidia gb200在推理性能上提升了27%，而仅增加了17%的功率规格。
