芥末堆芥末堆

腾讯云首次对外完整披露自研星脉高性能计算网络

作者:LAN 发布时间:

腾讯云首次对外完整披露自研星脉高性能计算网络

作者:LAN 发布时间:

摘要:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率。

微信图片_20230625133057.jpg

图源:Pixabay

芥末堆文 近日,腾讯云首次对外完整披露自研星脉高性能计算网络。据介绍,星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。

据介绍,硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

6月19日,腾讯云公布了MaaS全景图,依托腾讯云TI平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。基于腾讯HCC高性能计算集群和大模型能力,腾讯云宣布已经为文旅、政务、金融等10余个行业提供了超过50多个大模型行业解决方案。

在算力方面,此前腾讯云也透露,即将推出的腾讯云向量数据库(Tencent Cloud VectorDB),源自腾讯每日处理千亿次检索的向量引擎(OLAMA),单索引支持10亿级向量规模,更适合AI运算、检索,数据接入AI效率提升10倍。

腾讯云称,将大模型能力应用在SaaS产品中,可助力提升企业效率。例如,腾讯会议即将推出覆盖会议全流程的AI小助手,通过简单自然的指令,完成信息提取、内容分析、会管会控等多种复杂任务。会后,还能自动生成智能总结摘目前,智能录制已面向会员、商业版和企业版用户全量开放。

腾讯集团高级执行副总裁云与智慧产业事业群CEO汤道生表示,生态共建是AI发展的有效路径,腾讯将坚持生态开放,为企业提供高质量模型服务,同时支持客户多模型训练任务,加速大模型在产业场景的创新探索。

1、本文是 芥末堆网原创文章,转载可点击 芥末堆内容合作 了解详情,未经授权拒绝一切形式转载,违者必究;
2、芥末堆不接受通过公关费、车马费等任何形式发布失实文章,只呈现有价值的内容给读者;
3、如果你也从事教育,并希望被芥末堆报道,请您 填写信息告诉我们。
来源: 芥末堆
芥末堆商务合作:王老师 18710003484
  • 腾讯云首次对外完整披露自研星脉高性能计算网络分享二维码