DeepSeek后中国AI又传重磅消息，国内首个万卡集群点亮，中国AI得意！

sifeng

克日，百度智能云成功点亮昆仑芯三代万卡集群，这也是国内首个正式点亮的自研万卡集群。百度智能云将进一步点亮3万卡集群。


昆仑芯三代万卡集群的点亮，让企业更低门槛的举行应用开辟与产业创新。凭借其强大的算力优势、本钱效益以及百舸平台的全方位赋能，百度将为人工智能的发展注入新的活力。





国产昆仑芯万卡集群以及将来三万卡集群的建立，从硬件到软件，技能寻衅是全方位的。而24年9月升级的百度百舸AI异构盘算平台4.0，围绕落地大模子全旅程的算力需求，在集群创建、开辟实验、模子训练、模子推理四大方面，能为企业提供“多、快、稳、省”的AI根本办法，在万卡集群的建立中发挥了至关重要的作用。


起首，突破硬件扩展性瓶颈，如卡间互联的拓扑限定，制止通信带宽成为瓶颈；同时，围绕芯片及集群功耗，基于万卡规模通例方案功耗可达十兆瓦或更高，接纳创新性散热方案，从而办理万卡集群的能效与散热问题；完善模子的分布式训练优化，接纳高效并行化任务切分计谋，训练主流开源模子的集群MFU提拔至58%；在提拔稳固性方面，提供容错与稳固性机制，制止由于单卡故障率随规模指数上升而造成的万卡集群有用性大幅降落，保障有用训练率到达98%；末了，针对机间通信带宽需求，建立超大规模HPN高性能网络，优化拓扑布局，从而低沉通信瓶颈，带宽有用性到达90%以上。


同时，昆仑芯作为百度自研的AI芯片，凭借其独特的技能优势，在百舸4.0的本领加持下，在天生式人工智能时代展现出了巨大的竞争力。


将来一年，将是各种AI原生应用发作的黄金时期。自研芯片和万卡集群的建成带来了强大的算力支持，同时有用提拔百度和客户的资源团体利用率，低沉大模子训练本钱，推动了模子降本的趋势，为整个行业提供了新的思绪和方向。





随着国产大模子的兴起，万卡集群已从单纯算力供给逐渐向“有用”算力供给过渡，通过模子优化、并行计谋、有用训练率提拔、动态资源分配等手段，智能调度任务，将训练、微调、推理任务混合部署，最大化提拔集群综合利用率，低沉单位算力本钱，从而真正发挥算力效能。百度智能云将始终伴随在所有企业身旁，通过本次万卡集群点亮和应用落地，持续为企业提供源源不断的稳固、高效的算力动能。
泉源：上观新闻

来源：https://www.toutiao.com/article/7467838467268100671
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！