百度智能云新突破:昆仑芯超节点助力推理性能飙升13倍!

   时间:2025-04-25 19:15 来源:ITBEAR作者:任飞扬

在湖北武汉,百度AI开发者大会Create 2025于4月25日盛大召开,以“模型的世界,应用的天下”为主题,吸引了众多行业目光。会上,百度集团执行副总裁、智能云事业群总裁沈抖发表了重要讲话,分享了百度智能云在智能基础设施建设方面的最新进展,并发布了一系列创新产品。

沈抖指出,大模型的高效落地需要全栈、系统级的支持,从底层算力到应用层面缺一不可。百度智能云凭借多年在大模型研发与产业落地的深厚积累,推出了新一代系统级智能基础设施,为企业大模型应用落地提供了最佳解决方案。

数据显示,百度智能云在2024年大模型相关中标项目数、行业覆盖数、央国企中标项目数三个维度均位居首位,特别是在能源、政务、金融三个行业,中标项目数遥遥领先。千帆平台企业用户数量已超过40万,组件数量超过1000个,企业在千帆平台上已开发出超100万个应用。

沈抖强调,系统的价值不仅在于解决具体问题,更在于赋予企业“创造的能力”。企业可以结合自身数据、流程和逻辑,利用百度智能云的系统级能力,打造专属AI基础设施。

在算力方面,百度智能云通过自研昆仑芯P800芯片及百舸大规模推理加速能力,实现了算力性能与成本的双重突破。会上,百度正式点亮了昆仑芯P800的三万卡集群,该集群已在招商银行、国家电网、中国钢研等央企,以及同济大学、北京大学等高校进行规模化部署。

为了进一步降低算力使用成本,百度智能云发布了昆仑芯超节点,支持64张昆仑芯AI加速卡置于同一机柜,实现单节点超强性能,大幅降低带宽成本,卡间互联带宽提升8倍,单机训练性能提升10倍,单卡推理性能提升13倍。

百度智能云还全面升级了百舸推理加速能力,支持客户根据不同场景的业务特点,自适应设置PD配比,并做到token级别的PD负载均衡。这一能力正在作为千帆的算力底座,为40万客户提供服务,推理吞吐提升20倍,推理速度提升50%以上。

在模型工具与应用开发方面,千帆平台提供了全面的模型开发工具链和超过100个模型,包括百度自研的文心4.5Turbo、文心X1 Turbo等模型,以及DeepSeek、Ilama、Vidu等第三方模型。千帆平台还发布了全新推理式智能体——智能体Pro,支持每个企业定制自己的专属智能体,并具备深度研究能力,能够自主完成复杂任务的步骤规划、信息筛选和整理。

百度智能云还正式发布了国内首个企业级MCP服务,第一批已有超过1000个MCP Servers供企业及开发者灵活选择。开发者可以在千帆上开发自己的MCP Server,并发布到MCP广场,支持免费托管,百度搜索也会索引这些MCP Server,让它们被更多的开发者引用。

在应用创新方面,百度智能云升级了两大自研AI应用产品——客悦·ONE和一见5.0。客悦·ONE为客户提供全生命周期智能营销服务,助力企业实现营销效能全面提升。一见5.0则能够秒级生成专业级视觉AI应用,大幅降低了视觉AI模型训练门槛和应用成本。

 
 
更多>同类内容
全站最新
热门内容