发布日期:2024-09-26 05:38 点击次数:100
9月25日,在2024百度云智大会上,百度集团履行副总裁、百度智能云管事群总裁沈抖默示:“2024年大模子的产业落地正在加快,目下在千帆大模子平台上,文心大模子日均调用量特等7亿次,累计匡助用户精调了3万个大模子,修复出70多万个企业级愚弄。往常一年,文心旗舰大模子降价幅度特等90%,主力模子全面免费,最大约束责怪了企业改进试错的资本。”
沈抖默示,大模子以及配套的算力管制平台、模子和愚弄修复平台,正在马上成为新一基础智商。
以中国邮政储蓄银行径例,2023年,为加快大模子愚弄落地,邮储银行新增大王人来自不同厂商的GPU资源,基于大模子为18个中枢业务系统、30多家分行的金融业务提供AI赋能。在百舸的赞助下,邮储银行奏凯完成了不同型号GPU资源的部署、上线;同期,也竣事了GPU、CPU算力的磋磨重组,有劲保险了300多个大小模子、6000屡次测验任务。模子迭代时刻也从往常的一个半月大幅裁汰至半天,并竣事了更好的模子遵循。
“百舸”是百度AI异构计较平台,百度智能云升级发布百舸AI异构计较平台4.0,面向万卡、十万卡集群全面升级算力管制才略。目下,百舸在万卡集群上竣事了灵验测验时长占比99.5%以上,业界开始。百舸4.0预置了主流的大模子测验用具,将万卡集群运转准备时刻从几周缩减至1小时,极地面进步部署遵循,裁汰业务上线周期。
不仅是快,百舸还特殊沉稳。百舸4.0大约自动筛查集群状况,并基于对GPU故障的精确瞻望,实时转动使命负载,责怪故障发生频次。此外,百舸独到的故障秒级感知定位、Flash Checkpoint模子任务状况回滚等本领,大约大幅减少集群故障搞定时刻。
百度还升级了千帆大模子平台3.0。在模子调用方面,升级后的千帆平台,不但不错调用包括文心系列大模子在内的近百个国表里大模子,还赞助调用语音、视觉等多样传统的小模子。
往常一年,文心旗舰大模子降价幅度特等90%、主力模子全面免费,最大约束责怪企业改进试错的资本。
沈抖在大会现场演示了奈何通过对话,在AI速搭平台上修复一个钞票管制愚弄。只需一句话形色对方针系统的需求,包含钞票信息、钞票入库、钞票领用、钞票维修、钞票报废等功能模块,大模子就不错显著地融会需求并生成愚弄。往常,这么一个愚弄即使用低代码相貌修复也需要几天的时刻,目下只需几分钟就能完成。
南边电网数字电网筹议院副总司理胡荣默示,客岁九月,南边电网发布了行业垂直界限首个自主可控的大模子“大瓦特”。“大瓦特”既是大模子、小模子及智能体组成的模子体系,亦然洞开分享的平台与生态体系。平台上,南边电网基于百度智能云千帆平台构建了电力调整值班助手。在莽撞突发事件时,电力调整值班助手不错秒级生成搞定有策动,极地面增强了调整员的济急反馈才略。
文/北京后生报记者 温婧
剪辑/樊宏伟
Powered by 开云集团「中国」Kaiyun·官方网站 @2013-2022 RSS地图 HTML地图