百度智能云全面升级基础设施 李彦宏:未来会有百万量级智能体
lang3344
发表于 2024-9-25 17:23:16
1049
0
0
生成智能体需要AI的基础设施。本次大会上,百度智能云分别针对算力、模型、AI应用,全面升级百舸AI异构计算平台4.0、千帆大模型平台3.0两大AI基础设施,并升级代码助手、智能客服、数字人三大AI原生应用产品。
百度集团执行副总裁、百度智能云事业群总裁沈抖详细介绍了升级的具体效果和实现的技术原理。例如,在模型训练阶段,稳定和高效是衡量GPU集群水平的“硬指标”,一张GPU出现故障就会导致集群整体停摆,大量时间、成本会浪费在故障恢复和数据回滚上。由此,百舸AI异构计算平台4.0就克服了此项难题,在万卡集群上实现了有效训练时长占比99.5%以上,其技术原理是,百舸4.0能够自动筛查集群状态,并提前预测GPU故障,及时转移工作负载,从而降低故障发生频次。
沈抖表示,大模型以及配套的算力管理平台、模型和应用开发平台,正在迅速成为新一代基础设施。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
生成式人工知能(AI)が巻き起こす技術の波の中で、電力会社は意外にも資本市場の寵児になった。 今年のスタンダード500割株の上昇幅ランキングでは、Vistraなどの従来の電力会社が注目を集め、株価が2倍になってリ ...
- xifangczy
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
隔夜株式市場 世界の主要指数は金曜日に多くが下落し、最新のインフレデータが減速の兆しを示したおかげで、米株3大指数は大幅に回復し、いずれも1%超上昇した。 金曜日に発表されたデータによると、米国の11月のPC ...
- SNT
- 前天 12:48
- 支持
- 反对
- 回复
- 收藏
-
長年にわたって、昔の消金大手の捷信消金の再編がようやく地に着いた。 天津銀行の発表によると、同行は京東傘下の2社、対外貿易信託などと捷信消金再編に参加する。再編が完了すると、京東の持ち株比率は65%に達し ...
- SNT
- 前天 12:09
- 支持
- 反对
- 回复
- 收藏
-
【ビットコインが飛び込む!32万人超の爆倉】データによると、過去24時間で世界には32万7000人以上の爆倉があり、爆倉の総額は10億ドルを超えた。
- 断翅小蝶腥
- 3 天前
- 支持
- 反对
- 回复
- 收藏