百度副总裁陈洋:文心大模型驱动 加速安全业务重构
海田1
发表于 2023-12-27 20:35:59
213
0
0
人工智能是新一轮科技革命和产业变革的重要驱动力量,而大模型的兴起,使得人工智能应用的深度和广度进一步拓展。自百度3月发布知识增强大语言模型文心一言至今,文心一言的基础模型已迭代到文心大模型4.0版本,在理解、生成、逻辑、记忆四大基础能力上都有了显著提升。会上,陈洋分享了文心大模型应用在安全领域,在安全运营、内容审核、APP隐私合规检测、业务风控等多领域的AI原生应用构建思路与实践,助力大幅提升安全效率及能力。
陈洋表示,如何提升行业AI原生安全应用研发的效率也非常关键。目前,基于百度领先的AI大模型平台,百度安全打造了百度AI安全底座,基于安全知识和技能强化的大模型和全场景的智能体,针对各类安全业务场景,以低代码的方式实现人机协同安全工作流,进而通过AI原生安全服务层,让各类的安全应用都可以进行AI原生化重构。
另一方面,大模型自身的安全、可信、可控变得至关重要,网络与系统安全、模型算法安全、数据安全和隐私保护、内容安全在大模型全生命周期中环环相扣,体系安全与内生安全将长期共存。
作为人工智能领军企业,百度高度重视大模型安全风险防范的能力建设和生态建设。基于百度大模型安全实践经验,百度安全从大模型全生命周期视角出发总结出一套从服务提供方视角的应对思路,方案涵盖大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段,提供全流程的包含数据安全与隐私保护、模型保护、内容安全、业务运营风控的安全产品与服务,同时结合以攻促防守的思路建立AIGC内容安全评测能力,对大模型实现例行化的安全评估,助力企业构建平稳健康、可信可靠的大模型服务。
例如,在大模型运营阶段中,百度安全构建了包括红线知识库/红线大模型、prompt审核与改写、多模态内容审核、内容安全评测等一系列安全服务。针对违法犯罪、不良价值观等负面及高危红线问题,重点构建了“红线知识库和红线大模型”提供安全回复内容进行代答,并可对用户做出正向的引导。针对Prompt注入攻击,可在保持其初始指令和数据不变的基础上,通过改写Prompt的方式让大模型输出安全的内容。
据悉,作为云安全联盟CSA全球会员单位,百度长期以来致力于以更安全的AI护航产业发展,积极布局智能云计算的前沿技术探索与实践,持续深化“人工智能+云安全”的融合创新。与会,作为北京人工智能产业联盟人工智能安全专委会主任,陈洋代表专委会与CSA云安全联盟正式战略签约。未来,双方将发挥各自优势,在人工智能领域开展联合研究、共同前沿技术和应用领域的发展。
面对当下“大模型+安全”所面临的新形势、新机遇、新挑战,百度安全一方面将不断拓展人工智能技术在网络安全领域的技术革新与应用,另一方面与各界保持合作,共筑大模型安全防线,探索更安全的大模型赋能千行百业的无限可能。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
米東時間の金曜日、米株3大指数は集団で上昇し、終値を締め切ると、ダウは0.97%上昇し、今週は1.96%上昇した。納指は0.16%上昇し、今週は1.73%上昇した。スタンダード500指数は0.35%上昇し、今週は1.68%上昇した。 ...
- leekhy
- 前天 10:41
- 支持
- 反对
- 回复
- 收藏
-
イランは現地時間の金曜日(11月22日)、国際原子力機関(IAEA)がイランに圧力をかけている新たな決議に応えるため、大量の遠心分離機を追加してウラン濃縮を行うと発表した。 IAEA理事会は木曜日、イランの協力不 ...
- 1900_后
- 前天 11:13
- 支持
- 反对
- 回复
- 收藏
-
9月以来、香港株の1日当たりの出来高は大幅に増加し、流動性の回復は中資証券会社の業績の反発を牽引し、富途証券、タイガー証券などのインターネット証券会社の年間獲得目標は早期に達成された。 証券会社の中国人 ...
- 拓牛李强
- 前天 10:06
- 支持
- 反对
- 回复
- 收藏
-
【世界市場】1、ダウ平均は1%超上昇、ナ指は0.03%、標準は0.53%上昇した。2、英偉達株価は史上最高値を更新し、奈飛株価は4日連続で史上最高値を更新し、グーグルは4%超下落した。3、ナスダック中国金龍指数は1%下 ...
- hecgdge4
- 3 天前
- 支持
- 反对
- 回复
- 收藏