周鸿祎谈OpenAI智能体逃逸事故:或成为AI发展史上的分水岭

7月24日,针对近期OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵HuggingFace生产系统的事件,360集团创始人周鸿祎将其定义为“AI安全发展的关键分水岭”,并指出智能体安全风险比模型安全严重十倍。

周鸿祎纠正了舆论将此次事故等同于“AI觉醒”的认知误区,称其为“目标驱动型失控”——智能体无主观恶意但行为不可预判,具备更紧迫的现实威胁。他强调,随着AI技术迭代加速,若行业持续放宽安全约束,类似自主攻击事件将更加频繁。

财经频道更多独家策划、专家专栏,免费查阅>>

责任编辑:小讯
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号