发布日期:2026-11-17 08:52 点击次数:117

封面新闻记者 雷强
近期,OpenAI智能体在里面安全测试中防碍阻碍环境、跨网入侵HuggingFace坐蓐系统的事件接续发酵。7月24日,360集团首创东说念主周鸿祎将这起事件界说为"AI安全发展的要道分水岭",并围绕智能体失控风险与行业管理旅途发表不雅点,激勉业内粗犷商榷。
针对公论无数将本次AI逃跑等同于科幻叙事里“AI 觉悟反叛”的瓦解误区,周鸿祎作出蜕变,本次事故并非AI产生自我果断,而是典型的目标驱动型失控,无主不雅坏心却作为不成预判,具备更为伏击的实验安全挟制。他卓绝强调,智能体具备实操才略,要是行业在高速迭代时间的同期接续放宽安全敛迹,访佛的智能体失控、自主袭击事件只会愈加经常。对此,周鸿祎从预先管控、及时监管、源泉肃肃、风险预警、攻防体系、产业发展六个维度,梳理了智能体安全管理念念路。
业内分析,从本次智能体逃掌故故偶而看到行业濒临的实验挑战:只专注模子研发的企业,很难预判、收敛智能体掩盖的失控作为;传统安全厂商,又难以吃透大模子与智能体运转逻辑,无法搪塞全新步地的AI袭击。唯有同期具备AI研发才略与网罗安全攻防积淀的企业,才智在智能体安全管理方面处于跳跃上风。
据了解,360提前布局AI安全赛说念,并基于“以模治模”理念最初搭建起一套智能体安全驻扎架构。在这套体系中,AI破绽挖掘系统“图龙锋”聚焦破绽挖掘与风险前置驻扎,现在累计挖掘各样破绽超6000个,经监管机构阐发破绽近200个,覆盖开源代码、操作系统、办公软件、AI智能体平台等多元场景;自动化肃肃系统“仪天阵”聚焦AI场景下安全运营与自动化肃肃才略诞生,可自主生成风险处理任务、智能研判各样安全告警、跨要领联动完成闭环处理,扫尾AI安全运营体系向自动化、智能化高效转型。
周鸿祎辅导,AI 时间迭代接续提速,安全风险随之同步放大,留给行业搭建智能体安全管理体系的窗口期卓绝有限。产业需尽快落地熟习安全决议,补都智能体安全才略,掌持 AI 期间网罗安全主动权。
