世界杯直播

世界杯直播

2026世界杯-最新版官方软件 复旦、CityUHK、SMU、UIUC等13家结伴发布「具身智能安全」综述

发布日期:2026-05-27 10:34 来源:未知 作者:admin 浏览次数:

2026世界杯-最新版官方软件 复旦、CityUHK、SMU、UIUC等13家结伴发布「具身智能安全」综述

具身智能(Embodied AI)正在快速从实验室走向确凿寰宇。

自动驾驶汽车运转在城市谈路中穿梭,机械臂在工场里自主理取和安装,就业机器东谈主渐渐投入病院、市场与家庭。与传统大模子不同,这些系统不再仅仅「在屏幕上谈话」——它们正在径直团结传感器、驱动实行器,并对物理寰宇产生确凿影响。

但与此同期,一个更深层、也更危机的问题正在浮现:当大模子运转驱动物理寰宇,当年那些「说错话」的安全风险,将第一次演变成「干错事」的实际风险。

关于聊天机器东谈主,一段逃狱辅导词最坏可能仅仅生成无益文本;但关于机械臂、自动驾驶或机器东谈主系统,相同的袭击却可能径直回荡为危天真作,致使对实际寰宇形成不能逆收场。

近日,来自复旦大学确凿具身智能酌量院、上海创智学院、香港城市大学、新加坡不停大学、伊利诺伊大学、墨尔本大学、约翰霍普金斯大学、南洋理工大学、中科院自动化所等 13 家机构的 38 位学者,结伴发布了迄今最系统的具身智能安全本事综述,全文 70+ 页,掩饰近 480+ 篇酌量论文。

球赛下注(中国)官方网站

论文标题:Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses

综述将具身智能辞别为一个逐层递进的「五层才智圈」:感知、判辨、打算、活动与交互,以及 Agentic 系统,并建议了一个结伴全文的中枢瞻念察——

「才智—风险」二象性(Capability-Risk Duality)

每增多一层才智,就会新增一层袭击面;才智越强,风险面也越广。

感知

这也组成了整篇综述的中枢组织逻辑。沿着五层才智圈,具身智能系统的风险正在从「数字寰宇」徐徐演化为「物理寰宇」:

在感知层(举例东谈主脸门禁系统),袭击者主要主管传感器输入;

当系统具备判辨才智(举例博物馆导览机器东谈主),袭击面进一步延伸到语言主见与视觉推理;

当系统具备打算与闭环方案才智(举例自动驾驶),袭击者致使不错搅扰旅途方案、轨迹意象与及时限制;

当系统进一步具备复杂物理交互才智(举例机械臂、东谈主形机器东谈主),造作方案将径直回荡为实际寰宇中的危天真作与物理伤害;

而当系统演化为具备顾忌、器具调用、自主打算与持续进化才智的 Agentic 系统后,内层放纵一个漏洞,都可能沿着才智栈逐层级联放大。

换句话说,当年那些被孤单辩论的「起义样本」「后门袭击」「逃狱袭击」,在具身智能期间将不再仅仅单点安全事件。

它们会沿着「感知—判辨—打算—活动」的才智链条继续传递与放大,最终从一次模子造作,演变为一次确凿寰宇中的系统性事故。

图 1:「才智—风险」二象性。才智栈每多一层,袭击面扩大一圈。

五层胁迫,2026世界杯-最新版官方软件一图看懂具身智能安全

综述进一步将分散的袭击与密致酌量长入到并吞套才智框架中,系统梳理了不同才智层对应的中枢袭击面与实际风险:

才智层

代表性袭击

确凿寰宇收场

感知层

起义样本、后门袭击、传感器运用

辞谢物漏检、住手标记误判、雷达运用

判辨层

念念维链劫持、推理后门

空间主见造作、高下文污蔑、造作语义推理

打算层

任务逃狱、轨迹中毒、方案主管

不安全旅途打算、违抗限制指示、机器东谈主闯入禁区

活动与交互层

限制起义、东谈主机交互后门

机械臂撞东谈主、车辆失控、绕过安全公约

Agentic 系统层

器具 / 技巧奢侈、顾忌投毒、顾忌表露、级联失效

历久不安全步履、遁入表露、跨任务浑浊、自进化对皆坍弛

图 2:具身智能 5 层才智栈中的袭击面与胁迫散播。

这篇综述与已有责任不同在那儿?

具身安全这两年线路了一批综述(VLA Safety, Trustworthy EAI, World-Model Safety, LLM Robotics Security 等)。但绝大大批只看其中一层——

有的只酌量 VLA 模子的起义鲁棒性;

有的只看导航场景下的正经性;

有的只关心 LLM 限制机器东谈主时的辅导注入;

还有的把安全动作「IoT 系统中的一个组件」。

而这篇综述相持一个中枢态度:

必须端到端地看所有这个词 embodied pipeline,因为袭击会跨层级联。

它不仅整合了 embodied-specific 的责任,还从 vision、language、multimodal 基础模子安全酌量中筛选出与具身高度辩论的责任,把「具身智能安全」放回更大的 AI 安全图景里。

被低估的几个酌量空缺

读这篇综述最值得保藏的部分,是它指出的几条险些没东谈主系统酌量的洞开问题:

多模态交融的脆弱性——交融越多模态,安全越复杂,但当今险些莫得针对交融层的攻防分析;

打算层在逃狱袭击下的踏实性——LLM 当 planner,逃狱收场不再是「输出无益文本」,而是「机器东谈主运转实行无益任务」;

洞开场景下的东谈主机交互确凿度——传统 HRI 安全假定交互是闭合的,但确凿寰宇里的对话是洞开的;

Agentic 系统的级联失效旅途——顾忌、器具、技巧、自进化之间奈何互相浑浊,当今枯竭方法化框架。

这些每一条都足以撑起一个寂然的酌量主义。

不仅仅综述,更是一套社区资源

团队同期调遣了齐全的洞开资源生态,包括:

Awesome-Embodied-AI-Safety GitHub 仓库(已收录 480+ 篇著述,按层级 + 子类组织,持续更新);

神志网站:提供分类浏览、酌量统计与结构化阅读视图;

arXiv 双月更新机制:团队以双月节律同步最新 arXiv 责任,当今已纳入 HazardArena、RedVLA、JailWAM、IPI-in-Wild、MCP Function Hijacking、Skill Safety 等最新酌量。

关于关心具身智能安全的酌量者而言,这篇综述不仅是一份文件整理,更像是一张投入所有这个词限制的「导航舆图」。

写在终末

具身智能正在重新界说 AI 与实际寰宇的团结方式。

当一个模子不再仅仅「在屏幕上谈话」,而运转确凿投入物理寰宇——运转持取、行走、操控、驾驶、交互、长久顾忌,致使自主进化——安全问题也正在发生根人性变化。

当年,模子「说错一句话」,收场通常仍停留在数字空间;

而在具身智能期间,一次感知偏差、一次打算造作、一次逃狱袭击,都可能最终演化为确凿寰宇中的危天真作与系统性事故。

这意味着,安全还是不再仅仅某一种袭击、某一个 Benchmark、某一篇论文能够单独贬责的问题。

它正在成为结伴感知、判辨、打算、活动与 Agentic 系统的底层问题。

而这篇综述最迫切的少许,大致恰是它反复强调的那句话:

在具身智能期间,安全应当与才智同步遐想,而不是过后打补丁。

要是你也在关心情器东谈主、自动驾驶与智能体奈何确凿走进实际寰宇2026世界杯-最新版官方软件,那么这篇综述,值得保藏。