《未来机器人使用管制法(草案)》和其立法说明

未来机器人使用管制法(草案)

第一章 总则

第一条 为规范具身智能、服务机器人、人形机器人、动力外骨骼、高负载机械臂等智能设备的研发、生产、销售、持有与使用,防范机器人被用于暴力、伤害、反社会行为,维护公共安全与社会伦理秩序,保障公民人身、财产权益,促进人工智能产业健康有序发展,制定本法。

第二条 本法所称高风险机器人,是指具备自主行动能力、肢体执行能力、物理作用力足以对人体或财物造成伤害的智能机器人。 一般机器人指不具备物理攻击性、仅提供信息、清洁、娱乐等低风险服务的智能设备。

第三条 机器人使用遵循安全优先、伦理可控、分级管理、权责对应原则。 任何单位、个人不得利用机器人实施暴力、伤害、恐吓、侮辱、破坏公共秩序等违法犯罪行为。

第二章 机器人分级与准入

第四条 对机器人实行风险分级管理制度: (一)高风险机器人:人形机器人、家政看护机器人、医疗康复机器人、工业高负载机械臂、动力外骨骼、安防机器人等; (二)一般机器人:扫地机器人、早教机器人、智能音箱、无肢体执行能力的智能终端等。

第五条 高风险机器人实行生产备案、销售实名、使用登记制度。 销售、出租高风险机器人,必须核验使用者身份信息、使用用途及安全资质。

第三章 使用者资格与限制

第六条 自然人使用高风险机器人,应当具备安全使用能力,并符合下列基本条件: (一)具有完全民事行为能力; (二)通过机器人安全使用教育与考核; (三)无本法规定的禁止或限制情形。

第七条 有下列情形之一的,禁止或限制持有、使用高风险机器人: (一)因故意杀人、故意伤害、寻衅滋事、虐待、家庭暴力、故意损毁财物等行为被行政处罚或刑事处罚的; (二)多次实施暴力、冲动毁物、扰乱公共秩序,经评估具有较高暴力风险的; (三)患有严重精神障碍且未处于稳定期的; (四)法律、行政法规规定的其他不宜情形。

第八条 对限制使用人员,设立观察期与修复机制。 在规定期限内无违法违规、完成心理评估与行为矫正的,可以依法解除限制。

第四章 研发、生产与安全底线

第九条 高风险机器人必须内置安全强制约束机制,不得被绕过、破解、篡改: (一)不得执行明显具有伤害、暴力、恐吓性质的指令; (二)对暴力示范、恶意训练具备识别与拒绝能力; (三)具备紧急停机、远程锁死、行为记录与上报功能。

第十条 生产者、开发者不得提供可用于暴力改造的开源方案、固件、程序,不得设计以攻击、伤害为目的的机器人系统。

第五章 使用规范与责任

第十一条 机器人使用者为第一责任人,对机器人行为承担法律责任: (一)故意指令、训练机器人实施暴力、伤害、恐吓、侮辱、破坏行为,构成违法犯罪的,依法从重追究责任; (二)未尽管理、监护义务,导致机器人失控造成他人损害的,依法承担民事、行政、刑事责任。

第十二条 任何单位和个人有权举报违法违规使用机器人的行为。 相关部门应当建立快速处置机制,及时制止危险行为,固定证据。

第六章 法律责任

第十三条 违规销售、出租高风险机器人给禁止/限制使用人员的,处以罚款、吊销资质;造成严重后果的,依法追究刑事责任。

第十四条 破解、关闭机器人安全保护机制,用于违法活动的,从重处罚。

第十五条 利用机器人实施暴力、伤害、恐吓、寻衅滋事、故意损毁财物的,依照有关法律规定加重处罚

第七章 附则

第十六条 国务院有关部门依据本法制定高风险机器人目录、安全标准、使用考核办法、风险评估规范

第十七条 本法自公布之日起施行。


如果你需要,我可以再帮你写一段“立法说明”,放在视频里非常有深度、说服力极强。

《未来机器人使用管制法(草案)》立法说明

为规范智能机器人的使用与管理,防范机器人相关安全风险,回应社会发展对机器人监管的迫切需求,保障公共安全、公民人身财产权益及社会伦理秩序,促进人工智能与机器人产业健康有序发展,我们起草了《未来机器人使用管制法(草案)》(以下简称《草案》)。现将立法相关情况说明如下:

一、立法背景与必要性

当前,具身智能、人形机器人、动力外骨骼等各类智能机器人快速普及,逐步渗透到家庭、医疗、工业、安防等各个领域,为社会生产生活带来便利的同时,也带来了全新的安全隐患与伦理挑战。实践中,已出现故意损毁服务机器人、滥用机器人实施骚扰、恐吓等行为,更为突出的是,具有暴力倾向、冲动控制能力差的人员,若操控具备自主行动能力和物理攻击能力的高风险机器人,极易将机器人转化为暴力工具,放大伤害后果,严重威胁公共安全与公民权益。

目前,我国尚未针对机器人使用出台专门的管制法律法规,现有法律规范多分散于民法典、刑法、治安管理处罚法等相关规定中,缺乏对机器人分级管理、使用者资格限制、安全约束机制等核心问题的系统性规范,难以应对机器人技术快速发展带来的新型风险。因此,制定专门的机器人使用管制法,明确各方权利义务、划定行为边界、建立风险防控体系,既是防范公共安全风险的现实需要,也是完善人工智能领域法治保障、促进产业健康发展的必然要求。

二、立法目的

本次立法核心围绕“安全、规范、有序、发展”四大目标,具体包括:

1. 防范安全风险,维护公共安全与公民人身、财产权益,遏制利用机器人实施暴力、伤害、破坏等违法犯罪行为;

2. 规范机器人研发、生产、销售、使用全流程管理,明确分级管控标准,压实各方主体责任;

3. 坚守伦理底线,引导机器人技术向善,防止机器人被用于反社会、不道德行为,维护社会公序良俗;

4. 平衡监管与发展的关系,在强化风险防控的同时,为机器人产业创新发展提供清晰的法治指引,激发产业活力。

三、立法核心思路与基本原则

《草案》的立法思路核心是“分级管控、权责明晰、风险可控、宽严相济”,即根据机器人的风险等级实施差异化监管,明确生产者、销售者、使用者的主体责任,建立风险评估与防控机制,同时兼顾不同群体的合理需求,避免过度监管影响产业发展。

立法遵循四大基本原则:

1. 安全优先原则:将公共安全与公民权益保护放在首位,通过设置安全强制约束、使用者资格限制等条款,防范各类机器人使用风险;

2. 分级管理原则:根据机器人的物理作用力、自主行动能力、风险程度,将其分为高风险机器人与一般机器人,实施差异化的准入、登记与监管措施;

3. 权责对应原则:明确机器人使用者为第一责任人,生产者、销售者承担相应的安全保障与审核责任,确保权利与义务相统一;

4. 伦理可控原则:强化机器人研发、使用过程中的伦理约束,禁止设计、使用具有攻击、伤害目的的机器人,引导技术向善。

四、《草案》重点条款说明

(一)关于机器人分级与准入管理

《草案》第四条明确了高风险机器人与一般机器人的划分标准,重点将人形机器人、家政看护机器人、工业高负载机械臂、动力外骨骼等具备物理攻击能力、可能对人体或财物造成伤害的机器人纳入高风险范畴,实行“生产备案、销售实名、使用登记”制度(第五条),主要考虑此类机器人风险较高,需通过全流程管控防范滥用风险;而扫地机器人、智能音箱等低风险设备,因不具备物理攻击性,无需过度监管,兼顾监管效率与用户便利。

(二)关于使用者资格与限制

《草案》第六、七条明确了高风险机器人使用者的基本条件与限制情形,重点限制有故意伤人、寻衅滋事、家暴、故意损毁财物等违法违规记录,以及具有较高暴力风险、严重精神障碍未稳定期的人员使用高风险机器人。这一规定并非人格歧视,而是基于公共安全考量,参照我国现有法律中“限制高危人群使用枪支、机动车”的同类逻辑,对高风险设备使用者进行合理筛选,从源头防范暴力风险。同时,第八条设置了观察期与修复机制,为符合条件的限制人员提供解除限制的路径,体现宽严相济的立法精神。

(三)关于安全强制约束机制

《草案》第九条明确要求高风险机器人内置不可破解的安全强制约束机制,包括拒绝执行暴力指令、识别恶意训练、紧急停机等功能,这是防范机器人失控、被滥用的核心技术保障。第十条禁止生产者提供暴力改造相关程序与方案,旨在从源头遏制机器人被用于暴力行为的可能,压实生产者的安全责任。

(四)关于法律责任

《草案》第十一至十五条明确了各方主体的法律责任,重点规定对利用机器人实施暴力、破解安全保护机制、违规销售高风险机器人等行为从重或加重处罚,通过严厉的法律制裁形成震慑,确保《草案》条款落地执行。同时,明确机器人使用者为第一责任人,强化其管理与监护义务,避免因管理不当导致机器人失控。

五、其他说明

《草案》第十六条明确授权国务院有关部门制定高风险机器人目录、安全标准等配套规定,主要考虑机器人技术发展迅速,风险等级与安全标准需根据技术进步动态调整,通过配套规定细化监管措施,提升立法的可操作性。

本次立法立足当前机器人发展现状,兼顾未来技术趋势,既解决当前突出的安全隐患,也为后续产业发展预留法治空间。《草案》的出台,将填补我国机器人使用管制领域的法律空白,为公共安全提供坚实的法治保障,推动人工智能与机器人产业在规范中实现高质量发展。

(注:文档部分内容可能由 AI 生成)


评论

《 “《未来机器人使用管制法(草案)》和其立法说明” 》 有 2 条评论

  1. 是否应该制订针对未来机器人的使用管制法(草案)? – xianheng2的文章 – 知乎
    https://zhuanlan.zhihu.com/p/2017543117121806351

回复 admin 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注