智能体产业新政发布 政策实施中如何确保合规执法-周汉一律师|法行宝
2026-05-16 公司事务

结论概述

近日,国家网信办、国家发展改革委、工业和信息化部联合印发了《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),旨在促进智能体规范应用与创新发展,确保政策实施中的合规执法。为确保合规执法,需从明确产品准则、防范安全风险、完善治理体系、强化行业自律四个方面着手,构建全面的智能体治理体系。

1. 明确产品准则,确保行为合法合规

(1)完善政策法规和伦理规范

《实施意见》强调,要加快研究智能体相关政策法规及伦理规范,确保智能体行为符合法律法规及主流价值观。这要求智能体的研发和应用必须遵循国家法律法规,不得利用数据优势、人格化技术实施传播不良价值观、算法压榨等行为。例如,智能体在提供信息服务时,应避免传播虚假信息或侵犯他人隐私。

(2)明确决策权限,保障用户知情权

智能体的决策权限需明确界定,确保用户对智能体自主决策享有知情权和最终决策权。智能体执行操作不得超出用户授权范围,防止智能体滥用权限或越权操作。例如,在智能医疗领域,智能体在提供诊疗建议时,必须明确告知用户建议的依据和可能的风险,由用户自主决定是否采纳。

(3)加强行为管控,确保行为可追溯

发展规则内嵌、行为围栏等技术,确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。同时,探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制,防范智能体不当行为引发重大风险。例如,在智能交通领域,智能体的行为应被记录并可追溯,以便在发生交通事故时查明责任。

2. 防范安全风险,提升系统安全保障能力

(1)提升内生安全能力

研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术,提升智能体系统安全保障能力。这要求智能体在研发和应用过程中,必须采取必要的安全措施,防止数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。例如,智能体在处理用户数据时,应采用加密技术保护数据安全。

(2)加强供应链安全

制定智能体开发、部署、应用、维护等全周期安全规范,加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。探索建立智能体供应链安全信息共享和预警机制,及时发布风险提示,提升安全保障能力。例如,智能体在采购硬件或软件组件时,应确保供应商符合安全标准,防止供应链攻击。

(3)化解应用衍生风险

完善智能体常态化风险识别、预警及干预机制,强化人机协同审核、拦截阻断等风险处置能力,防范系统性安全风险。强化智能体应用安全管理,避免智能体被用于自动化攻击、隐私侵犯、虚假信息生成传播、网络诈骗等违法犯罪行为。例如,智能体在提供社交服务时,应建立风险识别机制,及时发现并阻止恶意行为。

3. 完善治理体系,构建分类分级治理框架

(1)构建分类分级治理框架

根据应用场景和潜在影响,审慎稳妥开展智能体分级治理。对于敏感领域及重点行业,由网信部门联合行业主管部门确定开放场景,实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域,完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。例如,在智能金融领域,智能体的应用需经过严格备案和检测,确保符合金融监管要求。

(2)健全合规服务体系

强化智能体风险监测预警、检测评估、咨询、认证等专业服务供给,引导行业积极研发智能体监测工具。开展智能体功能、性能、质量、合规等第三方评测服务,推动认证与检测结果互通互认,为用户选择智能体提供参考。例如,智能体在上市前需经过第三方评测机构的检测和认证,确保其符合相关标准和规范。

4. 强化行业自律,共同营造良好发展环境

(1)引导行业加强自律

鼓励行业组织、主要企业联合制定行业自律规则,明确智能体功能合规、算法治理、知识产权保护、公平竞争等规范细则。指导智能体开发平台、分发平台、服务提供者建立公平合理的平台规则、用户服务协议及隐私政策,明确供需双方权责,保障产业健康发展。例如,行业组织可以制定智能体开发指南,引导企业遵循最佳实践。

(2)探索信用评价机制

指导行业组织建立智能体市场主体自愿参与的信用评价机制,对于技术滥用、诱导消费、虚假宣传、隐瞒缺陷信息等行为进行信用评价,依法依规开展失信惩戒。引导智能体开发者、开发平台、分发平台、服务提供者等参与信用评价,共同营造良好发展环境。例如,企业可以建立智能体信用档案,记录其合规情况,供用户参考。

热点事件延伸思考

《实施意见》的出台,为智能体产业的规范发展提供了政策保障。然而,随着智能体技术的不断演进和应用场景的拓展,新的法律问题和挑战也将不断涌现。例如,智能体的自主决策能力可能引发责任归属问题,智能体的数据收集和处理可能涉及隐私保护问题。因此,需要持续关注智能体技术的发展动态,及时完善相关法律法规和政策措施,确保智能体技术的健康有序发展。

结合时事的普法教育

以智能体在医疗领域的应用为例,智能体在提供诊疗建议时,必须遵循医疗法律法规和伦理规范,确保建议的科学性和合理性。同时,智能体应明确告知用户建议的依据和可能的风险,由用户自主决定是否采纳。这体现了智能体行为合法合规、可追溯、可验证的要求,也是保障用户权益的重要措施。用户在享受智能体带来的便利时,也应提高法律意识,了解自身权益和义务,共同维护智能体技术的良好发展环境。

如有任何关于智能体产业合规执法的疑问或需要进一步的法律咨询,请随时告知。