结论概述
近日,国家网信办、国家发展改革委、工业和信息化部联合印发了《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),旨在促进智能体规范应用与创新发展。在智能体产业新政下,企业与用户间的权利义务平衡需从明确产品准则、守牢安全底线、完善治理体系、强化行业自律四个方面进行综合考量。以下结合《实施意见》的具体内容,从多个角度详细分析企业与用户间的权利义务如何平衡。
1. 明确产品准则,保障用户知情权与决策权
决策权限的合理划分:根据《实施意见》第六条,智能体的决策权限需在法律法规、社会公德和伦理规范的前提下,厘清仅限用户本人决策、需由用户授权决策和智能体自主决策的合理边界。企业应确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。例如,在智能客服场景中,若智能体自主决定关闭用户账户,必须事先获得用户明确授权,并在操作前通知用户。
行为管控与合规性:企业需发展规则内嵌、行为围栏等技术,确保智能体在公共场所、隐私场所等行为合法合规(《实施意见》第七条)。例如,智能体在收集用户数据时,必须明确告知数据用途,并获得用户同意,防止数据滥用。
2. 守牢安全底线,保护用户数据与隐私
提升内生安全能力:企业需研究智能体数据安全、个人信息保护等技术,防范数据投毒、隐私泄露等风险(《实施意见》第八条)。例如,智能体在处理用户健康数据时,必须采用加密技术,确保数据在传输和存储过程中的安全性。
加强供应链安全管理:企业需制定智能体全周期安全规范,加强模型接入、应用程序接口调用等环节的安全管理(《实施意见》第九条)。例如,智能体在接入第三方服务时,必须对第三方服务进行安全评估,防止供应链攻击。
化解应用衍生风险:企业需完善智能体常态化风险识别、预警及干预机制,防范系统性安全风险(《实施意见》第十条)。例如,智能体在金融风控场景中,需实时监测异常交易行为,并及时干预,防止用户资金损失。
3. 完善治理体系,构建分类分级治理框架
分类分级治理:根据应用场景和潜在影响,审慎稳妥开展智能体分级治理(《实施意见》第十一条)。例如,在医疗健康领域,智能体需通过备案、检测等管理措施,确保其符合医疗行业安全标准,保障用户生命健康安全。
健全合规服务体系:企业需强化智能体风险监测预警、检测评估等专业服务供给,为用户选择智能体提供参考(《实施意见》第十二条)。例如,企业可提供智能体合规认证服务,帮助用户识别合规智能体,降低使用风险。
4. 强化行业自律,引导企业规范发展
制定行业自律规则:行业组织、主要企业需联合制定行业自律规则,明确智能体功能合规、算法治理等规范细则(《实施意见》第十三条)。例如,智能体开发平台需建立公平合理的平台规则,明确供需双方权责,保障产业健康发展。
探索信用评价机制:行业组织需建立智能体市场主体信用评价机制,对技术滥用、诱导消费等行为进行信用评价(《实施意见》第十四条)。例如,企业若因智能体数据泄露被处罚,其信用评级将下降,影响其市场竞争力。
5. 用户权利保障的延伸思考
用户教育:企业需加强智能体应用风险宣传教育,提升用户安全意识(《实施意见》第十三条)。例如,企业可通过用户手册、在线教程等方式,教育用户如何安全使用智能体,防止因操作不当导致权益受损。
法律救济途径:若用户因智能体行为导致权益受损,可通过法律途径寻求救济。例如,用户可依据《民法典》相关规定,要求企业承担侵权责任,赔偿损失。
总结与建议
在智能体产业新政下,企业与用户间的权利义务平衡需从产品准则、安全底线、治理体系、行业自律等多个维度进行综合考量。企业应严格遵守《实施意见》的相关规定,确保智能体行为合法合规,保障用户知情权、决策权和数据隐私权。同时,用户也应提升安全意识,合理使用智能体,并在权益受损时及时寻求法律救济。
如有进一步法律问题,欢迎直接咨询。