中国首个针对AI智能代理的省级专项政策。涵盖五大领域：基础技术研发、产业部署、超级个体（OPC）创业、Token经济学和安全治理。单项目最高支持1亿元。首次提出Agent互联互通协议（AIP）和"以模型治理模型"的安全理念。
主要条款
- 推进Agentic AI创新：超长期任务、复杂推理、多智能体协作
- 支持"Token工厂"——探索Token代金券和Agent服务券作为新型算力补贴
- 建立分级分类Agent监管体系，建设Agent安全服务平台和可信沙盒
全球首部综合性AI立法。采用风险分级框架，将自主Agent系统归为高风险，要求强制风险评估、透明度披露和人类监督。自2026年8月12日起全面执行。
主要条款
- 高风险AI系统必须完成合规性评估，维护技术文档、日志记录和人类监督
- 关键基础设施、招聘或执法中的自主AI系统自动归为高风险
- 违规罚款最高可达全球年营业额的7%或3500万欧元
由美国国家标准与技术研究院发布的框架，通过治理（Govern）、映射（Map）、度量（Measure）、管理（Manage）四大核心功能提供AI风险管理的自愿性指导。2024年7月发布了生成式AI扩展版（NIST AI 600-1）。
主要条款
- 四大核心功能：治理 → 映射（识别风险） → 度量（评估风险） → 管理（缓解风险）
- 强调AI风险与传统软件风险的根本区别：涌现行为、社会技术耦合、不可预测性
- 2026年4月：发布关键基础设施AI风险管理概况概念文件
英国走"亲创新"路线——不制定横向综合性立法。而是由现有监管机构在各自职权范围内执行五项跨行业原则。AI安全研究所是全球首个国家级AI安全研究机构。
主要条款
- 五项原则：安全稳健、透明可解释、公平、可问责善治、可争议可救济
- AI安全研究所获1亿英镑以上资金，专注于评估前沿AI系统的安全性
- 设立中央协调职能，确保跨监管机构的AI治理一致性
全球首个专门针对自主AI代理的治理框架，在达沃斯世界经济论坛上发布。识别了跨四个治理维度的五种Agent特有风险（不当行为、越权、级联故障、数据泄露、偏见放大）。
主要条款
- 四个治理维度：风险评估与边界设定、有意义的人类问责、技术控制与流程、最终用户责任
- 明确应对多Agent系统性风险：Agent蔓延、协调失败（不一致/冲突/共谋）、不可预测的涌现行为
- 要求结构化控制（最小权限、沙盒隔离、工具调用审计日志）——不仅是提示层安全保障
全球首个国家级AI代理监管框架，由网信办、发改委、工信部联合发布。将Agent定义为"具有自主感知、记忆、决策、交互和执行能力的智能系统"。建立分级治理体系，赋予敏感领域问题Agent召回权。2026年7月15日起具有法律执行力。
主要条款
- 三级决策授权：仅用户决策、用户授权决策、Agent自主决策——各类别有明确边界
- 敏感领域（医疗、交通、媒体、公共安全）须强制备案、部署前测试，监管部门有权召回Agent
- 提出Agent互联互通协议（AIP）和智能互联网架构，含Agent身份注册、发现和可信互联
美国首部要求前沿AI开发者进行年度独立第三方安全审计的法律。由州长普里茨克于2026年7月6日签署。针对训练量超过10²⁶ FLOPs且开发者收入超5亿美元的模型。核心义务2028年1月1日生效。OpenAI和Anthropic均公开支持该法案。
主要条款
- 强制年度独立第三方审计——美国首个循环审计要求（加州和纽约州仅要求单次审计）
- 关键安全事件须在72小时内报告（存在死亡/重伤紧迫风险的须24小时内报告）
- 首次违规民事罚款最高100万美元，再次违规最高300万美元；设立举报人保护和保密举报渠道
联合国国际电信联盟在AI向善峰会上宣布全球标准倡议，旨在开发可信数字身份框架，确保AI代理行为可信且可问责。解决根本性差距：AI代理需要相互识别和认证，其决策必须可控且可信。首次会议将于2026年11月在巴黎举行。
主要条款
- 开发全球规模的Agent身份、信任、发现和互操作参考架构
- 聚焦信任管理、持续安全评估基准和数字凭证互操作机制
- 向ITU-T第17研究组（安全标准）汇报；向技术专家和政策/法律/法规专家开放
欧盟AI法案第50条规定了2026年8月2日起生效的强制性AI透明度要求。聊天机器人和AI生成内容必须明确披露AI身份。部分工具和虚构内容可豁免；已部署的生成式AI系统有缓冲期至2026年12月2日前合规。违规罚款最高1500万欧元或全球年营业额的3%。
主要条款
- AI系统必须向用户披露其正在与AI交互——适用于聊天机器人、深度伪造和AI生成的文本/音频/图像/视频
- 已部署的生成式AI系统须在2026年12月2日前合规；新系统自2026年8月2日起须遵守
- 违规罚款：透明度违规最高1500万欧元或全球年营业额的3%（取较高者）