【安远AI】2025中国人工智能安全全景报告

Concordia AI近日发布了《中国人工智能安全全景报告（2025）》，这份报告深入分析了中国在人工智能（AI）安全和治理方面的最新进展，涵盖了国内治理、国际治理、技术安全研究、专家对AI安全和治理的看法以及行业治理五个领域。报告指出，随着AI能力的增强和治理挑战的增长，理解中国在全球AI安全和治理中的角色变得尤为关键。报告强调，中国在AI安全领域的研究产出迅速增加，特别是在前沿AI安全研究方面，中国学者在全球的影响力日益增强。这份报告不仅提供了中国AI安全领域的宏观视角，还深入探讨了具体的技术研究、政策动态和行业实践，为全球AI合作提供了宝贵的参考和洞见。

中国在人工智能安全领域的进展与挑战

人工智能（AI）的安全问题已成为全球关注的焦点。中国作为AI技术发展的重要力量，其在AI安全领域的动态对全球具有深远影响。2025年的《中国人工智能安全全景报告》为我们提供了深入了解中国在AI安全方面的最新进展和挑战的机会。

国内治理：政策与法规的加强

中国政府在AI安全方面的政策和法规正在逐步加强。2024年，中国最重要的政治事件之一——三中全会，明确提出了建立AI安全监管体系的必要性。2025年，中共中央政治局首次专门就AI问题举行学习会议，强调了AI带来的“前所未有的发展机遇”和“前所未有的风险和挑战”。这表明中国高层对AI安全的重视程度正在提升，政策信号越来越明确和具体。

在立法和监管方面，尽管目前中国尚未出台全面的国家AI法律，但相关部门法规正在逐步完善。例如，中国已经发布了关于AI生成内容标签和水印的新规定，并继续实施现有的法规，要求某些类型的AI模型在部署前进行注册和安全测试。这些法规通过快速扩展的标准体系得以实施，从2025年1月至5月，中国发布的国家AI标准数量相当于过去三年的总和。

国际治理：中国在全球AI治理中的角色

在国际舞台上，中国强调AI安全和全球AI能力建设作为其国际AI外交的关键主题。中国在达沃斯论坛上警告称，没有安全措施的发展AI就像在高速公路上不刹车地驾驶，并呼吁国际社会共同防止无序的国际竞争。此外，中国还通过联合国推动AI能力建设的决议，启动了“行动计划”，并与赞比亚共同创立了“人工智能能力建设之友小组”。

技术安全研究：中国学者的贡献

中国学者在前沿AI安全研究方面的产出迅速增加。从2024年6月到2025年5月，中国学者每月发表约26篇论文，是前一年的两倍多。研究领域包括超级人工智能系统的对齐问题和机械解释性方法，这些领域之前鲜有研究，现在已成为热门的前沿安全研究方向。

专家观点：AI安全和治理的讨论趋势

中国专家对AI安全和治理的讨论越来越重视。从2023年到2024年，两个重要的AI会议——世界人工智能大会（WAIC）和世界互联网大会（WIC）上关于AI安全和治理的讨论几乎翻了一番。此外，WAIC在2024年升级为“全球AI治理高级别会议”，首次由中央政府高级官员，国务院总理李强发表开幕词。值得注意的是，他强调了AI安全和治理问题。同时，开幕式上的专家演讲也比往年更加强调这些主题。

行业治理：企业行动与服务化

在行业治理方面，大多数领先的中国基础模型开发者已经签署了由中国人工智能产业联盟（AIIA）在2024年12月起草的自愿性“人工智能安全承诺”。这些承诺涵盖了AI开发生命周期中的安全措施，包括专门的安全团队、红队测试、数据安全、基础设施保护、透明度和前沿安全研究的投资。

文章灵感来自于《中国人工智能安全全景报告（2025）》。这份报告仅对相关内容进行了总体介绍。除了这份报告，还有其他一些同类型的报告也非常有价值，推荐阅读。这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。