蝉鸣报告（原爱报告知识星球）
近日，全球知名的商业和技术咨询公司Capgemini发布了一份名为《高瞻远瞩_从小事做起-在整个政府中释放Gen AI和代理AI的变革力量》的行业研究报告。该报告深入探讨了生成性人工智能（Gen AI）和代理性人工智能（agentic AI）在政府服务中的潜在应用及其对公共服务变革的影响。报告指出，这些技术不仅能够提升政府服务的效率和响应性，还能够通过个性化和主动式的服务改善公民体验。其中包含了丰富的案例分析、技术实施策略以及对潜在风险的深入讨论，为政府如何安全、大规模地部署AI提供了宝贵的指导和见解。
人工智能（AI）正在改变我们与政府服务互动的方式。想象一下，将来我们可能只需要通过一个政府网页的提示框，就能访问所有面向公民的服务。这不是科幻小说，而是AI技术发展的现实潜力。全球范围内，政府正在利用自动化、个性化医疗和智能聊天机器人来服务公民。随着技术的不断进步和普及，我们所熟知的公共服务可能会发生根本性的变化。
AI技术的发展，尤其是生成性AI（Gen AI）和代理性AI（agentic AI），正在推动这些变革。Gen AI能够根据用户的提示创造新内容，包括文本、音频或视觉内容。而代理性AI则能够独立做出决策和完成任务，无需人类输入。这意味着AI技术的发展不仅仅是技术上的飞跃，更是对政府如何运作的一次深刻反思。
政府服务的数字化转型面临着巨大的压力，同时也承载着公众对于现代化、直观和透明服务的期待。AI技术能够帮助政府实现这些目标，创建更智能、更互联的公共部门，让每个人都受益。例如，AI可以帮助政府创建下一代数字公民服务，同时也能让设计和交付这些服务的过程更加自动化和高效。
根据凯捷研究院（Capgemini Research Institute）的报告，三分之二的公共部门组织正在探索或积极从事Gen AI项目。报告还发现，外部试点和实施往往集中在公民服务中的自助聊天机器人上。内部则是智能搜索和为员工总结内容。尽管代理性AI尚处于起步阶段，但根据报告，90%的公共部门组织计划在未来2-3年内实施它。
要实现这一目标并不容易。不知道从哪里开始、工作分散、资金限制和缺乏技能或共同愿景都可能成为障碍。对造成伤害的风险的担忧也可能阻碍政府的行动。然而，报告指出，最大的挑战是大多数政府在没有坚实的数据基础的情况下试图前进。这些包括管理共享数据的所有内容——从确保数据可用、可访问和高质量到建立正确的治理。
政府需要采取双管齐下的方法来克服这些挑战：一方面要对这些工具可能带来的广泛变革抱有远大的构想；另一方面要从小事做起，逐步扩大规模，将基础打好，并使用经过验证的方法从试点到广泛采用。
在政府层面，代理性AI可以作为积极主动的数字公务员，而不是等到问题出现才介入。例如，它可以自动为新生儿注册GP并申请儿童福利，或者在有人失业或在就业中心注册时，提前支持他们进行再培训和求职，甚至在公民接近退休年龄时预注册他们参加养老金计划或发送健康筛查的主动提醒。
在提供超个性化和可访问的公民体验方面，代理性AI可以进一步推动个性化服务。例如，如果你生病不能工作，需要申请福利，这在许多国家需要你采取多个步骤，从看医生到提交必要的文件。有了你的同意，代理性AI系统可以作为你的个人健康助理，为你自动化这些步骤。通过减少重复、行政工作和压力，它可以使申请福利更快、更顺畅、更易于访问，特别是对于那些最需要它的人。
AI技术已经在作为辅助工具帮助残疾人士。例如，像Copilot这样的AI驱动助理可以提高神经多样性人士的生产力，并帮助他们完成日常任务。Gen AI还可以使视频等媒体更加可访问，以及现场直播。功能如视觉到文本到语音、实时音频转录和上下文感知指导，确保盲人或视力受损用户能够像视力正常的用户一样获得相同的信息。
在政策决策方面，数据驱动政府的概念并不新鲜，但AI最终使其成为现实。例如，政策制定者依赖大量书面和数字内容来起草法规、分析研究和评估政策影响。Gen AI和代理性AI都可以简化这个过程，使决策更快、更有信息量、更包容。
然而，AI在政府中的潜力巨大，但如果没有人类的监督、问责和道德框架，它也可能造成巨大的伤害。例如，Gen AI工具可以编造东西（“幻觉”），并且即使是错误的，看起来也很有说服力。代理性AI也可能产生虚假但令人信服的信息，并应用不清晰的决策过程，快速扩大错误。
为了确保AI负责任地为公众服务，政府需要明确哪些服务使用AI以及数据会发生什么；在高风险服务中使用之前严格测试和验证AI系统；分诊他们的决策，以便简单、低风险的决策可以自动化——消除对用户或政府的不必要负担；建立清晰的问责结构，使政府机构对AI决策负责，而不是AI本身；采取人类参与的方法，防止AI在没有监督的情况下行动；为受AI驱动决策错误影响的人建立补救机制；与AI提供商合作提高AI的可解释性，以便公务员清楚为什么他们的系统采取了特定的决策或行动。
实施Gen AI和代理性AI的安全和规模化，需要建立强大的AI基础设施和数据。要释放生成性和代理性AI的变革力量，政府需要的不仅仅是好的模型。他们需要从一开始就有一个成熟的AI基础设施——即使是小规模的试点。例如，代理性AI系统依赖于一套核心的使能服务，包括安全的数据层、升级路线、监控、模型评估和LLM Ops，来做出决策和采取行动。如果政府要以安全和道德的方式试验AI代理，这些服务必须从第一天起就全部到位。
在内部首先采用AI工具也很重要。在将AI集成到面向公众的服务之前，政府必须首先在自己的工作流程中测试和完善它，以了解其优势、局限性和风险。通过使用AI工具（如Copilot Studio、ChatGPT或Gemini）并提示代理行为，团队可以模拟更自动化的AI体验。然后他们可以评估这些工具在现实世界的政策和服务交付中的有效性。
从小规模开始——测试、学习和建立信任。作为数据丰富的实验文化的一部分，运行结构化的试点可以降低风险，加快学习，并确保解决方案继续反映不断演变的公民需求。这将反过来确保公共部门的AI采用保持道德、透明和以人为中心。
发现最适合团队的人类-AI合作模式也很重要。生成性和代理性AI在政府服务中的角色是增强人类专业知识，同时使政府工作更高效。这意味着政府雇员需要了解这些技术带来的好处，以及如何充分利用它们，同时对其输出保持问责。
为公民提供从AI驱动的公共服务中受益所需的数字技能也很重要。政府需要与他们一起踏上这段旅程。这意味着分享由这些技术支持的服务可以交付的愿景，并投资于培训和支持，使公民感到自信和舒适地使用它们。
确保服务的包容性和可访问性也很重要。通过在开发过程中嵌入包容性（例如，与有残疾的用户共同设计服务），政府可以创建适合每个人的AI驱动服务。
使用“红队”方法的专家建议，这涉及到对AI模型进行压力测试，以发现意外的伤害，确保服务的公平、安全和可访问性。例如，红队充当对手，严格识别和利用网站或服务中的可访问性问题。他们模拟真实世界的场景，以发现可能影响残疾人士的潜在障碍和弱点。与此同时，蓝队专注于通过解决红队识别的问题来防御和改进服务。他们致力于使服务更加可访问，实施解决方案使其更加包容，并确保它符合相关标准。
随着AI能够自行做出更多决策，人们信任它至关重要。如果不是这样，他们将不会使用它。这意味着公民需要知道何时AI系统正在做出影响他们生活的选择。他们还需要相信政府定期检查这些系统是否存在错误或偏见，并在出现问题时清楚谁负责。
建立人类批准的检查点也很重要。在自主AI决策过程的关键阶段，包括决策前审查、过程中检查和决策后审计，强制进行人类批准。建立问责结构，使人类保持法律责任，使追踪和纠正错误更容易。确保AI决策透明，有明确的理由和公民可访问的上诉程序。定期培训和伦理审查委员会的监督将有助于确保负责任地使用AI，特别是在福利和司法等敏感领域。
建立错误检测系统以标记异常，并允许员工和公众报告AI故障。建立人类覆盖能力，使撤销决策成为可能，特别是在有严重后果的情况下。进行独立审计，确保AI系统符合公平、透明和道德标准。邀请受影响的社区、伦理专家和专业人士参与塑造AI政策。在部署AI之前进行全面影响评估，以识别对弱势群体的风险并减轻潜在偏见。
在数据隐私和安全成为政府首要考虑的问题之际，必须采取强有力的措施来保护敏感信息。政府还必须解决算法偏见和透明度等伦理问题，以便以公平和公正的方式提供AI驱动的公共服务。更重要的是，政府有责任制定明确的指导方针和法规，规范公共部门AI的使用，同时自己也要遵守这些法规。随着技术环境的不断演变，这意味着采取一种包括在不同开发阶段评估合规性的机制和工具的程序化方法。通过这种方式，政府将能够在保持合规的同时创造价值。
政府服务的未来将是个性化、主动和包容的体验，真正响应公民在不同生活阶段的需求。这不仅将改变服务的交付方式，还将改变它们的构想、设计和构建方式。设计如此相互连接和灵活的服务的复杂性需要人类可能难以实现的创造力、远见和运营能力。这就是AI将成为重要伙伴的地方。它将有助于综合大量数据、生成想法、自动化流程和进行预测建模——让人类专注于战略思考和服务设计。但其使用也将带来挑战和伦理考虑，如果AI驱动的服务要以公平、透明和负责任的方式运作，就需要解决这些问题。
通过投资健全的AI基础设施、支持数字素养
以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。
【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。
