【兰德】人工智能生物工具全球风险指数-总结评估和方法报告(英)

近日，独立智库中心（Centre for Long-Term Resilience, CLTR）与RAND Europe联合发布了《全球人工智能生物工具风险指数——总结评估与方法报告》。该报告首次提出了一个全球性的风险评估框架，旨在评估人工智能在生物领域工具的能力、潜在滥用风险、可获得性及技术成熟度。报告详细介绍了评估方法，并提供了对57种先进工具的详细评估结果，为政策制定者、技术开发者和资助者提供了宝贵的信息，以促进人工智能生物工具的负责任发展和治理。报告中不仅展示了人工智能在生物科学领域的革命性进步，还强调了这些工具可能带来的双重用途风险，并提出了针对性的建议，以帮助最大限度地发挥这些工具的积极作用，同时减轻它们可能带来的新兴风险。

人工智能正在改变生命科学，它在研究、药物发现和生物技术中的突破性进展令人瞩目。然而，这些推动创新的AI工具也可能被滥用，带来显著的双重用途风险。确保这些技术负责任地开发和部署，需要我们清晰、有结构地理解个体AI赋能生物工具的能力和潜在的滥用应用。这就是《全球AI赋能生物工具风险指数》报告的核心议题。

报告介绍了全球首个AI赋能生物工具风险指数，这是一个灵活的框架，旨在基于工具的能力、潜在滥用、可获取性和技术成熟度来评估这些工具。开发者可以利用这个指数更好地理解他们正在构建的工具的广泛影响，不仅是它们的好处，还有它们的风险，并以安全和负责任的方式设计这些工具和其他相关AI模型。政策制定者可以利用这个指数来导航快速变化的格局，识别与滥用相关的工具或能力，并优先考虑治理、风险评估和缓解的领域。

报告详细评估了57个最先进的工具，发现有13个工具被标记为“红色”，需要立即关注，并建议对另外15个工具进行个案后续评估。这些工具在全球范围内的分布显示了一个明显的趋势：美国、中国和英国是前沿能力的领先贡献者，这突显了这项技术发展的全球性质。

报告的一个关键发现是，工具的滥用相关能力和可获取性之间没有相关性。这意味着潜在的危险工具目前和不那么令人担忧的工具一样有可能被广泛获取。如果不进行积极干预，这种模式可能会随着新能力的涌现而继续。大多数（82.5%）最先进的工具至少有一个开源组件。此外，61.5%的“红色”工具是完全开源的，包括公开可用的代码、权重和训练数据。这包括具有高或关键滥用相关能力的工具。开源工具促进了创新，对于资源较少的研究人员和专业人员来说更容易获取，但公开可用的能力同样可以被威胁行为者获取，一旦发布就无法撤回。

基于这些发现，报告为不同利益相关者推荐了五个关键行动。首先，开发者和资助者应该在资助和开发工具之前，以及在发布和模型发布之前，使用全球风险指数的评估工具的滥用相关能力。其次，开发者和资助者应该对具有显著滥用相关能力的工具实施管理访问，使用了解您的客户（KYC）原则，以差异化地优先发展医疗对策和其他防御措施。第三，资助者应该使开发者能够在工具中嵌入“设计时”的安全措施，尽快试点有希望的方法，同时确保非安全模型的私密可访问性，以满足合法防御研究人员的需要。第四，开发者、资助者和政府应该通过定期会晤和共享信息来促进负责任的创新文化。最后，政府和独立专家应该进行持续的工具评估和监测，并从开发者和资助者那里获得输入。

这篇文章的灵感来自于《全球AI赋能生物工具风险指数》报告。除了这份报告，还有一些同类型的报告也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。