【兰德】优先考虑可行和有影响力的行动_以实现人工智能在生物学中的安全开发和使用(英)

近日，兰德公司（RAND Corporation）发布了一份名为《Prioritizing Feasible and Impactful Actions to Enable Secure Artificial Intelligence Development and Use in Biology》的研究报告。该报告深入探讨了如何在生物学领域安全地开发和使用人工智能，以减轻人工智能可能被滥用造成生物威胁的风险。报告提出了一系列切实可行的策略和技术手段，旨在为政策制定者、人工智能开发者、生物安全专家等提供指导，确保人工智能技术在生物学中的负责任创新。这份报告是关于AI与生物风险交叉领域的宝贵资源，为确保AI技术的安全和负责任的应用提供了深刻见解和实用建议。

人工智能在生物学领域的应用正以前所未有的速度发展，带来了巨大的社会利益潜力。然而，这种技术进步也带来了新的挑战：人工智能可能被滥用来制造生物威胁。《Prioritizing Feasible and Impactful Actions to Enable Secure Artificial Intelligence Development and Use in Biology》这份报告深入探讨了如何通过切实可行的措施来减轻这种风险。

报告指出，随着人工智能技术的进步，尤其是在生命科学领域的应用，我们有能力解码生物系统的复杂性，这对健康、环境和经济都有着深远的影响。但同时，也增加了像病毒、蛋白质毒素等潜在生物威胁的风险。因此，我们需要优先考虑哪些措施最可行且最具影响力，以减轻人工智能在生物威胁创造中的风险。

在模型层面，报告提出了一种名为“模型遗忘和信息移除技术”的策略。这是一种在大型语言模型训练的微调阶段应用的五项相关技术，能够使模型“忘记”特定不需要的知识，同时保持所需的知识。例如，通过在模型的内部表示中添加噪声，或者中断模型产生有害输出的特定内部路径。这些技术虽然还在开发中，但已经显示出早期的能力。

在部署层面，报告提出了基于分类器的输入和输出过滤技术。这种技术通过构建机器学习分类器来检测和拒绝有害的输入和输出信息。尽管这项技术在一般人工智能中已经显示出影响力，但在生物设计工具中尚未得到验证。

报告还强调了生物安全人工智能代理的重要性。这些代理可以评估用户查询的安全性，并在必要时请求更多信息或将案件转交给人类分析师。这种策略具有高潜在影响，因为它可以实现持续和广泛的监控，但实施起来较为复杂，需要大量的计算资源。

在物理层面，报告讨论了确保现有材料和设备保护措施的执行。这包括监督对高风险生物材料和实验室设备的访问，通过联邦选定代理计划和出口控制等长期项目。这些措施因为即使人工智能帮助消除了知识障碍，将数字模型输出转化为实际生物威胁仍然需要物理材料和设备。

报告还提出了增强生物监测和生物归属能力的重要性。生物监测涉及通过环境或临床样本监测病原体，而生物归属则利用流行病学、分子、情报和背景数据来确定生物威胁的来源。这些能力不仅可以用于事件响应，也是预防的关键部分。

最后，报告提出了在DNA合成前筛选元数据/审计日志的策略。这可以通过开发一个加密可验证的日志来实现，记录与使用人工智能工具设计生物材料相关的元数据，为DNA序列设计提供一个来源层，允许合成供应商不仅评估提交的内容，还评估其开发方式。

这篇文章的灵感来自于《Prioritizing Feasible and Impactful Actions to Enable Secure Artificial Intelligence Development and Use in Biology》这份报告。文章只是对报告内容做了总体的介绍，除了这份报告，还有一些同类型的报告，也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。