【CheckPoint】CHECKPOINTAI安全年度报告-第一版

Check Point Research近日发布了《AI安全年度报告•第一版》，这份报告深入探讨了人工智能技术在网络攻击和防御中的发展趋势，以及AI带来的威胁和挑战。报告指出，AI技术不仅被企业用于提高效率和扩大规模，同时也被网络犯罪分子利用来增强攻击能力，包括利用AI进行社交工程、恶意软件开发和数据挖掘等。报告中还详细分析了AI在安全领域的应用，如APT搜寻和漏洞研究，并强调了企业在采用AI技术时面临的风险管理问题。这份报告为理解AI安全现状提供了全面的视角，是网络安全专业人士不可或缺的参考资料。

在《Check Point AI 安全年度报告》中，我们深入了解了人工智能（AI）如何在网络攻防两端引起变革。AI技术的迅速发展，不仅为企业带来了效率提升和规模扩大，也给网络安全带来了新的挑战。报告揭示了AI威胁已经从理论走向现实，并且正在迅速发展。网络犯罪分子正在利用AI增强其攻击能力，同时针对使用AI技术的组织和个人发起攻击。

报告指出，AI模型的普及使得网络犯罪分子能够快速测试并滥用这些模型。例如，ChatGPT和OpenAI的API成为网络犯罪分子中最受欢迎的模型，而Google Gemini、Microsoft Copilot等其他模型也在迅速获得人气。这些模型增强了可访问性，使用限制极少，并且提供免费套餐，使其成为网络犯罪的重要资产。更令人担忧的是，网络犯罪分子正在创建并销售专门为网络犯罪量身定制的恶意LLM模型，这些黑暗的LLM模型旨在规避为道德模型设立的安全措施，并被积极推销为黑客工具。

AI技术的发展还带来了新型社交工程的威胁。攻击者利用文本、音频和图像以令人信服的方式冒充特定个人或生成真人声音，从而建立信任以欺骗其目标。随着AI实现各种最新进展，攻击者得以大规模地创建看似真实的材料、进行自动化聊天，并在冒充他人的情况下举行实时音频与视频会议。这种AI驱动式社交引擎的出现已在影响现实世界的网络犯罪活动，联邦调查局最近警告公众，网络犯罪分子正加速利用AI生成的文本、图像、音频和视频来增强其攻击。

报告还提到了AI在企业中的应用及其相关风险。AI服务在企业网络中的应用及其相关风险正在上升。根据Check Point数据，每月至少有51%的企业网络会使用AI服务。此外，每80个从企业设备发送到生成式AI服务的提示中，就有1个（1.25%）被发现存在敏感数据泄漏的较高风险，且另有7.5%的提示（1/13）包含潜在的敏感信息。这些数据泄露和安全风险，对企业的数据保护和合规性提出了更高的要求。

AI的安全性和由AI实现的安全性是报告的另一个重点。Check Point的GenAI Protect解决方案提供了全面的安全与合规功能，专为管理生成式AI提示的非结构化与对话式性质而设计。它可提供可见性、风险评估和实时数据丢失防护。此外，Check Point的ThreatCloud AI每天聚合并分析大数据遥测和数百万个入侵指标(IoCs)，利用大数据根据最新的入侵指标更新其防御措施，分析遥测数据，以精确分类威胁，增强网络、云、操作和用户访问的安全性。

最后，报告强调了AI作为分析、检测、预防和预测威胁的最有价值的工具。AI系统能够持续学习并适应新威胁，通过内容分析识别行为模式、异常和语言线索。Check Point的Infinity AI Copilot是一款专业的生成式AI助手，能够减少执行常见任务所需的时间。Infinity AI Copilot通过自动化复杂的多步骤活动，协助管理员和安全分析师。

这篇文章的灵感来自于《Check Point AI 安全年度报告》。除了这份报告，还有一些同类型的报告也非常有价值，推荐阅读，这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。