安全+大模型应用系列之RSAC的Dropzone AI的分析

RSAC的AI元素

2024 RSAC上展示的半数以上的产品都加持了AI技术，从代码检测、数据分级分类、威胁检测、行为分析等检测技术到威胁告警分析研判和自动化处置都体现了AI+的融入。

• 以SIEM产品为例，Elastic演示了可以集成任何第三方的威胁分析大模型，一次最多可以分析100个告警。
• CrowdStrike则提出了新一代SOC是AI内生的SOC，包括通过AI第三方介入、AI正则化、AI数据丰富、AI流程自动化以及建立自己的大大语言模型（LLM）用于提升安全运行效率。

在RSAC创新沙盒比赛中，生成AI驱动安全运营自动化的初创企业Dropzone AI成功跻身10强。

        根据公开信息，通过将自主 AI 分析师无缝集成到安全工作流程中，Dropzone AI 将会改变安全运营的方式，能在不增加人员的情况下以 10 倍以上效率开展运营。Dropzone AI虽与冠军擦肩而过，但其通过部署预先训练的自主 AI 分析师来提升安全运营效率的思路，受到业界认可。该公司在 A 轮融资中筹集了 1685 万美元。

公司介绍与定位：

        Dropzone AI is the first AI SOC analyst that autonomously investigates alerts 24/7. It integrates with existing tools, adapts to your environment, and generates decision-ready reports. You can focus on real threats and 10X your team without adding headcount. No playbooks, code, or prompts required.

        Dropzone AI 是第一个 24/7 自主调查警报的 AI SOC 分析师。它与现有工具集成，适应您的环境并生成可供决策的报告。 您可以专注于真正的威胁，并且无需增加员工人数即可将团队规模扩大 10 倍。 无需剧本、代码或提示。

团队组成：

目前团队规模不足10人(官网上7人)；Invertor当中，有2位都是中国人；

融资情况：

        2023年8月、人工智能自主警报调查平台Dropzone AI获350万美元种子轮融资；面向安全运营团队的自主警报调查平台Dropzone AI获得了350万美元的种子轮融资。本轮融资由Decibel Partners领投，Pioneer Square Ventures Fund、Oliver Friedrichs、Jon Oberheide以及Jesse Rothstein等天使投资人参投。

        2024年4月25日，总部位于美国西雅图的AI安全分析初创公司 Dropzone Ale 宣布筹集了1685万美元的A轮融资。本轮融资出Theory Ventures领投，Decibel Partners、Pioneer Square Ventures和In-Q-Tel (1QT)等现有投资者和多位天使投资人也参与了投资。该公司计划将筹集的资金用于继续扩大其市场推广和工程团队；

产品的理念与价值：

        当前只有一个产品，定位The World’s First AI SOC Analyst，主要讲述了一个安全专家(安全分析师)即人的价值；该理念深信服922发布会的自动化值守的价值基本上一致；同时对专家分析师的等级进行了分层，Tier-1、Tier-2、Tier-3；

该AI场景也推出了二种类型的功能模块，智能化的告警研判调查(智能运营)与对话框chatbot(辅助运营)

其产品的主要竞争力有以下几点：

        在产品简介中，其提出了一个很重要的观点：因为安全运营中人工的效率和精力都有限，因此往往只能对大部分告警做tier-1级的分析，即初步筛选、优先级评定等等初步操作。发现高危之后才能对有限的告警进行深入调查。

        但自动化安全运营后，提高了效率，可对大量告警进行tier-2或者tier-3级别的深入分析，从而更清晰的理解告警，发现真实攻击。

        过程中也提到会针对每一个安全告警，都给出一份完整的调查报告；人工完成这个报告需要4-10分钟左右，整个过程如果由GPT完成速度会大幅度提升；每个安全告警的调查报告；

        过程中也阐述了攻击者的背景、随着攻击者不断采用新技术，网络防御者正在输掉这场战争。只有使用Al才能守军夺回高地。

        也提出了一个概念，认为只有只有不到 10% 的告警需要进行深度的关联。这个是普遍的共识、并不是全量的告警都需要走大模型的调查和解读；

 官网上提到了认为当前的SOC平台面临着两个复杂的挑战：

1.来自更多工具的源源不断的警报 ---海量告警

2.分析各个系统中分散的数据的繁琐工作 --多源数据的关联分析

产品功能模块：

全量告警分析研判与调查报告：

全量告警的分析与调查报告的支持，从产品的设计页面来看，整体思路基本一致。融合的比较多开源的情报工具平台和私域的数据的分析；

开源的平台情报平台主要用了Virustotal、本地的数据检索(Splunk)，过程对一些维度进行分析，并能够给出对应的数据的出处，并给出对应的举证内容（findings）

最后会结合多个findings给出针对单个告警的Conclusion，如下图所示一个有效攻击(Confirmed Malicious)；

从界面设计来看，用户也可以进行Accept 或者modify Conclusion，是支持用户进行结论的调整。同时有对应的对话框，支持用户针对以上内容进行追问或者argue；

从技术方案的角度来看来看，主要是三个维度；检索、理解、生成；即RAG+COT的生成，

多源数据的深度关联分析：

从给出的数据来看，目前支持50+多种不用类型的数据源，包含了主流的SIEM, EDR, Firewall, CSP并能够做到自动化的收集；

        从给出的案例来看，该AI Agent的能力的确可以从内网各个数据平台里面自动化去检索数据；过程中应该是需要给该产品的权限和登录口令单独进行处理才对，在调查和举证的地方，可以将数据的来源进行说明。比如下列的案例当中的数据设计到Splunl、终端日志EDR日志、PA防火墙日志、Tshark网络日志的关联分析。

对话式的辅助运营调查场景(Chatbot)：

本地数据的打通做检索统计、主要是告警、资产、事件、日志常规的问题的分析统计；

模型训练：

        文档介绍中只提到了经过一定程度的预训练(pre-training)，未公布其他相关信息；猜测大概率是使用了GPT4或者GPT3.5

用户价值和客群：

        和国内主要的运营大模型主讲的价值差不多、聚焦真实入侵行为，提高安全运营效果和时效性；

        针对的客群，除了有自建自用的客户外，也聚焦了MSSPs的平台的用户，类似当前深信服目前安全GPT在MSS的应用；

几个灵魂拷问的回答：

Does Dropzone AI replace SOC Analysts? (替换人的问题)

No. We designed Dropzone to work alongside security analysts and handle the front-line work of manual and repetitive work of alert investigation for them, so analysts can focus their time and talent on the real threats and proactive and strategic projects. We believe AI augmentation will increase the number and job satisfaction of security practitioners and, more importantly, take a step toward curbing the ever-growing cyber attacks

不会。我们设计 Dropzone 的目的是与安全分析师一起工作，为他们处理一线的手动工作和警报调查的重复性工作，以便分析师可以将时间和才能集中在真正的威胁和主动战略项目上。 我们相信人工智能增强将增加安全从业人员的数量和工作满意度，更重要的是，朝着遏制日益增长的网络攻击迈出一步；

How do I know it doesn't hallucinate in its conclusions and analysis? （幻觉问题）

Our system was engineered with a specific focus on guardrails, explainability, and data lineage. For example, every alert conclusion is accompanied by a complete report of crucial factors, along with a chain of raw evidence and sources, so human analysts can quickly validate the AI's logical reasoning at a click of a button.

我们的系统在设计时特别关注护栏、可解释性和数据沿袭。 例如，每个警报结论都附有关键因素的完整报告，以及一系列原始证据和来源，因此人类分析师只需单击按钮即可快速验证人工智能的逻辑推理。

How is using Dropzone AI different from using ChatGPT?(与其他大模型的区别)

Dropzone AI provides pre-trained autonomous agents specialized in security operations. Dropzone connects to all your existing cybersecurity tooling and data sources. And it is highly autonomous, capable of performing end-to-end alert investigations with no human input or prior playbook. In comparison, ChatGPT is a general-purpose chatbot (focusing on simple Q&A) with no ability to connect to your security stack and no security operation expertise.

Dropzone AI 提供经过预先训练的专门从事安全操作的自主代理。 Dropzone 连接到您所有现有的网络安全工具和数据源。 它具有高度自主性，能够执行端到端的警报调查，无需人工输入或事先的操作手册。 相比之下，ChatGPT 是一种通用聊天机器人（专注于简单的问答），无法连接到您的安全堆栈，也没有安全操作专业知识。

总结：

Dropzone AI 的产品特点包括：

• 全自动化研判 系统可以自动调用工具对告警进行多角度分析，并生成总结和结论。
• 高度灵活性和环境适应性 产品可以轻松适应当前的安全运营环境，无需改动现有基础设施。
• 人机交互模式 通过自然语言交互界面，系统能够理解自然语言，获取和返回数据，提供类似chatgpt的用户体验。
• 提升人与人交互效率 系统能自动生成需要的询问邮件，简化交流流程，加速问题解决速度。

从Dropzone AI广泛的认可度来看，国外对该思路的认可度较好，前期在国内项目验证的时候客户也非常感兴趣。但是目前国内的安全产品、安全平台较为封闭、无法像国外产品能够广泛直接对接、或许是当前制约国内的安全GPT广泛推广的一个阻碍；

安全+大模型的产品的逐渐按照多能力的安全专家(全能)的能力和价值去规划、应该是一个受客户认可的正确方向。

Dropzone AI 的技术应用应该不仅限于传统的安全运营场景，还包括钓鱼邮件分析、终端和网络流量告警分析(usercase)、云服务和身份认证告警分析等，极大地拓宽了自动化安全运营的应用范围。这种全面自动化的研判体系，不仅提高了处理告警的效率，还增强了对复杂安全威胁的响应能力，是现代网络安全防御的重要进步。