Slack Engineering
·
通过代理优化安全调查
内容提要
Slack的安全工程团队通过AI代理优化工作效率，设计多个角色（如调查主任、专家和评论员）以提升调查准确性和控制力。该系统实时监控调查并生成可验证报告，逐步实现安全调查的自动化和智能化。
关键要点
-
Slack的安全工程团队负责保护核心基础设施和服务。
-
团队通过AI代理优化工作效率，增强安全防御。
-
初步原型在2025年5月底完成，包含五个部分的提示。
-
原型的表现不稳定，有时能产生优秀的结果，有时则得出错误结论。
-
为提高控制力，团队将调查过程分解为多个模型调用，每个调用有明确的目的和输出结构。
-
设计中引入了多个角色（调查主任、专家和评论员）以增强调查的准确性和控制力。
-
调查主任负责推动调查进程，专家根据主任的问题提供发现，评论员评估专家的发现质量。
-
调查过程分为多个阶段，包括发现、决策、追踪和总结。
-
服务架构包括中心、工作者和仪表板，支持实时观察和管理调查。
-
调查报告展示了AI代理的潜力，能够独立发现问题。
-
团队在使用AI代理进行安全调查的过程中开始看到显著的好处。
延伸解读
AI代理的多角色设计
Slack的安全调查系统通过引入多个角色（调查主任、专家和评论员）来优化调查过程。这种设计不仅提高了调查的准确性，还增强了对调查结果的控制力。每个角色都有明确的职责，确保调查的每个阶段都能得到充分的审查和反馈，从而减少错误和偏差。
调查过程的分阶段管理
文章提到调查过程被分为多个阶段，包括发现、决策、追踪和总结。这种分阶段的管理方式使得调查可以灵活调整，确保每个阶段都能充分利用可用的数据源。这种方法有助于提高调查的效率和效果，尤其是在处理复杂的安全事件时。
结构化输出的优势与挑战
使用结构化输出格式可以提高调查结果的一致性和可控性，但也存在一定的风险。如果输出格式过于复杂，可能导致执行失败。此外，结构化输出仍然面临模型作弊和幻觉等问题。因此，在设计调查流程时，需要谨慎平衡输出的复杂性与模型的能力。
延伸问答
Slack的安全工程团队如何利用AI代理优化调查工作？
Slack的安全工程团队通过设计多个角色（如调查主任、专家和评论员）和实时监控调查，利用AI代理提高工作效率和调查准确性。
调查主任在安全调查中扮演什么角色？
调查主任负责推动调查进程，提出问题并组织调查的各个阶段。
AI代理在调查过程中如何确保结果的准确性？
AI代理通过将调查过程分解为多个模型调用，每个调用有明确的目的和输出结构，从而提高结果的准确性。
Slack的安全调查系统有哪些主要组成部分？
系统主要由中心、工作者和仪表板组成，支持实时观察和管理调查。
在安全调查中，评论员的作用是什么？
评论员负责评估专家的发现质量，并为每个发现提供可信度评分。
Slack的安全调查系统在未来有什么发展计划？
未来计划包括分享更多系统工作细节，维护多角色调查中的一致性，以及人机协作的研究。
