💡
原文英文，约600词，阅读约需2分钟。
📝
内容提要
DoorDash推出了AI安全系统SafeChat，实时监控Dashers与客户的交流，检测不当内容并采取措施。该系统结合机器学习与人工审核，显著降低安全事件发生率。
🎯
关键要点
- DoorDash推出了AI安全系统SafeChat，实时监控Dashers与客户的交流。
- SafeChat结合机器学习与人工审核，检测不当内容并采取措施。
- 该系统专注于安全，而非参与度或自动化，旨在保护平台完整性和用户福祉。
- SafeChat采用分层AI架构，处理每日数百万次互动，分类文本、图像和语音通信。
- 文本审核分为两个阶段，第一阶段使用三层方法，自动清除90%的消息。
- 第二阶段使用内部模型作为第一层，处理99.8%的流量，提高了可扩展性和降低了成本。
- 图像审核通过计算机视觉模型处理，经过人类审核调整阈值和置信度。
- 语音审核最初以观察模式部署，验证阈值后可自动采取行动。
- SafeChat的执行层根据违规的严重性和重复性采取相应措施。
- 该系统自部署以来，低中严重性安全事件减少了约50%。
➡️
