基于人工智能的排队系统的设计和调度

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本文介绍了基于预测模型的最优调度决策在服务系统中的关键问题,即预测误差对其他作业的延迟产生的外部性对拥塞的影响。作者设计了一个基于指标的策略,结合了预测的类别信息,通过对重负载下拥塞成本的特征化来指导预测模型的设计,并针对基于人工智能的任务划分设计了一种新颖的排队系统。作者通过微调大型语言模型构建鉴别有毒性的分类器,并以实际在线评论为基础展示了他们的框架。

🎯

关键要点

  • 基于预测模型的最优调度决策在服务系统中的关键是理解预测误差对其他作业的延迟产生的外部性对拥塞的影响。

  • 考虑了预测模型与人类服务器交互的情况,例如内容审查。

  • 设计了一个基于指标的策略,以近乎最优的方式结合了预测的类别信息。

  • 通过对重负载下拥塞成本的特征化来指导预测模型的设计。

  • 针对基于人工智能的任务划分设计了一种新颖的排队系统。

  • 通过微调大型语言模型构建鉴别有毒性的分类器,展示了框架的有效性。

➡️

继续阅读