BriefGPT - AI 论文速递
·
Multi-task Adaptive Scheduler MultiTASC++: A Continuous Adaptive Scheduler for Cascade Inference on Edge Devices
💡
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究提出了MultiTASC++调度器，旨在解决多设备级联推理中的资源共享与调度问题。该调度器通过动态优化设备转发决策，提高系统吞吐量，同时保持高准确率和低延迟，支持最多100个设备的工作负载，展现出良好的扩展性和效率。
🎯
关键要点
- 本研究提出了MultiTASC++调度器，解决多设备级联推理中的资源共享与调度问题。
- 调度器通过动态优化设备转发决策，提高系统吞吐量。
- 保持高准确率和低延迟，支持最多100个设备的工作负载。
- 实验表明调度器在不同设备环境中表现出色，具有良好的扩展性和效率。
➡️
