推理需求快速增长，预计到2030年将占全球AI计算的主要部分。许多团队未能有效利用计算资源，导致重复计算浪费。DigitalOcean通过前缀感知路由和缓存技术优化推理性能，提高缓存命中率，降低计算成本，并将在Serverless Inference中推广，帮助用户节省计算资源。