Workato的AI研究实验室与DigitalOcean合作，利用NVIDIA Dynamo和vLLM优化推理性能。通过引入KV感知路由，显著提高了GPU的吞吐量和响应速度，分别提升67%和降低79%的延迟，从而降低了推理成本和所需GPU数量。

SaaS公司Smartsheet通过无服务器架构优化性能和成本，采用事件驱动架构，利用AWS Lambda和SQS处理高峰流量，减少延迟。通过预置并发和Graviton架构，Smartsheet实现了83%的延迟降低，提升了用户体验和成本效率。

DigitalOcean全球HTTP负载均衡器（GLB）现已对所有客户开放。GLB提供了简化的解决方案，以提高应用程序的可用性，增强弹性和降低延迟。它将流量分布到全球部署的Droplets，支持Kubernetes集群，并具有内置的故障转移和自动扩展功能。GLB还包括边缘缓存，高级流量控制和增强的安全功能。定价从每月15美元起，具有透明和可预测的成本。

本文介绍了使用pgai PostgreSQL扩展创建AI代理的方法，降低延迟并简化架构。通过结合大型语言模型和执行链，实现特定操作。文章还介绍了AI代理的组成部分和分类，以及在金融、能源、交通和医疗等行业的应用。Pgai是一个PostgreSQL扩展，可在数据库中构建AI应用程序，实现向量嵌入、内容生成和数据推理等任务。通过与PostgreSQL无缝集成，可以降低延迟、简化架构，并增强数据库中的AI能力。最后，文章提供了使用pgai和Claude构建自定义AI天气助手的步骤和示例代码。

MongoDB发布了Atlas Edge Server的公开预览，允许开发人员在其连接的基础设施中部署服务器。Edge Server扩展了MongoDB的数据平台的功能，适用于远程和网络受限的环境。它提供实时同步、冲突解决和断开连接容忍，使关键应用和设备能够持续运行。Edge Server降低了延迟，实现快速洞察，并减少对中央数据库的依赖。MongoDB旨在为团队提供强大的数据解决方案，使他们能够为其业务和客户创造创新解决方案。

Amazon ElastiCache for Redis 7.1升级版提供了性能提升和延迟降低的改进。

本文介绍了Apache Spark Structured Streaming的性能提升计划，通过改进offset管理来降低处理延迟。经过评估，这些改进使延迟提高了68-75％，即从700-900毫秒降至150-250毫秒。本文还介绍了异步进度跟踪和异步日志清理等性能改进的详细信息，并提供了性能基准测试结果。