小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
共享内存IPC缓存:加速LLM推理系统中的数据传输

Cohere为vLLM项目引入共享内存IPC缓存机制,显著提高了大规模LLM推理效率。首次请求的预填吞吐量提升11.5%,缓存请求提升69.9%。该机制特别适合处理大型多模态输入,增强了系统的可扩展性和性能。

共享内存IPC缓存:加速LLM推理系统中的数据传输

vLLM Blog
vLLM Blog · 2025-11-13T00:00:00Z
杰里米·施奈德:解释IPC:同步复制 - Postgres同步复制实际上并非真正的同步复制

Postgres数据库的同步复制实际上是异步的,只有在客户端提交时才会暂停,导致性能波动。大批量操作会产生大量WAL,可能导致其他操作延迟。建议监控WAL活动并调整相关参数以减轻影响。

杰里米·施奈德:解释IPC:同步复制 - Postgres同步复制实际上并非真正的同步复制

Planet PostgreSQL
Planet PostgreSQL · 2025-10-27T23:12:27Z
降本增效的制胜之道:亚马逊云科技 Static BGP 助力IPC行业客户突破公网流量成本困境

智能摄像头行业面临市场需求增长与成本压力。AWS的Static BGP服务通过优化数据传输,帮助企业降低20%-70%的成本,同时保持网络性能,确保业务连续性,推动行业健康发展。

降本增效的制胜之道:亚马逊云科技 Static BGP 助力IPC行业客户突破公网流量成本困境

亚马逊AWS官方博客
亚马逊AWS官方博客 · 2025-09-19T10:13:34Z
🧩 nodeBond:轻量级Node.js IPC — 复兴与改进

nodeBond是一个轻量级的IPC总线,旨在简化本地Node.js微服务之间的通信,解决了服务发现和共享状态等问题。通过中心集线器管理服务注册和路由,用户可以轻松调用服务并监控状态,适合将应用拆分为小服务的场景,并支持CLI工具进行监控和测试。

🧩 nodeBond:轻量级Node.js IPC — 复兴与改进

DEV Community
DEV Community · 2025-05-23T22:07:36Z
# 🔗 nodeBond – Node.js本地IPC桥接工具(无TCP,无依赖)

nodeBond是一个轻量级的IPC桥接工具,支持本地Node.js应用快速交换消息,具备无依赖、双向通信和跨平台特性,适合CLI和自动化工具使用,安装和使用简便。

# 🔗 nodeBond – Node.js本地IPC桥接工具(无TCP,无依赖)

DEV Community
DEV Community · 2025-05-21T20:46:08Z
HarmonyOS IPC工具包远程状态订阅:进程终止时的资源管理机制

本文探讨了华为HarmonyOS Next系统的IPC机制,重点在进程资源管理和远程状态订阅。通过DeathRecipient接口,开发者可注册远程对象终止通知,确保资源及时回收,避免内存泄漏和性能问题,从而提升应用的稳定性和性能。

HarmonyOS IPC工具包远程状态订阅:进程终止时的资源管理机制

DEV Community
DEV Community · 2024-11-12T02:15:33Z
鸿蒙IPC Kit远端状态订阅:进程消亡时的资源管理机制

本文探讨了华为鸿蒙HarmonyOS Next系统中的进程间通信(IPC)和资源管理机制,重点介绍了远端状态订阅与资源回收,以确保通信的稳定性。通过示例代码,展示了如何注册和注销远端对象消亡通知,避免内存泄漏和系统性能问题。合理运用这些机制可提升应用的稳定性与性能。

鸿蒙IPC Kit远端状态订阅:进程消亡时的资源管理机制

DEV Community
DEV Community · 2024-11-12T02:10:17Z
高并发IPC通信实现:HarmonyOS中的异步调用与多线程处理

本文探讨了华为HarmonyOS Next系统的IPC Kit,重点在高并发通信下的异步调用和多线程处理。异步通信可避免阻塞,提高性能,适合大规模社交应用和直播场景。匿名共享内存实现大数据传输,减少资源竞争。希望开发者灵活运用这些技术,提升应用效率与稳定性。

高并发IPC通信实现:HarmonyOS中的异步调用与多线程处理

DEV Community
DEV Community · 2024-11-11T01:22:10Z
高并发IPC通信实现:HarmonyOS中的异步调用与多线程处理

本文探讨了华为鸿蒙HarmonyOS Next系统的IPC Kit如何通过异步调用和多线程处理高并发通信挑战。异步通信提高了系统性能,示例代码展示了使用AsyncAdd函数实现异步通信,并通过匿名共享内存进行大数据传输,避免资源竞争。这些技术可灵活应用于高效稳定的应用程序开发。

高并发IPC通信实现:HarmonyOS中的异步调用与多线程处理

DEV Community
DEV Community · 2024-11-11T01:19:36Z
HarmonyOS IPC Kit 高级:客户端与服务器之间的基本通信

本文探讨了华为HarmonyOS Next系统的IPC Kit,介绍了客户端与服务器的通信过程及Proxy和Stub的角色,并通过代码示例指导读者构建高效的进程间通信应用。

HarmonyOS IPC Kit 高级:客户端与服务器之间的基本通信

DEV Community
DEV Community · 2024-11-11T01:19:10Z
HarmonyOS IPC Kit进阶:客户端与服务端的基础通信

本文介绍了华为鸿蒙HarmonyOS Next系统的IPC Kit,阐述了客户端与服务端的通信流程及Proxy和Stub的作用。通过代码示例,展示了如何实现基础通信和支持异步模式,帮助开发者构建高效的客户端-服务端应用。

HarmonyOS IPC Kit进阶:客户端与服务端的基础通信

DEV Community
DEV Community · 2024-11-11T01:15:13Z
IPC Kit 基础介绍:理解 HarmonyOS 的进程间通信架构

本文探讨了华为HarmonyOS Next系统的IPC(进程间通信)和RPC(远程过程调用)机制,强调其在应用开发中的重要性。IPC用于同一设备内的进程协作,RPC则用于跨设备功能协作。文章介绍了IPC Kit的核心架构、工作原理及应用场景,旨在帮助开发者灵活使用这些通信机制。

IPC Kit 基础介绍:理解 HarmonyOS 的进程间通信架构

DEV Community
DEV Community · 2024-11-11T01:14:46Z
IPC Kit基础入门:理解HarmonyOS的进程间通信架构

本文探讨了华为鸿蒙HarmonyOS Next系统中的进程间通信(IPC)和远程过程调用(RPC)。IPC用于同一设备内的进程数据交互,而RPC则实现跨设备通信。IPC Kit通过Client-Server模型和Binder驱动实现高效通信,适用于后台服务和智能家居场景。

IPC Kit基础入门:理解HarmonyOS的进程间通信架构

DEV Community
DEV Community · 2024-11-11T01:10:30Z

本文介绍了Linux系统中进程的概念和通信方式,包括无名管道、有名管道、信号量、信号、消息队列和共享内存,以及套接字的概念和原理。这些通信方式实现了进程间的数据传输、通知事件、资源共享和进程控制。

Linux网络应用开发—进程通信IPC汇总

良许Linux教程网
良许Linux教程网 · 2024-04-16T14:45:21Z
本站已迁移至阿里云并接入IPC备案

阿里云推出高校学生优惠券,VPS活动力度大。网站重新上线,希望增加用户体验。

本站已迁移至阿里云并接入IPC备案

Zhendong的博客
Zhendong的博客 · 2024-03-26T16:05:52Z
IPC GenAI 应用场景与方案概述

本文探讨了智能视觉行业和多模态技术的结合,重点关注了视频摘要与总结、视频内容问答和社交圈文案生成等应用场景。介绍了两个多模态预训练模型VisualGLM-6B和BLIP2,以及Bedrock Claude模型。提供了方案搭建和应用效果展示,并介绍了一个生产级别的解决方案。建议在音视频泛娱乐场景中,结合画面描述和音频转文字字幕进行视频总结。

IPC GenAI 应用场景与方案概述

亚马逊AWS官方博客
亚马逊AWS官方博客 · 2023-11-28T02:58:18Z

龙芯2K2000是一款功耗约为4-9W的工控芯片,集成两个LA364处理器核和3D GPU核。龙芯正在研发2K3000,内核相对于2K2000进行了增强,处理器核重新设计,可以对标A76水平,性能接近3A5000的水平,适合笔记本等对功耗有一定要求的场景。未来,2K3000可以出一些工控产品、上网本、平板、盒子,可以出一些廉价的板卡给开发者。

龙芯2K2000 IPC对标A75

dotNET跨平台
dotNET跨平台 · 2023-10-03T00:16:04Z

车载系统同一主机下的不同终端需要高速通信,因此需要类似c++的进程间内存共享。

请问rust有靠谱点的ipc进程间通信的内存共享方案吗?

Rust.cc
Rust.cc · 2023-06-13T09:00:20Z

Shmipc是字节跳动服务框架团队研发的高性能进程间通讯库,基于共享内存构建,具有零拷贝特点,引入的同步机制能提升性能。Shmipc应用于Service Mesh场景下,能在大包和IO密集型场景中获得显著性能收益。本文介绍了Shmipc的设计思路和演进规划,包括零拷贝、同步机制和批量收割IO等。在字节的生产环境中,Shmipc应用于3000+服务、100w+实例,不同业务场景表现出不同收益。文章还提到了一些采坑记录和后续演进计划。欢迎感兴趣的同学参与Shmipc项目的贡献。

字节跳动开源 Shmipc:基于共享内存的高性能 IPC

字节跳动技术团队官方博客
字节跳动技术团队官方博客 · 2023-04-04T04:01:12Z

问题 分析 解决方案 结果

当 Lua IPC 管道阻塞 OpenResty 或 Nginx 事件循环的时候

OpenResty 官方博客
OpenResty 官方博客 · 2023-02-18T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码