腾讯云技术架构联盟活动笔记——“云峰论剑” 聊聊当前的前沿研究/产品/实践案例
内容提要
腾讯云架构联盟活动笔记涵盖四场分享：黄翰提出“微计算”，以微搜索省去冗余计算，实现低成本高效AI；黄依琳讲Agent Memory从个人记忆到团队资产的演进，强调继承历史判断；李中华分析恶劣条件下小目标检测，从数据、网络、部署层优化，结合开放词汇与增量学习；张晶介绍AI推理异构协同，通过CPU-GPU重构解决24GB显存OOM与成本约束。
延伸解读
“省”字诀：微计算如何降低AI成本
黄翰教授提出“微计算”方法，核心是省去冗余和重复的计算量，通过微搜索与微计算结合实现低成本高效AI。文章列举了精确抠图、答题卡评分、车辆路径问题、车间调度等多个应用案例，说明该方法在组合优化和图像处理场景中具有可落地性。对读者而言，这提示在追求大模型“大力出奇迹”之外，算法层面的精简设计仍是控制成本的重要路径。
Agent Memory：从个人经验到团队资产
黄依琳指出当前AI能力在增长，但经验没有继承，真正丢失的是历史判断中的“为什么”。她将记忆资产分为Chat Memory、LLM-Wiki、CodeGraph、Skill四类，并强调个人记忆解决连续性问题，团队记忆解决继承性问题。这一框架提醒团队在部署Agent时，不应只关注模型能力，还需设计记忆沉淀机制，把个体交互中形成的判断转化为可复用的组织资产。
恶劣条件下小目标检测的工程化思路
李中华副教授围绕精度、速度、鲁棒性的核心矛盾，梳理了从两阶段、单阶段到Anchor-free方法的演进，并给出数据层、网络层、部署层、范式层的四层优化框架。实践部分以PCB缺陷检测和焊缝缺陷检测为例，展示了开放词汇零样本捕获、智能分流放行与人机协同兜底相结合的闭环。这说明在工业质检中，单纯提升模型精度不够，还需将推理路由、业务处置和人工复核纳入系统设计。
异构协同：从单卡算力到系统价值的务实选择
张晶基于AMD真实客户案例指出，架构设计应从约束开始，包括采购成本、交付窗口、可用容量、时延吞吐、质量和TCO。文章对比了32GB GPU Only的采购风险与24GB GPU Only的运行时OOM，提出CPU+GPU异构协同并验证峰值显存、时延和质量。其定位OOM的方法是先复现失败，再隔离峰值显存贡献。这为受显存和成本约束的推理部署提供了可操作的排查与重构思路。
Q&A
黄翰教授提出的“微计算”方法核心思想是什么？
微计算的核心思想是“省”，即省去多余和重复的计算量，通过微搜索加微计算实现低成本高效率的人工智能方法。
Agent Memory 从个人记忆到团队资产演进中，真正丢失的是什么？
真正丢失的是历史判断中的“为什么”。个人记忆解决连续性问题，团队记忆解决继承性问题。
恶劣条件下小目标检测面临的核心矛盾是什么？
核心矛盾三角是精度、速度、鲁棒性三者之间的平衡。
小目标检测在数据层有哪些构建策略？
数据层策略包括：真实采集加物理引导合成、缺陷热力统计指导采样、半监督增量自进化。
AI推理架构中，从单GPU到异构协同主要解决什么问题？
主要解决成本约束和显存不足问题，例如24GB GPU Only会导致运行时OOM，通过CPU+GPU异构协同可以验证峰值显存、时延和质量。
张晶分享中提到的架构设计从约束开始，具体包括哪些约束维度？
包括CAPEX/采购成本、Supply/交付窗口、Memory/可用容量、Latency/吞吐、Quality/质量、TCO/单位产出。
