上周蠎超赞 26w42 #543
内容提要
《Awesome Python Weekly》第543期汇总了Python与AI领域动态:dev.to API发布文章、Python二进制wheels供应链攻击、用306行代码构建编码代理、Python是否最受LLM青睐、PyTorch反向传播中运行恶意软件、Vercel支持Python。项目方面介绍了Edge0在2.5GB内存运行350亿参数MoE模型、HyperQwen单卡24GB运行Qwen大模型,以及智能体记忆学习工具hindsight。
延伸解读
周刊来源几经辗转
文末说明,译者此前快译的周刊因链接问题被平台判为引流而封号,之后转向 pythonweekly,但该刊在2025年尾连续跳票两周,最终切换至 Awesome Python Weekly。这解释了本期内容来源的变化,也提示读者:周刊的编号和栏目可能随来源调整,关注点应放在具体条目而非刊名连续性上。
安全议题贯穿本期
本期多条内容涉及安全:Python 二进制 wheels 的供应链攻击、在 PyTorch 反向传播过程中运行图灵完备恶意软件。后者被译者点评为“面向 agents 的新型病毒”。这些条目共同提醒读者,依赖包与模型加载环节都可能成为攻击面,安装第三方 wheels 或运行不可信模型时需保持警惕。
大模型本地运行的两种思路
Edge0 宣称在 2.5 GB 内存中运行 350 亿参数 MoE 模型,权重从 SSD 流式传输,并由训练好的路由器提前预测负载;HyperQwen 则面向单张 24 GB 显卡,用 vLLM 运行 Qwen 大模型并给出吞吐数据。两者分别从内存受限和 GPU 受限场景切入,但译者对 Edge0 的实际能力持保留态度,认为尚无法替代其他加载方式。
Q&A
Python 二进制 wheels 存在什么安全风险?
文章提到 Python 的二进制 wheels 可能被用于供应链攻击,具体内容来自 rushter.com 的一篇文章。
如何用 306 行 Python 代码构建一个编码代理?
文章引用了一篇来自 kialog.nlogn.ir 的文章,介绍用 306 行 Python 代码构建编码代理的方法。
Python 是 LLM 最喜欢的编程语言吗?
文章引用了 www.zansara.dev 的一篇文章探讨这个问题,但没有给出明确结论。
如何在 PyTorch 反向传播过程中运行恶意软件?
文章提到 elonlit.com 的一篇文章介绍了在 PyTorch 反向传播过程中运行图灵完备恶意软件的方法。
Vercel 现在支持 Python 了吗?
是的,文章提到 Vercel 上的 Python 现已正式发布。
Edge0 如何实现在 2.5GB 内存中运行 350 亿参数的 MoE 模型?
Edge0 通过从 SSD 流式传输权重数据,并使用训练好的路由器提前预测负载,从而在 2.5GB 内存中运行 350 亿参数的 MoE 模型,支持 Mac、iPhone、Android 和 Windows 系统。
HyperQwen 是什么?它有什么特点?
HyperQwen 是一个利用实际拥有的 GPU 快速运行大型 Qwen 模型的工具。在单张 24GB 显卡上使用 vLLM 运行 Qwen3.8-27B 模型,单用户速度可达 127 tok/s,64 个并发用户速度可达 1,035 tok/s,上下文大小为 150k-262k。
hindsight 是什么工具?
hindsight 是一个智能体记忆学习工具,属于 Agents 类别。