Google最近开源了Metrax,这是一个JAX库,提供分类、回归、NLP、视觉和音频模型的标准化性能指标,支持分布式和大规模训练,确保指标实现符合最佳实践。
vLLM TPU通过tpu-inference插件整合JAX和PyTorch,显著提升性能和模型支持。新设计优化了TPU性能,支持多种模型,简化开发流程。RPA v3内核增强灵活性和效率,SPMD模型提升性能,整体性能较2025年原型提升近5倍,推动开源TPU推理的发展。
深度学习技术在过去十年中彻底改变了人工智能领域,成为语音识别、图像分析和自然语言处理的核心。选择合适的深度学习框架对开发者至关重要,影响项目的成功与可持续性。本文比较了主要框架(如TensorFlow、PyTorch和JAX),分析其技术基础、开发者体验及适用场景,帮助开发者根据项目需求做出最佳选择。
本文分析了Hugging Face的开源机器人库LeRobot中的π0模型,重点讨论了策略实现、配置系统、核心模型及注意力机制优化。通过对比JAX与PyTorch的实现,强调了两者在集成框架和适配性上的差异,并展示了如何将视觉-语言模型与专家模型结合,以生成精确的机器人动作序列。
MPAX是一个基于JAX的开源线性规划工具,结合机器学习,采用先进的一阶方法,具备硬件加速和并行处理能力,性能优于传统求解器。
该研究提出Kozax框架,旨在解决遗传编程中适应性评估的高计算需求问题,支持大规模数据集和自定义运算符,展示了在科学计算中的优化潜力。
德国马克斯普朗克光科学研究所的研究团队开发了开源计算框架XLuminA,利用JAX加速光学显微镜实验设计,显著提升计算速度,支持新光学配置的自动发现,推动超分辨率显微镜技术的发展。该研究将于2024年12月10日发表在《Nature Communications》。
本文介绍了Rust GPU项目及其在矩阵乘法中的应用,强调了Rust与GPU集成的优势。通过wgpu库实现了三种矩阵乘法kernel,展示了Rust在高性能计算中的潜力。同时,讨论了AWS Lambda与Rust结合提升登录性能的案例,以及molpipx库在化学领域的应用。
Keras和JAX是深度学习框架。Keras简化了TensorFlow,适合初学者;JAX专注于高性能计算,灵活性强,适合经验丰富的开发者。两者均支持GPU加速和自动微分,但Keras易用性更高,JAX则提供更高级的功能和优化。选择取决于用户需求。
自动微分是一种高效计算函数导数的方法,结合了符号和数值微分的优点。它通过构建有向无环图并使用链式法则计算梯度,广泛应用于深度学习库如TensorFlow和PyTorch。JAX是支持自动微分的高性能库,适用于机器学习和科学计算。本文探讨了自动微分在数值相对论中的应用,展示了如何用JAX计算度量张量的导数。
深度学习在计算机视觉和自然语言处理中应用广泛。JAX由谷歌开发,支持自动微分和硬件加速,适合高性能项目。PyTorch由Facebook开发,易用且生态系统成熟,适合需要多样化库支持的项目。选择框架需根据项目需求。
随着AI模型参数增加,算力需求也在增长。Felafax公司通过简化AI训练集群,将训练成本降低了30%。他们使用JAX在AMD GPU上微调LLaMA 3.1 405B模型,展示了JAX在非英伟达硬件上的优势。JAX支持多硬件并行,适应性强,迁移方便。Felafax利用JAX的设备网格功能进行参数分片,优化内存和计算效率,并通过LoRA技术减少可训练参数,实现高效微调。相关代码已开源,并提供详细教程。
本文介绍了Flow Lenia细胞自动机的扩展,克服了Lenia的局限性,展示了其在生成复杂行为模式方面的有效性。研究结合机器学习与细胞自动机,探索自组织和动态建模,提出了改进的神经元细胞自动机(NCA)模型,具有强大的泛化能力和鲁棒性,适用于生物模式形成的建模。
该论文介绍了多种脉冲神经网络(SNN)框架及其优化方法,旨在提高能效和准确性。tinySNN框架通过模型压缩和量化实现高效嵌入式应用。SpikingJelly和Spyx框架加速SNN训练,提升灵活性和性能。此外,研究探讨了硬件感知的SNN架构搜索,结合边缘计算,展示了混合模型在动态视觉处理中的优势。
本研究探讨了平滑粒子流体动力学(SPH)中的粒子聚类现象,提出了一种基于图神经网络(GNN)的模拟器,以增强训练和推理性能。文章还介绍了流体动力学与深度学习结合的框架,展示了计算流体力学求解器JAX-Fluids在单相和两相流模拟中的高性能和多功能性。
介绍了Minigrid和Miniworld库,提供了目标导向的2D和3D环境,用于快速开发适用于各种研究需求的新环境。两个库被RL社区广泛采用,促进了广泛领域内的研究。通过案例研究展示了Minigrid和Miniworld统一API带来的额外功能,介绍了它们的设计哲学、环境细节和世界生成API。
本文介绍了SMART平台,一个用于多机器人强化学习的仿真平台,提供多样化的交互场景进行训练,并支持基于插件的算法实现。研究者还开源了仿真环境、基准测试任务和基线模型,以推动多机器人强化学习的研究。
本研究开发了名为JAX-LOB的金融交易所限价挂单簿动态模拟器,能够高效模拟大规模交易。通过GPU加速,每条消息处理时间显著减少。研究还展示了如何通过强化学习解决最优执行问题,并分享了在GPU上进行端到端强化学习训练的初步结果。
Whisper JAX是一款在线语音转文字工具,支持麦克风、录音文件和YouTube音频。单文件2小时以内免费使用。用户可在Hugging Face平台上排队转录和英文翻译。需上传音频,隐私用户需谨慎考虑。
Posted by Wei Wei, Developer Advocate In our previous blog post Building a board game app with TensorFlow: a new TensorFlow Lite reference app, we showed you how to use TensorFlow and TensorFlow...
完成下面两步后,将自动完成登录并继续当前操作。