💡
原文英文，约600词，阅读约需3分钟。
📝
内容提要
TornadoVM项目最近发布了2.0版本，旨在为Java提供异构硬件运行时，自动加速Java程序，支持多核CPU、GPU和FPGA，适合机器学习和深度学习应用。新版本还推出了LLM推理库，提升了性能和易用性。该项目由曼彻斯特大学的Beehive实验室领导。
🎯
关键要点
- TornadoVM项目最近发布了2.0版本，旨在为Java提供异构硬件运行时。
- 新版本支持多核CPU、GPU和FPGA，自动加速Java程序，适合机器学习和深度学习应用。
- TornadoVM通过将Java字节码编译为OpenCL C、NVIDIA CUDA PTX和SPIR-V二进制文件来实现加速。
- 适合并行计算的Java工作负载，如无依赖的for循环和矩阵运算，能够有效利用TornadoVM。
- 提供两种表达并行性的方式：Loop Parallel API和Kernel API。
- 新发布的GPULlama3.java库在性能和易用性上有显著提升，支持多种FP16和8位量化模型。
- 项目由曼彻斯特大学的Beehive实验室领导，专注于硬件和软件解决方案的联合设计。
- 未来的工作包括将TornadoVM集成到SDKman，并使用新的FFM API替换JNI组件。
