TornadoVM 2.0为Java带来自动GPU加速和LLM支持

TornadoVM 2.0为Java带来自动GPU加速和LLM支持

InfoQ InfoQ ·

TornadoVM项目最近发布了2.0版本,旨在为Java提供异构硬件运行时,自动加速Java程序,支持多核CPU、GPU和FPGA,适合机器学习和深度学习应用。新版本还推出了LLM推理库,提升了性能和易用性。该项目由曼彻斯特大学的Beehive实验室领导。

原文英文,约600词,阅读约需3分钟。
阅读原文