outlines:以简单方式使用大模型的Python库

💡 原文中文,约900字,阅读约需3分钟。
📝

内容提要

Outlines〰是一个用于神经文本生成的Python库,通过Transformers、AutoAWQ和AutoGPTQ库提供的开源模型实现强大的文本生成。它可以生成有效的JSON,遵循正则表达式,并提供强大的提示模板。Outlines〰旨在与其他库兼容,并且与每个自回归模型兼容。

🏷️

标签

➡️

继续阅读