文章介绍了5个可替代专有决策模型Jev的免费开源模型:Mammoth-1准确率高但硬件要求较高;vLLM Semantic Router D3支持多模态且提供多种规模;Perplexity pplx-decider v1.2适合分类与评分;H2O-Lightning-4B轻量、部署要求低;Kev提供与Jev兼容的API,便于微调。作者提醒应结合实际数据测试,并考虑许可证与算力成本。
OpenAI将Decisions API开放公测,新增图像输入,按每百万输入token收费0.10美元,可输出谓词、选项和评分三类结构化结果。Perplexity、Cloudflare和亚马逊本月也推出可下载的开源决策模型,与TypeSafe的Jev竞争。OpenAI坚持托管API,而对手开放权重,部署方式或成开发者选择关键。
Databricks 推出新方案,支持在无服务器 GPU 上部署开源决策模型,并通过 ai_query 对受治理数据直接运行。用户无需管理 GPU 基础设施,即可从 SQL 控制台或生产作业调用模型,对酒店评论等数据分类并返回结构化结果与概率。该模式支持自定义模型 API,便于大规模应用和企业场景微调。
完成下面两步后,将自动完成登录并继续当前操作。