无问芯穹 MaaS AI 平台公测免费试用笔记:二

💡 原文中文,约12100字,阅读约需29分钟。
📝

内容提要

本文介绍了无问芯穹的大模型服务平台,包括获取API Key的方法、平台接口隐藏调用方法、获取API Key的改进方案、当前资源使用限额、平台支持的模型和显卡、快速使用模型的方法等。文章还提到了一些关于模型调用和性能评测的建议。

🎯

关键要点

  • 无问芯穹的大模型服务平台提供API Key获取方法。
  • 平台支持使用Open API调用和Access Token进行服务鉴权。
  • 获取API Key需要绑定手机并输入验证码。
  • 平台有隐藏的调用方法,可以使用用户的UUID代替API Key。
  • 建议改进API Key获取流程,增加安全性和自动化。
  • 当前资源使用限额为每分钟最多请求12次,每天最多请求3000次。
  • 平台支持的模型包括llama2、千问、infini-megrez等24款模型。
  • 支持的显卡包括Nvidia、AMD及其他多种加速卡。
  • 快速使用模型的方法包括网页端的游乐场试玩和API调用。
  • 使用API调用模型时需注意Token的使用和计费。
  • 建议使用接口计算模型的Token长度以优化调用。
  • 平台尚未提供统一的模型配置服务,用户需自行整理信息。
➡️

继续阅读