使用 Dify 和 AWS Bedrock 玩转 Anthropic Claude 3
内容提要
本文介绍了使用Anthropic Claude 3模型构建AI Native小工具的方法，包括使用Docker快速启动应用、配置模型服务和搭建聊天机器人应用。作者还展望了未来的发展。
延伸解读
为什么选择 AWS Bedrock 接入 Claude 3
文章指出，个人注册的 Anthropic 账号在多个客户端登录时容易触发风控，甚至导致封禁，需要提工单解除限制。而 AWS Bedrock 提供了 Claude 3 模型的企业级访问方式，通过申请权限和创建凭证即可稳定调用，避免了个人账号的风控问题。对于需要长期稳定使用 Claude 3 的开发者来说，这是一个更可靠的方案。
Dify 的模型配置与调试建议
在 Dify 中配置 AWS Bedrock 模型时，需要填写 Access Key 和 Secret Access Key，并指定有权限的模型名称。文章建议将默认系统推理模型设置为能力较强的模型，以提升体验。调试应用时，作者选择响应更快、成本更经济的 Claude 3 Haiku，并建议采样参数只开启温度，待结果稳定后再调整 top-p 和 top-k，以提高相关性。
应用调用日志的潜在价值
文章提到，Dify 的应用调用日志界面可以查看所有调用记录，作者认为这可能是后续的重点功能。通过收集、整理日志（如点赞、点踩、编辑或标注内容），可以从具体场景中积累模型训练数据。如果官方支持较晚，作者考虑自己实现小工具来低成本完成这一过程。这提示读者关注日志功能在模型迭代中的作用。
Q&A
如何使用Docker快速启动基于Claude 3的AI应用？
可以通过准备docker-compose.yml和nginx.conf文件，然后使用命令'docker compose up -d'来快速启动Dify。
申请AWS Bedrock Claude 3模型使用权限需要什么步骤？
需要登录AWS Bedrock，打开模型访问权限管理页面，提交工单申请开通Claude 3模型的使用权限。
Dify应用的配置需要哪些准备工作？
需要准备能够运行Docker的设备环境、下载Dify应用镜像或源代码、申请AWS Bedrock Claude 3模型使用权限。
如何在Dify中创建聊天机器人应用？
在Dify主界面点击“创建应用”按钮，选择应用类型和名称，配置模型后即可创建聊天机器人。
使用Claude 3模型的优势是什么？
Claude 3在指令遵循和响应速度上有明显提升，适合构建高效的AI应用。
Dify的应用调用日志界面有什么用？
可以查看所有调用记录，便于后续模型训练内容的收集和整理。
