MachineLearningMastery.com
·
10个Python一行代码示例，用于调用大型语言模型（LLM）
内容提要
本文介绍了10个Python一行代码示例，用于调用大型语言模型（LLM），包括云端API（如OpenAI、Anthropic、Google Gemini等）和本地模型（如Ollama、LM Studio、vLLM）。每个示例附有简要说明和官方文档链接，帮助用户快速实现LLM调用，提升开发效率。
关键要点
-
本文介绍了10个Python一行代码示例，用于调用大型语言模型（LLM）。
-
示例包括云端API（如OpenAI、Anthropic、Google Gemini等）和本地模型（如Ollama、LM Studio、vLLM）。
-
每个示例附有简要说明和官方文档链接，帮助用户快速实现LLM调用。
-
在使用之前，需要安装必要的包并设置API密钥为环境变量。
-
云端API示例包括OpenAI GPT、Anthropic Claude、Google Gemini、Mistral和Hugging Face。
-
本地模型示例包括Ollama、LM Studio和vLLM，强调了隐私和控制的优势。
-
提供了流式响应和异步调用的技巧，以提高工作效率。
-
每个代码示例都可以扩展为函数或命令行工具，适用于生产环境。
延伸解读
云端API与本地模型的选择
在选择使用云端API还是本地模型时，开发者需要考虑隐私和控制的需求。云端API如OpenAI和Anthropic提供了便捷的调用方式，但数据会传输到外部服务器。而本地模型如Ollama和LM Studio则能确保数据的本地处理，适合对隐私有较高要求的应用场景。
流式响应与异步调用的优势
流式响应和异步调用是提升应用性能的重要技巧。流式响应允许实时输出生成的内容，适合交互式应用；而异步调用则能在不阻塞主线程的情况下处理多个请求，适合需要高并发的场景。掌握这些技巧可以显著提高开发效率。
环境配置的重要性
在使用大型语言模型之前，确保正确配置环境是至关重要的。开发者需要安装必要的库并设置API密钥为环境变量，以避免在代码中硬编码敏感信息。这不仅提高了安全性，也能确保代码在不同环境中的可移植性。
延伸问答
如何使用Python调用OpenAI的GPT模型？
可以使用以下代码：from openai import OpenAI; print(OpenAI().chat.completions.create(model='gpt-4o-mini', messages=[{'role':'user','content':'Explain vector similarity'}]).choices[0].message.content)
在使用大型语言模型之前需要做哪些准备？
需要安装必要的包并设置API密钥为环境变量，例如使用命令export OPENAI_API_KEY='sk-...'。
本地模型与云端API的主要区别是什么？
本地模型提供隐私和控制，避免网络延迟，而云端API则更易于使用，无需担心GPU内存。
如何实现流式响应以提高用户体验？
可以使用OpenAI的stream=True参数，实时打印生成的每个token，例如：from openai import OpenAI; [print(c.choices[0].delta.content or '', end='') for c in OpenAI().chat.completions.create(model='gpt-4o-mini', messages=[{'role':'user','content':'Stream a poem'}], stream=True)]。
如何在Python中进行异步API调用？
可以使用httpx库进行异步调用，例如：import asyncio, httpx; print(asyncio.run(httpx.AsyncClient().post('https://api.mistral.ai/v1/chat/completions', headers={'Authorization':'Bearer TOKEN'}, json={'model':'mistral-tiny','messages':[{'role':'user','content':'Hello'}]})).json()['choices'][0]['message']['content'])。
如何使用Hugging Face的Inference API？
可以通过发送POST请求调用Hugging Face模型，例如：import requests; print(requests.post('https://api-inference.huggingface.co/models/mistralai/Mistral-7B-Instruct-v0.2', headers={'Authorization':'Bearer YOUR_HF_TOKEN'}, json={'inputs':'Write a haiku about data'}).json()[0]['generated_text'])。
