莉莉丝《远光 84》项目组在 GenAI 的技术实践

莉莉丝《远光 84》项目组在 GenAI 的技术实践

💡 原文中文,约9300字,阅读约需22分钟。
📝

内容提要

莉莉丝游戏是中国中生代游戏公司代表,自主研发多款精品游戏并在中国游戏市场保持领先地位。他们在2020年4月位列中国游戏公司收入榜第三。他们还在新加坡成立发行公司Farlight Games,为全球发行提供支持和服务。他们在GenAI的技术实践中采用了Amazon Bedrock + Claude2的方案,快速验证并落地多个GenAI应用。他们在多个业务场景中使用大模型,如文本分类、代码生成、数据分析、知识库和智能Agent助理。他们总结了在GenAI上的经验与最佳实践,包括从实际业务出发、上下文保留、时间问题、减少冗余输出、建立反馈机制等。

🔎

延伸解读

GenAI 落地策略:小步快跑与业务驱动

远光84项目组没有一开始就追求大模型或多模态,而是从现有FAQ系统、内部工具等实际业务出发,在较小范围内快速验证。这种小步快跑的方式,让团队在短时间内建立对大模型能力的认知,再逐步扩展到知识库、Agent等复杂场景。对于计划引入GenAI的团队,这种从实际业务出发、快速迭代的思路,比盲目追求技术前沿更稳妥。

技术方案选型:托管服务降低工程门槛

项目组采用Amazon Bedrock + Claude2的托管方案,直接调用API即可使用大模型,无需自行部署和运维。知识库场景中,结合OpenSearch Serverless向量数据库和Titan Embedding模型,实现了文档的自动嵌入与检索。这种全托管组合让团队能聚焦业务逻辑,而非底层设施,尤其适合缺乏AI工程经验但希望快速尝试的团队。

实践中的关键陷阱:时间、常见问题与冗余输出

文章揭示了几个易被忽视的陷阱:大模型对“今天”等相对时间理解偏差,需在提示词或代码中转为标准时间;过于“常见”的报错信息可能导致模型忽略知识库答案而自行发挥,需适当修改问题格式;冗余输出不仅降低体验,还增加token成本,需在提示词中明确要求简明扼要并给出示例。这些经验对任何GenAI应用都有参考价值。

Agent自动化:解耦设计与流程精简

在LLM Agent落地中,项目组通过Lambda将Event转发给本地OpenAPI,使Agent能调用非AWS资源,提升了灵活性。同时强调流程步骤要清晰精简,避免交互过多导致超时;知识库中的流程参数需与OpenAPI schema保持一致。这些设计考量表明,Agent自动化并非简单串联工具,而需在架构上做好解耦与一致性保障。

❓

Q&A

莉莉丝《远光84》项目组在GenAI技术实践中采用了什么技术方案?

项目组采用Amazon Bedrock + Claude2的方案,快速验证并落地多个GenAI应用。

《远光84》项目组在GenAI方面有哪些具体的应用场景?

应用场景包括:大模型文本分类(Text2API)提升FAQ系统体验、大模型代码生成简化网页工具开发、大模型数据分析进行单个玩家体验分析、构建内部知识库(FAQ专家)、利用LLM Agent实现工作流程自动化(流程助手)。

在GenAI实践中,如何处理大模型对时间理解不准确的问题?

需要在提问时或在代码中,将相对时间(如“今天”)转化为标准的timedate值,以确保大模型获得准确的时间信息。

建立知识库时,针对“常见”问题需要注意什么?

对于“常见”问题或以“常见”字符串开头的问题,需要适当修改问题格式,避免大模型自行发挥,确保其按照给定答案回答。

如何减少大语言模型的冗余输出?

在提示工程中明确告知大模型提供“简明扼要”的内容,并给出详细例子说明符合要求的输出格式。

《远光84》项目组在GenAI实践中有哪些经验总结?

经验包括:从实际业务出发小范围尝试、上下文保留(保留10-20条提问)、时间问题转化、注意“常见”问题、减少冗余输出、文档命名与引用、多个知识库、记录召回失败、建立反馈机制和统计指标、搭建智能Agent的心得等。

🏷️

标签

➡️

继续阅读