生成式人工智能（GenAI）在生产环境中面临挑战，成功转入生产的试点项目仅占5%。与传统AI相比，GenAI需要更多的协作与验证，尤其在金融机构中，许多潜在概念未能落地。成功部署依赖于跨职能协调和明确的角色分配，持续监控和人类监督是确保GenAI可靠性的关键。领导者需提前设定负责任的使用标准，以平衡风险与收益。

本文探讨了合成数据在自生成AI中的风险与收益，尤其是模型崩溃的问题。研究表明，合成数据可能限制模型超越训练数据的能力，但若管理得当，仍具潜在好处。作者提出了控制合成数据生成的策略，并强调需进一步研究以了解其长期影响。