识别AI中的未知因素、弱点和风险

AI原型项目的主要目标是通过互动演示传达愿景，同时识别和解决风险。

在AI项目中，组织可能不知道自己不知道的事情，数据或提示的不足之处可能会影响结果。

AI系统的性能、可靠性和行为可能在使用前并不明确，需通过原型测试发现潜在问题。

在软件工程中，外部API和服务的行为往往不可预见，AI系统的复杂性使得风险管理尤为重要。

设计AI系统的任务是识别未知风险并制定解决方案，原型测试可以帮助发现这些风险。

系统的可扩展性特征需要在生产前确定，但不一定在原型的最初几天内完成。

用户可能会尝试攻击AI系统，因此建议进行“红队”测试以发现潜在的安全漏洞。

在AI系统原型开发中，遇到问题时应逐步简化解决方案，并寻求同事的帮助。

涉及AI项目时，团队中应有经验丰富的专家，以帮助识别潜在的陷阱和维护项目的有效性。

针对关键风险领域进行“尖峰”研究，以探索想法或服务的可行性，解决潜在问题。

尖峰研究是针对特定风险领域进行的短期工作，旨在识别需要额外工程努力的问题。