AI技术存在生成虚假信息和推理错误等可靠性问题，可能导致严重后果。AI智能体的自主性增加了失控风险，尤其在金融和能源管理等关键领域。决策者需权衡AI的益处与风险，确保透明度和责任归属。目前技术尚无法确保AI的高度可靠性，需进一步研究以提高安全性和稳定性。

上海交通大学高金2026级EMBA项目升级，首次将AI技术与金融管理教育结合，提供全额或半额奖学金，旨在培养具全球视野的科技创新人才。