AI代理快速普及，但其规则仍在追赶。
内容提要
调查显示，86%的企业已在应用中使用AI代理，但仅12%了解主权AI风险。Cohere委托IDC调查，强调主权AI是架构问题，需控制数据与系统。企业担忧数据泄露（76%）和合规风险（59%），但自主行动风险关注低。Cohere提供离线部署方案，客户掌控更新，但面临基础设施和技能挑战。
延伸解读
主权AI认知滞后于采用
调查显示，86%的企业已在应用中使用AI代理，但仅12%表示主权AI风险在组织内被广泛理解。这种认知差距意味着许多企业在部署代理时，可能未充分评估其对数据控制、系统依赖和合规性的影响。随着代理从文本生成扩展到直接与公司系统和数据交互，理解主权AI的架构含义变得至关重要。
自主行动风险被低估
尽管数据泄露（76%）和合规风险（59%）是企业最担忧的问题，但仅有24%的受访者担心AI代理的意外或不当自主行动。这可能是因为企业仍将注意力集中在数据安全上，而忽视了代理在调用API、操作内部系统时可能带来的新风险。随着代理采用率预计大幅增长，这种风险关注度的滞后值得警惕。
主权AI的落地挑战
实现主权AI需要企业自行承担基础设施和技能方面的额外工作。调查显示，基础设施（17%）、成本（10%）和技能（9%）是主要障碍。在离线部署模式下，更新和补丁需要客户手动传输和验证，这要求企业具备相应的技术能力和流程。尽管有420家企业已指定负责人，但仅8%的职责定义清晰，表明组织在正式化治理方面仍有很长的路要走。
Q&A
根据调查，目前有多少企业已经在应用中使用AI代理？
调查显示，86%的受访企业已经在应用中使用AI代理。
什么是主权AI？为什么说它本质上是一个架构问题？
主权AI是指对AI系统的设计、开发、部署、访问、运营、维护和治理以及其依赖的底层技术拥有自由选择和控制的权力。Cohere首席AI官Joelle Pineau认为，主权AI本质上是架构问题，因为如果AI绑定单一提供商或受可变更条款约束，企业就没有控制权，只有依赖性。
企业在使用生成式AI和AI代理时，最担心哪些风险？
企业最担心数据泄露或隐私泄露（76%），其次是合规、监管或法律风险（59%），而对AI代理自主行动风险的担忧较低，只有24%。
Cohere如何实现主权AI？其离线部署方案有哪些特点？
Cohere提供完全离线部署方案，客户可以在自己的基础设施上运行其完整平台，包括模型、RAG和North代理，无需外部连接，甚至支持完全气隙和机密环境。许可离线，无需电话回家，更新、补丁和新模型版本以签名包形式提供，由客户自行传输、验证和部署，外部AI提供商无法直接推送更新。
企业采用主权AI面临的主要障碍是什么？
根据调查，企业采用主权AI的最大障碍是基础设施（17%），其次是成本/预算（10%）和技能/人才（9%）。
在已指定主权AI负责人的企业中，通常由谁主导？德国的情况有何不同？
在已指定主权AI负责人的企业中，首席AI官或AI负责人主导的占51.7%，CIO或CTO主导的占36.9%。德国的情况不同，CIO和CTO主导的比例高达70%，而美国为24%，英国为33%，加拿大为32%。
业务领导者和IT领导者在主权AI方面的优先事项有何不同？
业务领导者更重视数据安全和隐私，而IT领导者更关注法规遵从和满足国家或地区要求。
调查中关于主权AI的理解程度如何？
只有12%的受访者表示主权AI风险在其组织内被广泛理解，13%表示主权AI概念被广泛或非常广泛地理解，三分之一的受访者难以用自己的话描述主权AI。
