政府负责任部署生成式AI的五个关键领域
内容提要
2024年数字化进程提高政府项目效率和政策有效性。数据和人工智能是关键因素。生成式AI需求增长，公共部门应负责任使用。IBM watsonx™是集成的AI、数据和治理平台，支持公共部门团队。
延伸解读
传统AI与生成式AI：政府应用的分野
文章指出，传统AI依赖算法和大量标记数据，通过识别模式提供建议或识别行为，常用于垃圾邮件过滤、推荐系统和虚拟助手。生成式AI则基于在大量未标记数据上训练的基础模型，能识别、总结、转换、预测和生成内容。这种差异意味着政府引入生成式AI时，需重新评估数据准备、模型训练和输出验证流程，而非简单沿用传统AI的治理经验。
合同撰写：生成式AI的潜力与验证难点
美国国务院曾就引入生成式和自然语言处理AI征求反馈，目标是提升市场研究和采购规划等重复性任务的效率与准确性，并可能基于研究起草新合同。但文章强调，合同管理者必须确保原始研究被忠实转化为具有法律约束力的合同。这提示政府应用生成式AI时，需建立人工复核机制，确保生成内容准确可靠，避免因自动化引入法律风险。
负责任AI的五个支柱与治理工具
IBM提出确保可信赖AI的五个支柱：公平性、隐私、可解释性、透明性和稳健性。政府领导在开发、训练和部署AI时应优先考虑这些原则，包括从开始就融入责任而非事后补救，并保持人类监督以确保内容准确、防止偏见。IBM watsonx.governance可帮助公共部门团队自动化地指导、管理和监控AI活动，主动发现并缓解风险，支持合规。
Q&A
生成式AI和传统AI在政府应用中的主要区别是什么？
传统AI主要依赖算法和大量标记数据集，通过机器学习训练模型，用于识别模式、提供建议或执行预定义规则，例如垃圾邮件过滤和推荐系统。生成式AI则使用基础模型（在大量未标记数据上训练的大型神经网络），能够识别、总结、转换、预测和生成内容，更适合自动化常规行政任务，显著提升效率。
政府如何负责任地使用生成式AI？
政府应从一开始就融入责任，而非事后考虑。具体包括：仔细准备内部数据，设定负责任的标准，保持人类监督以确保AI生成内容的准确性并防止偏见。此外，应遵循IBM提出的五大支柱：公平性、隐私、可解释性、透明性和稳健性。
IBM提出的可信赖AI五大支柱是什么？
五大支柱是：公平性（公平对待个人或群体，防止基于性别、种族、年龄等特征的歧视）、隐私（保护消费者隐私和数据权利，遵守相关法规）、可解释性（提供人类可理解的解释，不隐藏于技术术语）、透明性（分享AI系统的设计、开发及数据来源信息）、稳健性（有效处理异常输入，确保输出一致）。
生成式AI在政府合同管理中有哪些应用案例？
美国国务院曾寻求反馈，旨在利用生成式AI提高市场研究和采购规划等重复性任务的效率和准确性。机器学习训练的生成式AI可帮助基于研究起草新合同。但合同管理者需确保原始研究被忠实转化为具有法律约束力的合同。
IBM watsonx™平台如何支持政府负责任地使用AI？
IBM watsonx™是一个集成的AI、数据和治理平台，提供无缝、高效且负责任的方法来开发AI。其新推出的IBM watsonx.governance™帮助公共部门团队自动化并管理AI活动，主动检测和缓解风险，支持内部AI政策和行业标准的合规。
为什么公共部门需要谨慎使用生成式AI？
生成式AI的强大生成能力引发了对负责任使用的担忧。例如，合同管理者需要确保原始研究被忠实转化为法律合同。此外，一些模型的训练细节可能不够透明，对于依赖公众信任的大型企业或高度监管行业尤其如此。政府必须建立信任，确保AI生成内容的准确性和无偏见。
