基础模型透明度报告
内容提要
基金会模型透明指数以100项指标评估10家主要开发者，推动治理进步。相关研究涵盖基础模型兴起、透明度框架、结构透明、隐私安全、可视化及系统分类，强调跨学科合作与负责任设计，以应对大型语言模型时代的透明度挑战。
延伸解读
透明度评估的量化尝试
基金会模型透明指数通过100个细分指标对10家主要开发者进行评分，旨在量化当前透明水平。这种指标化方法为行业提供了可比较的基准，并可能通过标准和监管推动治理进步。但指标选择与权重设定本身可能隐含特定价值观，读者需关注其方法论是否公开、是否涵盖不同利益相关者视角。
透明度与隐私的权衡
文章指出，结构透明涉及输入隐私、输出隐私、输入验证、输出验证和流程治理等组件，而隐私增强技术如安全计算和联邦学习可减少使用与滥用的权衡。这意味着提高透明度不一定以牺牲隐私为代价，但技术应用需结合具体场景，如开放式研究、能源管理和信用评分系统，并警惕工具被滥用的风险。
跨学科合作与情境化透明
多篇研究强调，透明度挑战需要跨学科合作，且透明度的动机和效益由具体情境决定，难以确定客观测量标准。在大型语言模型时代，不同利益相关者在不同情境下的需求各异，透明度方法应建立在人们处理、交互和使用信息的经验基础上，而非追求单一通用标准。
Q&A
基金会模型透明指数是什么？它如何评估透明度？
基金会模型透明指数通过100个细分指标对10个主要的基金会模型开发者进行评分，以确定当前的透明水平，并通过行业标准和监管干预促进基金会模型治理的进展。
基础模型兴起带来了哪些挑战和影响？
基础模型具有广泛数据训练和可适应下游任务的特点，其机制、应用和社会影响需要更多跨学科合作来研究。此外，模型的单一化可能将众多特定任务的模型替换为由少数公司控制的更少数量的大型模型，导致对AI的权力和控制的转移，并出现新兴的行为方式：上下文学习。
什么是结构透明？它包含哪些基本组件？
结构透明是指为实现透明而进行的研究前沿，包括表征基本组件：输入隐私、输出隐私、输入验证、输出验证和流程治理，以及复制、捆绑和递归监督等基本问题。隐私增强技术如安全计算和联邦学习可以在许多领域显著减少潜在的使用-滥用权衡。
透明度在人工智能中可能带来哪些风险？
透明度可能导致伤害，需要关注隐私、多智能体博弈论、经济、公平性和信任之间的联系。不同类型透明度的动机和效益由具体情境决定，难以确定客观测量标准。
可视化在基础模型研究中有什么作用？
可视化在理解、优化和评估复杂模型中所发挥的关键作用，提供了进一步探索该有前途领域的起点，同时也指出了相关挑战与机遇。
基于基础模型的系统分类法是什么？它提供了哪些指导？
本研究提出了一个基于基础模型的系统分类法，涉及预训练和微调，基于基础模型的系统的体系结构设计以及负责任的AI-by-design。该分类法为基于基础模型的系统设计提供了具体的指南，并突出了设计决策带来的权衡。
