人工智能：成果、问题和展望（2）
内容提要
人工智能面临的问题包括神经网络的不足、信任问题和合法合规等。发展需要政府的介入和监管。未来展望包括算法、算力、数据、开源与闭源模型、应用和中间层等方面的发展。每个人应找到适合自己的节奏和层次，以应对这个时代。
延伸解读
信任机制转变：AI监管的深层逻辑
文章指出，现代社会依赖以规章制度为基础的社会信任，而非个体间信任。AI的拟人化背后是商业公司，其道德是在合法合规基础上挣钱。因此，AI带来的信任挑战需要政府介入和监管，这不仅是技术问题，更是社会治理问题。理解这一转变，有助于读者认识AI监管的必要性和紧迫性。
Scaling Laws的局限与数据瓶颈
Scaling Laws作为经验规律缺乏长期理论支持，且算力易加而高质量数据难求，尤其进入多模态阶段后，高质量图片数据集稀缺。同时，基底模型训练成本高达十亿美金量级，推理成本也昂贵。这提示读者，大模型发展并非单纯堆算力，数据质量和成本控制同样关键。
国内发展的独特挑战与中间层机遇
国内面临芯片禁令和技术封锁，自主软硬件产业不成熟，导致发展分散，出现百模大战和基础设施追赶局面。文章认为，中间层应用有望解决统一编译、部署、调度等问题，并系统性解决安全和信任问题。但建设主体存疑：民企缺资源许可，国央企缺产品技术能力，可能需移动等企业牵头。
个人定位：在分层世界中找到自己的节奏
文章引用布兰德的分层理论，认为世界各层变化速度不同，上层快带动活力，下层慢提供稳定。每个人应找到适合自己的层次和速度：喜欢新技术和用户打交道可居上层，喜欢钻研业务或基础设施则需持久战。在疯狂时代，找到适合自己的节奏是立足的最好方式。
Q&A
人工智能发展面临哪些主要问题？
人工智能面临的主要问题包括：神经网络的先天不足（对智能理解不深）、信任问题（AI对现有信任体系带来挑战）、合法合规问题（训练数据合法性、应用开发者合规性、AIGC产品责任与备案等）、Scaling Laws的有效性缺乏长期理论支持、基底模型训练成本高昂且能耗大，以及国内面临芯片禁令和技术封锁等独特问题。
为什么说人工智能需要政府的介入和监管？
因为人工智能对信任体系带来新挑战：AI背后是商业公司，商业道德是在合法合规基础上挣钱，而社会信任很大程度上体现社会整体治理水平。政府监管可以确保AI产品和服务符合法规，保护用户权益，维护社会信任。
AIGC产品在国内运营需要关注哪些合规风险？
AIGC产品在国内运营需关注：责任主体风险（作为信息内容责任主体，需遵守《生成式人工智能服务管理暂行办法》等）、上线备案风险（具有舆论属性或社会动员能力的需算法备案）、用户参与风险（用户输入可能侵权或涉密，污染数据集）、数据安全风险（数据使用、存储、跨境传输需符合《数据安全法》《个人信息保护法》等）。
为什么训练大模型成本高昂且难以持续？
训练大模型成本高昂：基底模型训练成本达十亿美金数量级，例如BloomBerg 50B参数模型训练成本约454万元，Falcon 180B模型约1.08亿元，普通创业团队或大学难以承担。此外，推理和运营成本也很高，且Scaling Laws依赖增加算力、数据和参数，但高质量数据稀缺，尤其多模态数据。
国内人工智能发展面临哪些独特挑战？
国内人工智能发展面临芯片禁令和技术封锁，自主可控软硬件产业不成熟。例如，买不到A100，用多张3080替代会带来更高出错概率、功耗和电费成本。资源不足导致发展分散，模型侧有百模大战，基础设施侧有大量追赶阶段的国产公司，中间层非常关键。
2024年人工智能有哪些值得关注的发展趋势？
2024年趋势包括：算法优化带来几倍效能提升；算力方面关注智算中心建设、调度和容错，以及端侧芯片运行小模型；数据方面高质量数据集成为壁垒，Synthetic Data成为关键能力，存内计算等趋势；开源与闭源模型差距可能拉大；多模态成为主流，视频生成出现头部应用；中间层应用值得期待，解决编译、部署、调度和安全信任问题。
