2024年，生成式AI迅速发展，OpenAI Sora崛起，大模型服务价格显著下降，国内开源模型加速追赶。多模态视觉、音频和视频模型普及，语音交互逐步实现。大型语言模型可在笔记本电脑上运行，AI应用日益普及。

微软意外泄露了GPT模型的参数信息，其中o1-preview约300B，GPT-4o约200B，GPT-4o-mini约8B。研究表明Claude 3.5 Sonnet在错误检测方面优于其他模型。网友对此表示关注，认为参数泄露可能影响OpenAI的开源计划。

近年来，人工智能特别是聊天机器人技术发生了重大变化，GPT-4的推出使得智能聊天机器人的构建更加简便。聊天机器人主要分为基于规则和基于AI两种类型，后者依赖于机器学习和自然语言处理。构建聊天机器人的关键步骤包括明确目的、了解受众、设置开发环境、编写代码、测试和部署。遵循透明性和定期更新等最佳实践有助于提升用户体验。

Alec Radford 是 OpenAI 的重要研究员，主导了 GPT 系列的研发，改变了 AI 语言模型的运作方式。最近，他宣布将离开 OpenAI 进行独立研究，成就备受赞誉，引用量超过19万，尽管没有博士学位。Radford 的未来备受期待。

该研究提出了一种新型混合语言模型，结合了GPT和BERT的优势，展示了其在多种语言任务上的优越性能。

Alec Radford在Jupyter notebook上开发了GPT，获得了奥特曼和OpenAI总裁的高度赞扬。他的研究经历引发了关于博士学位必要性的讨论，强调实践与创新的重要性。

Claude与GPT在自然语言处理领域各有优势，Claude强调对话流畅性，而GPT则在生成多样性方面表现更佳。

字节豆包大模型在2024年技术进展显著，能力达到国际领先水平，涵盖语言、视频、语音和视觉理解。最新版Doubao-pro-1215综合能力提升32%，在复杂任务中优于GPT-4o。新推出的语音和音乐生成模型具备高质量创作能力，支持多种编程语言。团队与高校合作，推动AI基础研究，豆包APP日均调用量显著增长。

豆包大模型在2024年技术进展中，综合能力已与GPT-4o对齐，推理服务价格仅为其八分之一。该模型在语言、视频生成和语音对话等领域表现优异，推出多款新模型，提升理解精度和生成质量。团队与高校合作，推动AI基础研究，日均调用量显著增长。

新技术“noise_step”使得在1.58-bit低精度下训练GPT-3模型成为可能，算力和存储需求分别减少97%和90%。该方法无需反向传播，通过随机性生成梯度估计，适合分布式训练，提升效率。