机器之心数据服务现已上线，提供高效稳定的数据获取服务，简化了数据爬取流程。

该文章介绍了对llama3.1模型进行微调的过程和结果，通过7方面review超过GPT4。微调过程中遇到的问题包括模版冗余后缀、推理结果中存在空项以及模型推理格式问题。最终得出的结论是llama3.1比llama3更强悍，微调超过GPT4。

Meta发布了备受期待的Llama-3.1系列模型，包括405B“超级杯”型号，成为首个能与最强大模型媲美的开源模型。Llama-3.1系列包括8B、70B和405B三个版本，具有128k的扩展上下文长度和支持八种语言。405B模型目前是最大的开源模型，在各种评估指标上超过了GPT-4。SiliconCloud在其平台上推出了Llama-3.1系列模型，使开发者更容易访问和使用这些先进模型。该平台还提供加速推理和实惠的价格。除了Llama-3.1，SiliconCloud还提供各种其他开源语言模型、图像生成模型和代码生成模型。开发者可以免费使用这些模型，消除了开发和大规模推广中的计算成本。SiliconCloud旨在为开发者提供更快、更便宜、更全面的模型API，以实现更流畅的用户体验。

研究人员通过将AI的“慢思考”结果蒸馏进“快思考”，使Llama2的表现提升了257%，超过了GPT4，同时降低了推理成本。他们使用了四种不同的系统2方法进行微调，发现这种模式使系统1模型的表现大幅提升，甚至超过了真正的系统2模型。这种蒸馏方法在实时交互和移动设备部署等场景下具有优势。

深度求索团队更新了DeepSeek-V2模型，新版本DeepSeek-V2-Chat在数学解题、逻辑推理、编程等方面性能提升了16%，对战胜率从41.6%提升到了68.3%。团队还优化了模型的指令跟随能力，提升了用户体验。SiliconCloud平台上线了DeepSeek-V2-Chat的推理加速版，速度快且输出准确。SiliconCloud还提供多种开源大语言模型和代码生成模型。

上海天鹜科技与长春金赛药业完成全球首款经大模型设计的蛋白质产品开发。英伟达开源最强通用模型Nemotron-4 340B，途深智合开源国内首个自然语言蛋白质大模型TourSynbio™。Cyrus Biotechnology分拆子公司Levitate Bio。GSK与Ochre Bio合作开发肝脏疾病治疗方法。

深度求索开源了DeepSeek-Coder-V2模型，是全球首个在代码、数学能力上超越GPT-4-Turbo等的开源代码大模型。DeepSeek-Coder-V2包含236B与16B两种参数规模，支持338种编程语言。SiliconCloud上线了DeepSeek-Coder-V2开源模型，并提供大模型推理加速服务。新用户还送1亿token。

黄仁勋在COMPUTEX上展示了英伟达的最新技术，包括GPT-4模型和Blackware GPU。他强调了GPT-4的训练参数达到了1.8T，展示了Blackware GPU的多GPU集成解决方案。然而，英伟达面临着摩尔定律失效、中心转移和巨头合作等威胁。尽管如此，英伟达仍然是一个轻公司，依靠缩放定律和扩大垄断来保持竞争优势。

Open AI 已经扩大了对 GPT-4 的免费访问，而苹果的未来尚不确定。Open AI 正卷入与斯嘉丽·约翰逊的诉讼中。GPT-4O 已经向有限制的免费用户开放。苹果的 WWDC 可能会让人失望。

使用基于 transformer 的大型语言模型（LLMs）的 ChatGPT 作为研究对象，通过分析 BERT 隐藏单元的激活模式，发现其在不同层次上根据文体变异（1）和叙事内容（4-5）进行聚类，揭示了 LLMs 内部的区别任务处理机制，为深入研究人类语言处理和认知过程提供了潜力。

最近，一个名为“gpt2-chatbot”的神秘AI模型在大模型竞技场上引起了广泛关注。它展现出了惊人的能力，可能超越了备受瞩目的GPT-4模型。有人认为它可能是OpenAI的GPT-2模型的版本，也有人认为它可能是GPT系列的下一个版本。无论如何，它的出现预示着AI技术的飞跃。

山姆·奥特曼在斯坦福大学演讲中提到了人工智能的快速发展和GPT4的标杆地位，以及即将发布的GPT5和缩放法则的重要性。他认为免费、无广告的GPT是更好的途径。他还讨论了创新、创业和人与人工智能的关系。他强调了社会需要为技术进步做好准备，并表示人类总会有更大的创新。

本文介绍了Mixtral-8x7B模型的训练和推理过程，包括环境配置、训练代码和API接口部署。在使用LLaMA-Factory进行模型微调时，需要注意量化位和闪存注意力的设置，以避免运行时错误。

美司法部力促TikTok出售，CycleGAN作者领衔条件分散模型取得新成就，OpenAI有望在今年夏季推出GPT-5，黄仁勋对话Transformer论文七大作者，快手CEO程一笑表示自研大模型有决心半年内达到GPT4.0水平。

360安全大模型3.0发布会在京举行，潘剑锋表示该框架超过GPT4在多个专业任务效果上。框架实现了语言、规划、判别、道德和记忆五大功能中枢，通过智能体框架调用安全知识和工具，提供更强大的安全专家能力。