Xu_Lin ·

使用pytorch从零开始实现一个简单的gpt - Xu_Lin

💡 原文中文，约11900字，阅读约需29分钟。

📝

内容提要

本文介绍了使用RLHF范式对Transformer模型进行迭代优化的方法，包括定义模型参数和超参数、将数据集转换为环境、定义奖励函数、训练过程和加载最佳参数等。

🏷️

GPT-5.6 Sol调用价格临时下调20% 但Codex订阅使用不降价并保持原状
OpenAI宣布将GPT-5.6 Sol模型API调用价格临时下调20%，为期3个月至2026年11月22日。优惠仅限API和Codex额外信用额度充值，...
机器人的GPT-3时刻真·来了！卡卡西上身，看3秒就学会新动作
Generalist AI发布机器人基础模型GEN-1.5，支持一次性学习，机器人看3-12秒演示即可学会新任务，无需梯度更新或微调。模型能举一反三，结合...
Claude Code Agent Loop 研究系列（03）—— 从读文件到并行调度
本文探讨Claude Code中多个工具调用（tool_use）的执行调度机制。核心是混合策略：每个工具自我声明能否并行，harness据此分批——连续可...
从代码开发到自动化执行，Muse-Glimmer-30B让本地Agent更强大；Qwen3.8-27B-FP8发布，270亿参数挑战高效推理极限
内容覆盖数据加载、探索分析、模型构建、评估与优化完整流程，利用细胞核图像提取的 30 项特征预测乳腺癌风险，为医学数据分析与机器学习实践提供参考。每个画像...
The New MCP Roadmap
An update on the Model Context Protocol roadmap and focus areas for upcoming ...
AI Code Review at Scale: LinkedIn's Multi-Agent Approach
At LinkedIn's scale, relying solely on human reviewers or simply putting ...