Code 全训练论文阅读

(2604) InCoder-32B-Thinking (81.3% LiveCodeBench, 84.0% CAD-Coder, Beihang et al.)

🌺 论文摘要

InCoder-32B-Thinking 摘要

参考链接

Paper, HuggingFace, GitHub

核心方法

Error-driven Chain-of-Thought (ECoT) Synthesis
- 通过多轮对话+环境错误反馈合成思考内容，显式建模错误修正过程
- 对比失败尝试与正确方案，捕捉工程师的迭代诊断模式
Industrial Code World Model (ICWM)
- 在Verilog仿真、GPU分析、编译器诊断、嵌入式日志等领域特定执行轨迹上训练
- 学习代码与硬件行为的因果动态，实现自我验证和合成失败场景
训练数据引擎
- 阶段1：Grounded Collection - 真实工具链执行，最多4轮修正，生成多轮轨迹 $D_{r e a l}$
- 阶段2：ICWM驱动放大 - ICWM替代真实后端进行大规模合成，定期审计校准

模型效果

通用代码：LiveCodeBench V5达81.3%，SWE-bench Verified达70.4%，BFCL达63.9%
工业基准：CAD-Coder 84.0%，SuperCoder 47.9%，KernelBench L2 38.0%，TritonBench G-call 15.2%
在14个通用和9个工业基准上均达到顶尖开源水平

重要结论

错误驱动合成比直接生成思考更有效：通过显式建模错误-修正循环，模型学会深度推理
ICWM fidelity达96.7%（结果预测准确率）和94.4%（轨迹一致性），可可靠替代真实执行
自适应思考深度：工业任务（如GPU优化）思考长度可达19K字符，Agentic编码仅91字符， naturally arising from error-driven synthesis
数据缩放：从180M到540M思考tokens，VeriScope从61.8→75.4，KernelBench L2从16.0→38.0

关键贡献

首个融合思考模型与世界模型的工业代码生成框架
首个针对工业代码领域（芯片设计、GPU优化、嵌入式系统）的世界模型
首个通过错误驱动合成生成工业级 reasoning traces的方法

问题背景

❓问题背景

工业代码生成的独特挑战

工业代码 vs 通用代码

通用代码局限

现有LLM（DeepSeek-V3.2、Claude-4.6等）在通用软件任务表现优异
但工业软件（芯片设计、GPU优化、嵌入式系统）需要硬件感知推理和时序语义理解
验证依赖复杂工具链，行为必须从执行中学习

工业代码的复杂性

芯片设计：需考虑组合路径深度、时钟域交叉、Yosys/Icarus仿真反馈
GPU优化：需推理warp分歧、共享内存预算、Triton/CUDA编译约束
嵌入式系统：需处理外设寄存器序列、内存布局、CMSIS头文件
3D建模：需处理几何有效性、壁厚、布尔运算容差

现有方法不足

thinking models（OpenAI o系列、DeepSeek-R1）缺乏工业环境 grounding
code world models 未针对工业领域（Verilog、CUDA、CAD）训练
缺乏展示工程师如何推理硬件约束的专家推理轨迹

知识鸿沟

数据与验证鸿沟

数据稀缺

工业代码缺少专家推理轨迹 showing how engineers reason about hardware constraints
网络规模语料库缺乏专业语义和硬件约束

验证瓶颈

真实执行昂贵：每次交互需调用领域特定工具链（仿真器、编译器、分析器）
需要学习工具链动态以实现领域特定反馈注入

核心方法

📕核心方法

核心思想

InCoder-32B-Thinking 核心思想

框架概述

ECoT + ICWM 双组件协同训练
- ECoT：从多轮错误修正对话合成思考内容
- ICWM：从领域执行轨迹学习因果动态，作为真实后端的代理
无需人工标注推理轨迹：所有思考内容通过执行反馈自动生成并验证

数据流

真实执行收集（Grounded Collection）
- 任务种子 + 环境包（Verilog testbenches、CUDA配置等）
- Generator（DeepSeek-V3.2）生成初始代码→真实后端执行→观察反馈→最多4轮修正
- 生成 $D_{r e a l}$ ：包含成功/失败中间回合的多轮轨迹
ICWM训练与放大
- 用 $D_{r e a l}$ 单轮对训练ICWM预测执行结果（PASS/ERROR/诊断）
- ICWM替代真实后端进行大规模合成，生成分布式轨迹 $D_{i c w m}$
- 定期真实执行审计保持校准
最终语料
- $D = D_{r e a l} \cup D_{i c w m}$ ，所有轨迹经真实或ICWM验证

思考内容特性

通过对比错误尝试与正确方案生成，显式包含错误诊断过程
长度自适应：从Agentic编码91字符到GPU优化19K字符（209×范围）

ECoT合成细节

ECoT 错误驱动合成

多轮轨迹结构

τ = [⟨ s_{i n i t}, r^{(0)}, c^{(0)} ⟩ \to ⟨ r^{(1)}, c^{(1)} ⟩ \dots \to ⟨ r^{(k)}, c^{(k)} ⟩]

$s_{i n i t}$ ：初始任务+环境包（含testbenches、链接脚本等）
$r^{(k)}$ ：第k轮推理内容
$c^{(k)}$ ：候选代码
每轮包含：执行反馈观察 $o^{(k)}$ → Generator诊断→修订

领域特定指令

GPU任务：推理warp分歧、共享内存预算
RTL任务：推理组合路径深度、时钟域交叉
CAD任务：推理壁厚、流形有效性
固件任务：推理外设寄存器序列

关键特征

保留成功和失败的中间回合，训练数据包含常见失败模式及解决步骤
思考内容 $r^{(k)}$ 包含对诊断日志的分析和修正策略

ICWM 世界模型

ICWM 工业代码世界模型

定义

{ICWM}_{θ} : (s_{e n v}, c^{(k)}) \mapsto {\hat{o}}^{(k)}

输入：环境包 $s_{e n v}$ + 候选代码 $c$
输出：预测观察 $\hat{o}$ （结果标签、诊断消息、数值输出）

训练细节

在 $D_{r e a l}$ 的每轮真实执行上训练
输入前加领域标签（chip/gpu/cad/embedded）
使用领域特定输出模板，单模型服务所有垂直领域

功能

自我验证：在实际编译前预测执行结果
高效探索：无需昂贵工具链调用即可生成合成轨迹
合成失败场景：可生成边界情况用于训练

Fidelity指标

结果预测准确率：平均96.7%（芯片设计97.4%，3D建模95.9%）
轨迹一致性：平均94.4%（端到端 Pass/Fail 一致）

实验设置

✍️实验设置

实验设置

基础模型

无RL预训练的InCoder-32B（32B参数）

训练数据规模

540M思考tokens（对比InCoder-32B的250M）
数据分布：GPU优化(19K)、芯片设计(1.5K思考/6.9K回答)、3D建模(1.4K)、嵌入式(1.1K)等

训练方法

两阶段：
1. 真实执行生成 $D_{r e a l}$ （Grounded Collection）
2. ICWM驱动合成 $D_{i c w m}$ （Data Amplification）
教师-学生蒸馏：复杂案例积累多步错误修正轨迹

评测基准

通用：LiveCodeBench(V5/V6)、SWE-bench Verified、HumanEval/MBPP、BFCL等14个
工业：
- 芯片设计：VeriScope、RealBench、ArchXBench、VeriRepair
- GPU优化：KernelBench(L1/L2/L3)、TritonBench(G/T)
- 代码优化：EmbedCGen、SuperCoder
- 3D建模：CAD-Coder

关键对比

对比Claude-Sonnet-4.6、Kimi-K2.5、Qwen3.5-397B、DeepSeek-V3.2等

关键结果(CWM-32B + Thinking)

🍑关键结果

关键结果

通用代码性能

LiveCodeBench V5：81.3%，超越所有同规模开源模型（Kimi-K2-Thinking 83.1%，但仍属顶尖）
SWE-bench Verified：70.4%，与InCoder-32B基线(74.8%)相近，显示持续预训练有效性
思考带来的提升：相比InCoder-32B基线，LiveCodeBench提升28.0%（从53.3%到81.3%）

工业代码性能（全领域SOTA）

芯片设计：
- RealBench Module Syn@1：75.6%（远超Qwen3.5-397B的35.2%）
- VeriScope Score：75.4%
- ArchXBench $n / t$ ：3.12/46.7
GPU优化：
- CAD-Coder Compile：84.0%，IoU：48.6%（超越Claude-Sonnet-4.6的77.0%/32.4%）
- SuperCoder Main：47.9%（基线35.2%），Acc：93.0%
- KernelBench L2：38.0%（基线36.0%）
- TritonBench G-call：15.2%（基线18.5%，显示思考对简单执行帮助有限）
学习效率：相比基线，思考版本在工业任务上全面领先

思考数据缩放分析

VeriScope：180M→540M tokens，分数61.8→75.4
KernelBench L2：16.0→38.0（+22点）
TritonBench G-exe：保持100%（显示基础执行能力快速掌握）
KernelBench L3：保持12.0（显示最难优化问题需特定策略，非单纯数据量）

自适应思考深度

GPU优化：中位数19,015字符（最深）
芯片设计：思考1,546 + 回答3,213（短思考长回答）
Agentic编码：105字符思考（最短）
209×长度差距 naturally arising from 执行反馈难度

ICWM有效性验证

案例：Triton内核共享内存超限时，ICWM准确预测MEMORY_FAULT及诊断消息，修正后预测PASS，与真实执行完全一致
案例：3D建模边界情况（零长度边），ICWM偶发假阳性，经审计后重新校准

未来方向

⛳ 未来方向

未来方向

当前局限

思考长度在某些任务（如Mercury效率基准、Text2SQL）存在权衡，倾向于详细响应而非简洁输出
3D建模 fidelity gap（95.9% vs 芯片设计97.4%）：几何边界情况（零厚度边、浮点容差）难以从代码文本预测

扩展方向

多模态工业世界模型：结合几何可视化、波形仿真等超越文本日志的信号
主动学习ICWM： ICWM不确定的预测自动触发真实执行，动态扩充训练集
跨领域迁移：将ICWM从芯片设计学到的时序推理迁移到嵌入式RTOS调度
更长推理链：当前最多4轮修正，探索更长horizon的工业任务（完整SoC设计流程）
工具链学习：ICWM目前预测执行结果，未来可学习预测编译器优化决策、P&R结果

工业应用

数字孪生：ICWM可作为芯片设计环境的数字孪生，支持快速设计空间探索
教育：错误修正轨迹可用于培训初级工程师，展示专家级调试过程

(2603) KAT-Coder-V2 (79.6分, KwaiKAT Team)

🌺 论文摘要

KAT-Coder-V2 摘要

参考链接

paper

核心方法

Specialize-then-Unify 范式：将智能体编码分解为5个专家域（SWE、WebCoding、Terminal、WebSearch、General），各自独立SFT+RL，最后通过On-Policy Distillation融合为单一模型
KwaiEnv 基础设施：模块化架构，解耦数据集/沙盒/脚手架/验证器，支持数万并发沙盒实例
Agentic Scaling：沿任务复杂度、意图对齐、脚手架泛化三个维度扩展RL训练
MCLA：蒙特卡洛对数概率平均，稳定MoE RL训练
Tree Training：消除树状轨迹冗余计算，训练加速6.2倍

模型效果

SWE-bench Verified：79.6%（vs Claude Opus 4.6 的 80.8%）
PinchBench：88.7（超越 GLM-5 的 86.4 和 MiniMax M2.7 的 87.1）
前端美学：Landing Page 59.8、Slides 57.6、Data Visualization 67.6，三项均第一
Terminal-Bench Hard：46.8
τ²-Bench：93.9

重要结论

领域专业化训练 + 大规模Agentic RL + 统一蒸馏 是构建强大编码智能体的有效路径
On-Policy Distillation 实现无损融合，避免离线模仿的暴露偏差
多脚手架训练 显著提升跨框架泛化能力

关键贡献

完整的智能体编码训练范式，从基础设施到算法创新的系统化方案

问题背景

❓ 问题背景

智能体编码三大挑战

能力碎片化

SWE任务需要长链代码编辑+测试验证，WebCoding需要稀疏口语输入下的审美判断，Terminal任务需要持久环境状态跟踪
各域训练信号不同甚至冲突，单一流水线难以同时最优

基础设施耦合

智能体RL训练需要高吞吐沙盒编排、异构基准支持、与快速增长的脚手架生态兼容
现有系统紧耦合，新脚手架/数据集集成成本高

智能体RL扩展困难

需同时沿任务复杂度、提示多样性、脚手架泛化三个维度扩展
面临MoE不稳定性和树状多轮轨迹的计算冗余问题

核心方法

📕 核心方法

Specialize-then-Unify 训练范式

三阶段流程

阶段1：监督微调（SFT）

5个正交专家域独立训练：
- SWE：Issue-PR配对、AutoBuilder可验证任务合成、代码理解轨迹
- WebCoding：三视角标签系统、提示重写、设计师面板评估
- Terminal：专家标注、多智能体合成、跨格式适配
- WebSearch：搜索轨迹知识图谱、Pass@8过滤、拒绝采样微调
- General：指令遵循、通用QA、代码-数学推理

阶段2：强化学习（RL）

基于KwaiEnv的环境反馈RL，提升多轮交互和长期任务决策质量

阶段3：On-Policy Distillation（OPD）

统一学生模型主动生成跨域轨迹
联合优化：环境稀疏奖励 + 专家密集逐步监督（对数概率）
避免离线模仿的暴露偏差，实现近乎无损融合

KwaiEnv 基础设施

模块化设计

五大核心模块

Dataset：统一抽象接口，支持SWE-bench、LiveCodeBench等主流基准
Verifier：确定性评分、LLM-as-Judge、SWE官方评分三类验证策略
Scaffold：黑盒集成Claude Code、Kilo Code、Cline、OpenClaw、OpenCode等
Sandbox：数万并发容器实例，完整生命周期管理
Trajectory Manager：轨迹收集、格式化、输出到RL引擎

设计原则

关注点分离，模块间通过标准接口通信
数据/脚手架/评估/算法独立迭代，灵活扩展

算法创新

MCLA（蒙特卡洛对数概率平均）

问题：MoE RL中轨迹对数概率估计方差高，导致梯度方向不稳定

解法：训练前向传播预取K次，平均对数概率

\bar{\log} π (a) = \frac{1}{K} \sum_{k = 1}^{K} \log π^{(k)} (a), K = 8

效果：显著降低估计方差，结合IcePop实现稳定训练、更快收敛

Tree Training

问题：智能体脚手架产生树状轨迹（并行子智能体、选择性上下文保留），线性化导致共享前缀重复计算

解法：DFS展平整棵轨迹树，应用逐token损失权重

树状注意力掩码（基于FlashAttention V3）
逐token位置ID恢复原始序列位置
梯度缩放权重

效果：与独立训练所有根到叶路径的梯度等价，训练加速达6.2倍

改进的Turn-level策略优化

背景：GRPO token级重要性采样在长程智能体场景中方差高；GSPO序列级难以进行时间信用分配

解法：Turn-level GSPO

将完整序列y划分为N个交互轮次
每轮n计算独立重要性比率：
$r_{t u r n}^{(n)} (θ) = \prod_{i \in T_{n}} \frac{π_{θ} (y_{i} | x, y_{< i})}{π_{θ_{o l d}} (y_{i} | x, y_{< i})}$
裁剪替代目标：
$L^{T u r n} (θ) = E_{τ \sim π_{θ_{o l d}}} [\frac{1}{N} \sum_{n = 1}^{N} min (r_{t u r n}^{(n)} (θ) A_{n}, clip (r_{t u r n}^{(n)} (θ), 1 - ϵ, 1 + ϵ) A_{n})]$

优势：方差降低 + 细粒度信用分配，加速收敛，增强长步调试自纠正能力

实验设置

✍️ 实验设置

实验设置

基础模型

KAT-Coder-V1 继续后训练

训练数据

SFT：2M+ Issue-PR样本、30k AutoBuilder验证样本、100k+ Terminal任务、100k+ WebSearch样本
RL：100k+ 多样化高难度样本（Agentic Scaling）

评测基准

SWE-bench Verified、SWE-bench Multilingual、SWE-rebench-V2
PinchBench、Claw-Eval（OpenClaw框架）
前端美学（Landing Page、Slides、Data Visualization）
Terminal-Bench Hard、τ²-Bench、AA-LCR、IFBench

算法/策略

5域独立SFT → 环境反馈RL → On-Policy Distillation统一
MCLA稳定训练、Tree Training加速

超参

上下文长度：标准RL 65k → 131k，WebCoding等领域128k
训练规模：数万并发沙盒

关键结果

🍑 关键结果

关键结果

SWE任务（多脚手架）

基准	脚手架	KAT-Coder-V2	Claude Opus 4.6
SWE-bench Verified	Claude Code	79.6	80.8*
	OpenCode	74.8	75.0
	OpenClaw	72.8	75.7
SWE-bench Multilingual	Claude Code	75.4	77.8*
	OpenCode	71.2	70.2
SWE-rebench-V2 (子集)	Claude Code	43.3	43.7
	OpenCode	38.7	37.3

智能体任务执行（OpenClaw框架）

基准	KAT-Coder-V2	GLM-5	MiniMax M2.7	Claude Opus 4.6	GPT-5.4	Gemini 3.1 Pro
PinchBench Best	88.7	86.4	87.1	87.4	90.5	86.7
PinchBench Avg	81.9	80.3	81.8	82.3	81.6	75.9
Claw-Eval Pass@3	55.6	57.7	51.9	66.3	66.3	50.0
Claw-Eval Avg	73.4	73.0	70.7	79.3	80.6	74.2

前端美学生成

场景	KAT-Coder-V2	GLM-5	Kimi K2.5
Landing Page	59.8	57.6	54.6
Slides	57.6	42.8	34.8
Data Visualization	67.6	42.4	46.0

通用任务处理

基准	KAT-Coder-V2	GLM-5	MiniMax M2.7	Claude Opus 4.6	GPT-5.4	Gemini 3.1 Pro
Terminal-Bench Hard	46.8	43.2	39.4	46.2	57.6	53.8
τ²-Bench Telecom	93.9	98.2	84.8	92.1	91.5	95.6
AA-LCR	68.0	63.3	68.7	70.7	74.0	72.7
IFBench	67.0	72.3	75.7	53.1	73.9	77.1

重要结论

Specialize-then-Unify 范式有效：单模型保持多领域专家级性能
多脚手架训练 实现强泛化：跨Claude Code、OpenCode、OpenClaw等稳定表现
前端美学 全面领先：三项场景均第一，解决低信息密度输入下的审美崩溃问题
与Claude Opus 4.6差距：SWE-V 1.2个百分点，仍有提升空间

未来方向

⛳ 未来方向

未来方向

当前不足

Claw-Eval等智能体执行基准 仍有差距（Pass@3: 55.6 vs 66.3）
τ²-Bench、IFBench等通用任务 未达最优

改进方向

进一步扩展智能体RL规模，丰富环境交互
探索更高效的专家融合策略，降低统一蒸馏的性能损耗
将Specialize-then-Unify范式扩展到编码之外的更广泛智能体领域

(2512) IQuest-Coder-V1

🌺 论文摘要

论文摘要

参考链接

paper, IQuestLab/IQuest-Coder-V1-40B-Loop-Instruct

模型效果

核心方法

重要结论

关键贡献

问题背景

❓问题背景

问题背景

核心方法

📕核心方法

核心方法

实验设置

✍️实验设置

实验设置

基础模型

训练任务/数据

评测任务/数据

算法/策略

超参

关键结果

🍑关键结果

关键结果

模型效果

重要结论

关键贡献

未来方向

⛳ 未来方向

未来方向

(2512) Nex- N1

摘要

paper，通用agent，代码是其一部分

(2510) CWM(Meta)

🌺 论文摘要

论文摘要

参考链接

paper

核心方法

模型效果

重要结论

关键贡献

问题背景

❓问题背景

问题背景

核心方法

📕核心方法

核心方法

实验设置

✍️实验设置

实验设置

基础模型

训练任务/数据

评测任务/数据

算法/策略

超参

关键结果

🍑关键结果

关键结果

模型效果

重要结论

关键贡献

未来方向

⛳ 未来方向

未来方向

(2510) KAT-Dev

🌺 论文摘要

论文摘要

paper, KAT-Dev
Mid继续预训练：20B SWE库+CoT轨迹等。
SFT指令微调：100wSFT数据，20语言+10任务+10环境。LLM+IDE工具 收集轨迹。
RFT有参考答案的RL：相对参考答案的奖励、在线轨迹修正。
AgenticRL真实环境探索训练：前缀树，感知难度和熵 缩放优势，增强探索

问题背景

❓问题背景

问题背景

概览

过去到现在：被动代码生成 -> agentic coding
- 近期引入规划和工具使用：SWE-Agent, OpenHands, ClaudeCode等
传统codellm：静态文本训练和交互式实际应用 有gap。
- 缺乏自适应能力，环境会改变。
- 早期主要是单轮指令，近期在处理长依赖和上下文切换任务时，效果一般。

学术数据 vs 实际应用的差异

SFT阶段数据：从学术框架蒸馏的数据(如SWE-agent)。
数据特征：线性对话、单session、同质化pipeline
实际情况：非线性对话、多轮推理、异构多样pipeline
不匹配导致：benchmark分数很高，但实际没法用(如IDE)

训练概览

📕核心方法

核心方法

Mid-Term Training/继续预训练
- 真实SWE语料库 + 合成agent轨迹，激活拓展推理、规划和反思性思维能力。
- 继续预训练， 20B数据
监督微调 (SFT)/指令对齐
- 构建百万数据集， 20编程语言+10种开发环境+10种任务类型。
- 数据标准：语言+开发环境+任务
强化微调 (RFT)/带有参考答案的RL
- 引入多基准（multi-ground-truth）奖励公式和相对评估方案，实现了稳定且样本高效的策略优化。
代理强化学习 (Agentic RL)/自主探索
- Trie-Packed Training ：高吞吐量的多轨迹优化。
- 难度和熵感知的Rescaling：保证探索多样性、防止熵崩塌、增强策略鲁棒性。

Mid-Term-Training

拓展模型的推理、规划、交互等能力。

Train Recipe

Train Recipe

真实SWE语料库：20B token，包括PR、Issue、Commit、Patch等。
推理和反思增强：利用SOTA开源模型，生成CoT轨迹，解决复杂问题。
Agent交互模拟：构建模拟环境，合成Plan-Action-Observation轨迹。
复杂质量遵循和约束对齐：构建可验证逻辑和结构的指令跟随数据集。

SFT 训练

SFT 数据源

数据源

多维度均衡覆盖

编程语言、开发环境、任务类型。
最终，100w SFT样本，覆盖多种语言、上下文和任务类型，为后续RFT和RL提供基础。

数据源及统计分析

GitHub仓库、StackOverFlow讨论。
对commit code diff review comment QA讨论帖 做分析，总结用户模式和开发者意图，按其采样。

编程语言

20种主流语言。

任务类型

10种任务类型。实现、修改、调试、重构、代码解释文档、代码分析、大码生成、测试用例生成、配置和部署等。

SFT 轨迹数据合成

生产轨迹数据收集及训练

LLM + 生产级工具收集轨迹

使用KAT-Coder + 生产级工具，收集真实的执行轨迹数据。
- 工具包括：ClaudeCode/Cline/RooCode/CodeFlicker等

存在2个问题

工具冗余/错误调用多：真实场景agent会和10+不同工具交互(调试/静态检查/包管理器等)。
非线性上下文边界逻辑中断：需压缩或截断上下文，前后因果关系被截断，难学会长规划

两种解决方法

Error-Masked SFT：使用执行反馈日志判断工具是否调用成功，mask掉这部分工具调用的梯度，但保留反思信号。
Tree-Structured FT：可以把长任务拆成多个子数/子逻辑，分别SFT。

RFT 训练

RFT

问题背景

传统RL使用绝对reward，但粗只能不稳定和样本效率低下的问题。

核心方法

采样相对奖励：对比GT轨迹线基准，计算相对差异，作为奖励信号。
在线纠偏：对采样轨迹做在线修正，再去计算奖励信号。
- 避免某一步错误，全盘皆输的情况。提高学习效率。
增强训练稳定性和样本效率：早停重采样机制，离基准太远就早停

AgenticRL 训练

Tried Packed Training 提升训练速度

背景

RL 多条探索路径，但开头可能很像，GPU需要重复计算

前缀树

推理时缓存前缀树，反向时设计数学公式，精确分配缩放回传梯度。
树很大，GPU放不下：使用动态规划，把树枝打包进batch里。
底层加速：手写CUDA算子，重新定义位置编码等。

难度和熵感知缩放优势增强探索

第i组任务，难度= 1-成功率
$D_{i} = 1 - r_{i}$
组级缩放因子
$α_{i}^{group} = 1 + λ (D_{i} - \bar{D})$
样本级缩放因子： ${\bar{H}}_{i}$ ：平均熵， $H_{i, j}$ ：组i样本j的策略熵
$β_{i, j}^{sample} = 1 + μ (H_{i, j} - {\bar{H}}_{i})$
优势缩放
$A_{i, j}^{'} = α_{i}^{group} \cdot β_{i, j}^{sample} \cdot A_{i, j}$
梯度更新
$θ \leftarrow θ + η \nabla_{θ} \log π_{θ} (a | s) \cdot A (s, a)$

算法实验

实验设置

✍️实验设置

实验设置

关键结果

🍑关键结果

关键结果

数学推理：在AIME 2025上获得72.5分，显著优于所有对比模型
工具调用：在TAU2-Bench Retail上达到62.3分，展示了强大的工具交互能力
代码生成：在HumanEval上达到96.3分，表明了强大的基本编码能力
智能体编码：最重要的是，在Claude Code下评估时，在SWE-Bench-Verified上达到73.4分，超过了Qwen3-Coder-480B (69.6)、Kimi-k2-0905 (65.8) 和Claude 4 Sonnet (72.7)

未来方向

⛳ 未来方向

未来方向

(2603) Qwen3-Coder-Next (70.6分, Alibaba)

🌺 论文摘要

Qwen3-Coder-Next 摘要

参考链接

paper, GitHub

核心方法

Agentic训练规模化框架
- 通过大规模合成可验证编程任务+可执行环境，实现从环境反馈中直接学习
- 支持Mid-training和RL的Agent能力训练
模型架构：基于Qwen3-Next，80B总参数，3B激活参数，MoE架构
训练流程：继续预训练 → SFT → Expert特化 → 蒸馏 → 统一模型
Expert模型：Web开发、用户体验(UX)、单轮RL、软件工程(SE)四个领域专家

模型效果(80B-A3)

SWE-Bench Verified：70.6分（SWE-Agent），与Claude-Sonnet-4.5、DeepSeek-V3.2等更大模型竞争
SWE-Bench Pro：42.7分（SWE-Agent），显著优于同类活跃参数量模型
Terminal-Bench 2.0：36.2分（Terminus2-json）
Aider：74.8分，领先所有开源模型

重要结论

Agentic训练规模化是关键：通过合成80万+可验证软件工程任务，模型获得长程推理、工具使用、故障恢复能力
多样化工具模板训练：使用21种工具调用格式，显著提升跨IDE/CLI环境的鲁棒性
奖励黑客阻断器：必要措施，防止Agent通过git命令获取未来提交信息作弊
Best-fit Packing：相比传统拼接策略，消除上下文幻觉，长文档训练效率提升

关键贡献

证明小规模活跃参数(3B)通过规模化Agentic训练可达到接近10倍大模型的软件工程能力
发布开源权重（Base+Instruct），支持实际编码Agent部署

问题背景

❓问题背景

静态数据无法满足Agent训练

问题背景

现代编码Agent的需求

长程推理：处理多步骤、跨文件依赖的复杂任务
环境交互：与真实执行环境（Docker、Bash、编辑器）动态交互
故障恢复：从级联错误中恢复，自适应调整策略

现有训练数据的局限

静态代码数据不足：传统预训练仅使用文件级别代码，缺乏Repository级别上下文
缺乏执行反馈：无法从"运行结果"中学习，只能模仿生成
人类数据瓶颈：真实PR/Issue数据有限、脏、难以扩展
框架特化：现有Agent数据往往绑定特定框架（SWE-Agent/OpenHands），跨框架泛化差

规模化Agentic训练的挑战

规模化挑战

两大核心难题

任务合成：需要大规模、多样化、可验证的编程任务+可复现执行环境
执行基础设施：高吞吐量、低延迟地执行海量Agent轨迹，返回环境反馈

Qwen3-Coder-Next的解决思路

构建MegaFlow云原生执行框架（基于K8s+Argo）
合成80万+跨语言软件工程任务（GitHub PRs + 合成Issues）
多Expert特化+蒸馏，统一多领域能力

核心方法

📕核心方法

任务合成流水线

可验证任务合成

基于GitHub PRs构建环境

挖掘Issue相关PRs，分解为Buggy状态+修复+测试补丁
构建Docker可执行环境+验证脚本，区分Buggy/Fixed状态
自动化检测过滤非功能性验证器，QA Agent去除歧义任务

合成Issues（Scaling到80万任务）

基于SWE-Smith/SWE-Flow/SWE-Rebench/Multi-SWE-RL扩展
Bug注入策略：
- 模型驱动重写、语义扰动、基于规则的变换
- 多语言支持（9+编程语言）
质量控制：
- 保留失败现有测试、可通过补丁逆转验证的Bug
- 生成自然语言Issue描述（排除触发Bug的测试文件防作弊）
- 产出800K可验证任务实例

多阶段训练流程

训练阶段

Mid-training（继续预训练）

数据构成：
- 自然数据：GitHub（370语言，扩展至600B tokens仓库级数据）、Text-Code Grounding数据（重写清洗）、PR数据
- 合成数据：单轮QA（基于Common Crawl）、多轮Agent数据（SWE-Agent/OpenHands等多框架）
- FIM数据：Stack-V2合成，支持Chat-FIM和Search-Replace格式
关键配置：上下文长度扩展至262,144 tokens，Best-fit Packing策略

SFT阶段

数据来源：内部高质量数据、验证过的Agent轨迹、文档 grounded QA
执行验证过滤：使用Mini-SWE-agent作为验证器，执行候选代码筛除幻觉
偏好建模：Pairwise Judging模型排序，提升风格一致性和任务有用性

Expert特化模型

Web开发Expert：Playwright控制Chromium，VLM视觉评估+动态交互验证
用户体验Expert：针对Cline/Qoder/OpenCode等IDE/CLI工具调用格式优化，21种工具模板训练
单轮QA Expert：执行可验证领域（竞赛编程、安全编码、SQL等）的RL训练
软件工程Expert：多轮RL，Repository级长程任务，Reward Shaping+Reward Hacking Blocker

Expert蒸馏

将四个Expert能力蒸馏回单一SFT模型，获得统一部署模型

关键技术细节

关键技术

多样化工具调用模板（21种）

问题：单一工具模板导致过拟合，跨IDE/CLI泛化差
方案：训练时混合JSON/XML/Pythonic/Natural Language等21种格式（含qwen3_coder XML格式）
效果：如图5，模板多样性增加持续提升SWE-bench性能

奖励黑客阻断器（Reinforced Reward Hacking Blocker）

现象：Agent学习使用git remote add+git fetch或curl恢复GitHub连接，查看未来提交获取答案
方案：启发式阻断规则——同时包含仓库链接(gitub.com/{repo})和网络访问关键词(git/curl/wget)的工具调用被拦截
效果：手动检查确认Reward Hacking行为被有效消除

Best-fit Packing

问题：传统concat-then-split导致多轮Agent轨迹被截断（上下文幻觉），破坏工具调用格式学习
方案：Best-fit Packing算法，近似Bin Packing问题，最小化碎片化
效果：相比传统策略，在Agentless SWE-bench上patch similarity从16.68%提升至17.82%，零碎片化

FIM（Fill-in-the-Middle）支持

Search-and-Replace FIM优于Chat-FIM，与PR风格预训练数据对齐更好
支持文档编辑和在线代码修改场景

实验设置

✍️实验设置

实验设置

基础模型

Qwen3-Next Base，80B总参数，3B激活参数（MoE）

训练配置

MegaFlow执行框架：63卡训练，448卡Rollout（共512 H100）
Mid-training：万亿级tokens，上下文262K
RL训练：128k上下文，Global Batch Size 16M tokens

评测基准

Agentic：SWE-Bench Verified/Pro/Multilingual（SWE-Agent/MiniSWE-Agent/OpenHands）
CLI任务：Terminal-Bench 2.0（Terminus2-xml/json, QwenCode等）
通用编码：EvalPlus, MultiPL-E, LiveCodeBench, Codeforces
数学推理：AIME24/25, HMMT25

防作弊机制

移除remotes/branches/tags，防止访问未来提交信息
与Baseline统一使用该机制确保公平比较

关键结果(80B-A3)

🍑关键结果

关键结果

Agentic编码任务

SWE-Bench Verified：
- SWE-Agent：70.6%
- MiniSWE-Agent：71.1%
- OpenHands：71.3%
- 与Claude-Sonnet-4.5、DeepSeek-V3.2(671B)、GLM-4.7(358B)竞争，远超参数效率
SWE-Bench Pro（更难）：
- SWE-Agent：42.7%
- 优于MiniMax-M2.1(40.8%)，接近GLM-4.7(45.1%)
Terminal-Bench 2.0：
- Terminus2-json：36.2%
- 体现跨工具格式泛化能力

通用编码与数学

Aider-Polyglot：74.8%，领先所有对比模型
Codeforces：2100分，超越Qwen3-Coder-480B-A35B(1800)
AIME25：83.07%，显著优于Qwen3-Next(69.64%)，验证代码推理能力向数学迁移

跨框架泛化（表2）

在5种不同IDE/CLI Scaffold(模板)上平均92.7%格式遵循率
优于DeepSeek-V3.2(93.7%)，大幅领先GPT-5-2(49.3%)和GLM-4.7(69.9%)
证明多样化工具模板训练的有效性

效率优势

仅3B活跃参数达到与37B-1000B活跃参数模型相当的SWE性能
特别适合生产环境部署（低延迟、低成本）

限制与未来方向

⛳ 限制与未来方向

限制与展望

当前限制

与Claude Opus 4.5仍有差距：在极复杂大规模软件工程任务上能力不足
交互效率：部分复杂任务需要更多交互轮次(平均从50增至130轮)
前端/UI能力：仍待提升，需要视觉反馈集成
网络安全：AthenaBench-Mini显示在威胁归因等任务上与前沿模型有差距

未来方向

上下文长度扩展：继续扩展模型上下文，直接容纳更大代码库
reasoning效率：通过RL改进长程规划，减少必要交互轮次
多模态Agent：集成视觉能力，直接评估渲染输出和交互行为
网络安全Agent：CTF竞赛、漏洞利用等真实安全任务
持续自我改进：结合Self-Play机制（如Meta的Self-Play SWE-RL），实现任务与模型的共同进化

(2507) Qwen3-Coder

Qwen3-Coder (2507)

参考链接

qwen3-coder 博客

关键技术

MoE, 480A35B，上下文256k -> 1M, YaRN。
预训练 + 所有代码可执行的Code RL训练。

训练数据

预训练
- 通用、数学 + 代码， 7.5T tokens (70%)
- 合成数据：利用Qwen2.5-Coder对低质数据做清洗和重写，提升质量。
RL
- 不仅是竞赛代码，对所有代码做执行驱动的RL。

数据清洗

关键结果

Agentic Coding、Agentic Browser-Use 和 Agentic Tool-Use 开源SOTA，可与Claude Sonnet4 媲美

(2506) Seed-Coder

🌺 论文摘要

论文摘要

paper
Seed-Coder的详细训练说明。包括预训练、后训练指令微调、推理模型等，以及详细的模型评估。

问题背景

❓问题背景

问题背景

CodeLLM在代码生成/解释/Debug/SWE等任务上好
- 但顶尖都是闭源，很少披露数据细节。
- DeepSeek-R1, Qwen2.5-Coder等开源仅报告预训练和后训练技术，数据概括无细节。
利用人类专业知识来策划和完善数据集能提高预训练数据质量
- 但人工规则成本高、且容易相互冲突，具有局限性，阻碍发展。
  - DeepSeekCoder和DeepSeekCoderV2，沿用StarCoder过滤规则。
  - Qwen2.5-Coder：类似于DeepSeek-Coder 规则过滤方法。
  - OpenCoder：130条带有自定义权重的人工过滤规则。

预训练 (Base)

📕核心方法

Data Pipeline 概览

预训练数据处理 Pipeline 概览

原始数据

Github数据、Web数据

处理步骤 (预处理+过滤)

预处理
- 去重：精确去重和近似去重
- Mini规则过滤：去掉不相关或非代码数据
LLM质量过滤
- 过滤后数据分为4类
  - 文件级代码 + 仓库级代码 + Github Commits + 代码相关的web数据

处理结果

核心预训练数据
继续预训练数据：高质量数据 + 长上下文数据

Github 数据处理

数据预处理

文件级去重 + 仓库级去重
- 精准去重(SHA256)、近似去重(MinHash)
- 文件级：短上下文学习；仓库级：保留项目结构，长上下文学习。
去掉存在语法错误的文件
- 使用语法解析器检查文件是否存在语法错误
最终减少98%原始数据。

质量过滤

规则过滤存在挑战：需要多个专家共同编辑，很难一致，而且很难去评估。
文件级质量评分模型
- 四维度：可读性(注释合理)、模块化(结构好)、清晰度(少冗余)、复用性(易集成)。
- 输出0-1分，过滤低质量代码文件，无需复杂标准。过滤一些自动生成的代码。
- 微调1.3B模型，回归Head，训练1个epoch，MSEloss，类别平均MAE观测指标。
- 训练数据：21种语言，使用GPT-4/DeepSeek-Coder-33B(V2-Chat)构造GT。
最终去除10%数据

Commit 数据处理

Commit原始数据

14w 高质量仓库、7400w次提交。
- 高质量仓库：100star、10个fork、100次提交、100天的维护活动

Code Change 预测任务

Code change prediction 任务数据格式：
- 给定提交信息、上下文，模型预测被修改的文件、代码变化。
- 上下文：README、目录结构、BM25算法检索的top5相关文件
经过去重和预处理后，获得100b tokens。
提供 真实Code变化 强监督信号

Code-Web 数据处理

Code-Related Web Data

核心

从web数据(common crawl等)中，提取出高质量、代码相关的数据。

预处理

代码提取：带有显示<code></code>>标签的数据，非显示代码标签的数据。
去重：使用精确去重和近似去重，同github数据一样。
启发式过滤方法：去掉低质量文档(如低于10个单词)。

质量过滤

核心：识别代码相关内容 + 评估内容质量。
FastText 召回代码内容
- 从没有代码标签的数据中召回代码内容
- 提取并评分1000w个候选网页，标注数据，70%作为种子语料库、30%用于验证
- 训练fastText模型，识别和检索代码内容。99%召回率、45%精确率。
- 约3%识别为代码内容 (common crawl)
LLM 过滤低质数据：打0-10分
- 不同类别的网站质量分数存在差异。
  - 电商平台/文档站点/等：结构清晰，分数较高
  - 社区论坛：得分较低，因为结构化低、混杂多

Continue Pretrain 数据处理

CPT-高质量数据

数据来源：主流编程语言、算法、应用开发、jupyter、通用代码数据。
高质量fastText 检索高质量数据
- 针对每种特征的数据：划分小且多样的高质量种子数据，10w样本，作为正样本，
- 训练fastText模型
  - 使用10w正样本，负样本由随机选择和精心构建2部分组成。
  - 迭代训练：训练->召回新数据->把最好的加入种子库->重新训练
- 经过2-3轮fastText模型训练
  - 逐渐扩充正样本，最终得到130b高质量数据，用作CPT

CPT-长上下文数据

长上下文数据
- 文件级：结合LLM过滤，从中筛选出长上下文数据。
- 仓库级：根据文件的平均质量分数选择高质量仓库。
  - 主流语言(python/java/c)：基于文件依赖关系做拼接
  - 其他语言(HTML/SQL/Shell)：随机拼接。
  - 每个仓库，作为一个单一的字符串
32k长上下文，两个阶段：原始 -> 8k -> 32k

预训练策略

模型架构

LLama3，8.2B参数，36层，隐藏层大小为4096，中间层大小为14336，
采用GQA，32个query头，8个key-value头。

上下文长度

初期：8k
CPT：32k

Token和学习率参数

初期(基础)：3e-4，1万亿token，代码web+数学web数据
中期(专业数据)：4万亿token，精选代码数据
CPT(冲刺)：高质量和长上下文数据
- 学习率降低 $\sqrt{10}$ 倍，训400b token
- 学习率降低到3e-5，继续训练600b token

FIM任务

Prefix Suffix Middle vs Suffix Prefix Middle
- 实验SPM效果更好，可能和Attention机制有关系，Prefix后面紧接Middle。
FIM训练比例
- 初期：50%时间在训练FIM，非常重视代码补全能力
- 后期：降到10%，需要探索长文本和整体生成能力

后训练(Instruct)

后训练整体包括指令微调SFT +增强代码能力DPO。

2阶段后训练(SFT+DPO)

两阶段训练

SFT

构建的高质量300w指令微调数据
难度感知采样，优先训练高难度数据
3 epoch, lr=2e-5
采用sequence packing 提高训练效率

DPO

DPO 增强代码生成和推理能力，专注于领域中有挑战的样本，2w个高质量偏好对。

指令微调SFT 数据Pipeline

指令微调

数据集

数百万，关注多样性、质量、难度。

数据源

github + code-text混合数据：提取出高质量代码片段，
公开指令数据：构建meta-style数据。

数据合成

指令-回复数据合成：用LLM对这些数据合成多样化、风格化的指令和回复。
指令-回复数据过滤：基于rule-based+model-based，确保高质量和难度适当
回复数据优化：基于沙箱的self-correction机制来迭代优化输出。

合成数据(多样性+质量+难度)

合成数据构建质量数据

背景

若仅使用Github代码微调，会导致模型只会写代码、难以听懂指令。
若仅用模型自己生成的指令，会太像机器人。
通过合成数据，来解决数据多样化的问题。
- 构建具有多样性、有难度、可扩展的高质量指令数据。

多样性+质量+难度

多样性

种子片段多样性
- 单一代码文件：从多个高质数据源，提取代码片段，做质量过滤
  - 利用OSS-Instruct(Magicoder)构建额外代码片段。
- 真实社区混合数据源：Jupter Notebooks, StackExchange, Markdown等，
  - 包括代码和上下文(图表/讨论/问题等)
- 给定代码片段+上下文，让模型去生成真实指令
  - 对齐真实开发者指令(写作/解释/寻求帮助)等。
风格多样性
- LLM生成指令风格单一(结构化/完整/太完美)，和真实prompt有gap (随意/不讲语法/)。
- 公开数据 收集多种真实指令：
  - 构建meta-style-set，并做风格增强：随机选2个风格，合成新风格。
- WildChat数据(真实ChatGPT用户对话记录)
  - 提取数据到SFT数据集

质量过滤

Rule-Based：使用Tree-Sitter 过滤有语法错误的。
Model-Based：使用Prompt+LLM来打分，判断是否解决问题，过滤低分数据。

难度过滤

先做主题分类，每个主题内，用LLM做难度评分(满分10分)，过滤低于3分数据。

基于sandbox的self-correction

背景

难度高的例子，错误率较高，导致被过滤掉。
需要难数据在SFT数据集中。

sandbox + self-correction

Prompt模型生成 解决方案 + 测试用例
在sandbox环境执行测试，迭代修复解决方案，直到通过所有测试用例或达最大修改次数。

DPO 偏好数据构建

DPO 增强代码生成和推理能力

选择任务相关prompt，rollout多个答案。
基于sandbox 利用单元测试去对答案做评估。构建偏好数据。

后训练(LongCoT-Reasoning)

数据集

LongCoT 数据集

WarmUp阶段
- 真实竞赛数据：CodeContests, ICPC, 使用R1生成回复
  - 用sandbox做拒绝采样，仅保留正确答案。保证更强的监督信号
- 开源cot数据：open-r1, codeforces-cots
RL阶段：WarmUp 数据 + LiveCodeBench数据

LongCoT RL训练

Warmup 冷启动

模型：从Base模型训练，而非Instruct模型。
- 指令模型在RL过程，会坍塌回典型的SFT模式，导致RL后性能下降。
数据：数千个LongCoT样本
- 为保留探索空间，不扩大蒸馏数据规模，鼓励模型探索。
超参：lr=2e-5，

LongCoT RL 训练过程

基础设置

verl, GRPO, DAPO技巧
- clip_ratio_high=0.28, token-level-loss, 过滤超长样本
bs=128, 初始lr=1e-6，temperature=0.6，去掉KL Loss

课程学习

本质GRPO是课程学习：会过滤全对或全错的样本。
优化：过滤掉简单样本。
- 简单样本为了拿思考奖励、废话多、浪费token。

渐进式探索策略

第一阶段：16k，rollout 16
第二阶段：32k，rollout 32

效果评估

对比模型

对比系列

(2024) StarCoder2
- The Stack + The Stack v2，覆盖619种语言，67.5TB代码数据，3B-7B-15B模型
(2024) Codestral
- MistralAI，22B模型，80多种语言训练
(2024) CodeLlama
- LLama2 base，代码500B-1T 训练，5B 人类指令训练。7B-70B。
(2024) DeepSeek-Coder
- 2万亿token从头训练，87%代码+13%中英文自然语言。repo-level预训练和代码补全。
(2024) CodeQwen1.5
- Qwen1.5-7B, 3万亿代码token训练，覆盖92语言。
(2024) Yi-Coder
- 1.5B和9B，2.4万亿token序列(Github+commoncrawl)，52中语言。
(2025) OpenCoder
- 1.5B和8B，2.5万亿token，从头训练，90%代码，10%code相关web数据。
(2024) DeepSeek-Coder-V2
- MoE模型，16B-A2.4B，236B-A21B。
- 在DeepSeek-V2训练至4.2万亿token时，使用额外6万亿token进一步预训练而来。
- 6万亿token：60%源代码，10%数学，30%自然语言。
(2024) Qwen2.5-Coder
- 代码大模型系列，0.5B-32B。在Qwen2.5基础上，使用5.5万亿代码token预训练而来。
(2025) Qwen3
- 包括Dense和MoE。思考和非思考。

Base模型评估

代码生成

HumanEval
MBPP
MultiPL-E：多语言

代码补全

CrossCodeEval
RepoEval：真实github仓库的补全，归功于FIM和大量仓库级数据训练。
Single-line MultiPL-HumanEval FIM

代码推理

CRUXEval：
- 给代码，预测输出结果。
- 给输出结果，预测输入是什么。

长上下文能力

Needle in the Code：32k长代码里有一个函数，问模型该函数是干嘛的。

指令模型评估

danger 模型评估

代码生成

HumanEval、MBPP：大家分数都很高，区分度不明显了。
MHPP：人工选的难题。pass@1=36.2%
BigCodeBench：要求调用库函数来解决问题，而非从0手写代码。pass@1=26.4%
LiveCodeBench：最近几个月的新题。pass@1=24.7%
MBXP：多语言。
NatrualCodeBench：在线编程平台的真实用户题。
FullStackBench：3.3k人工编码问题，覆盖11个领域(DA/ML/DB/Web等)和16种编程语言。55.8%

代码推理

CRUXEval

代码编辑

Aider：来自Exercism的133个编程练习，编辑现有代码并格式化修改内容。
CanItEdit：105个手工指令代码编辑问题，包括描述性和懒惰性指令。
CodeEditorBench：Debug+Translate+Switch改需求()+Polish(润色)。

软件工程

SWE-Bench-Verified：Github Issue，经过人工验证的500个python实例。
Multi-SWE-bench：8种语言，mini版本包括400个实例，每语言50个。
Agent 脚手架
- Agentless：固定人工设计的工作流，把任务分解为SOP，包括故障定位、代码修复和补丁验证。
  - 19%和4%解决率。
- OpenHands：完全自主的agent平台，无需固定工作流，依赖LLM自身规划和推理能力。
  - 11.2%能力，8B小模型突破。
- 目前大部分AgentLess效果更好，但随着模型能力提升，OpenHands自主会超过Agentless。
得益于：执行遵循(DPO+数据清洗) + Commit数据(100B)

推理模型评估

LiveCodeBench(2410-2502)：Pass@1
IOI (Internaltional Olympiad in Informatics)：Open-r1，41个子任务，146分，超过QwQ-32B, DeepSeek-R1
Codeforces：CodeElo，1553分，远超QwQ-32B-Preview。

算法实验

实验设置

✍️实验设置

实验设置

关键结果

🍑关键结果

关键结果

未来方向

⛳ 未来方向

未来方向

(2503) Ling-Coder-Lite

Ling-Coder-Lite (2503)

参考链接

inclusionAI/Ling-Coder-lite, paper

关键技术

MoE，top6 路由，改进的NormHead。
共享/常驻专家：shared+routed expertes，DeepSeekV2首创设计。
训练策略：继续预训练、指令优化(SFT + DPO)

训练数据

指令优化数据：高质量、可执行、仓库结构数据。

数据清洗

关键结果

HumanEval, MBPP, LiveCodeBench, BigCodeBench等

Code 全训练 论文阅读

(2604) InCoder-32B-Thinking (81.3% LiveCodeBench, 84.0% CAD-Coder, Beihang et al.) ​

问题背景 ​

工业代码生成的独特挑战 ​

知识鸿沟 ​

核心方法 ​

核心思想 ​

ECoT合成细节 ​

ICWM 世界模型 ​

实验设置 ​

关键结果(CWM-32B + Thinking) ​

未来方向 ​

(2603) KAT-Coder-V2 (79.6分, KwaiKAT Team) ​

问题背景 ​

核心方法 ​

Specialize-then-Unify 训练范式 ​

KwaiEnv 基础设施 ​

算法创新 ​

实验设置 ​

关键结果 ​

未来方向 ​

(2512) IQuest-Coder-V1 ​

问题背景 ​

核心方法 ​

实验设置 ​

关键结果 ​

未来方向 ​

(2512) Nex- N1 ​

(2510) CWM(Meta) ​

问题背景 ​

核心方法 ​

实验设置 ​

关键结果 ​

未来方向 ​

(2510) KAT-Dev ​

问题背景 ​

训练概览 ​

Mid-Term-Training ​

SFT 训练 ​

SFT 数据源 ​

SFT 轨迹数据合成 ​

RFT 训练 ​

AgenticRL 训练 ​

算法实验 ​

实验设置 ​

关键结果 ​

未来方向 ​

(2603) Qwen3-Coder-Next (70.6分, Alibaba) ​

问题背景 ​

静态数据无法满足Agent训练 ​

规模化Agentic训练的挑战 ​

核心方法 ​

任务合成流水线 ​

多阶段训练流程 ​

关键技术细节 ​

实验设置 ​

关键结果(80B-A3) ​

限制与未来方向 ​

(2507) Qwen3-Coder ​

​

(2506) Seed-Coder ​

问题背景 ​

预训练 (Base) ​

Data Pipeline 概览 ​

Github 数据处理 ​

Commit 数据处理 ​

Code-Web 数据处理 ​

Continue Pretrain 数据处理 ​

预训练策略 ​

后训练(Instruct) ​

2阶段后训练(SFT+DPO) ​

指令微调SFT 数据Pipeline ​

合成数据(多样性+质量+难度) ​

DPO 偏好数据构建 ​

后训练(LongCoT-Reasoning) ​

数据集 ​

LongCoT RL训练 ​

效果评估 ​

对比模型 ​

Base模型评估 ​

Code 全训练论文阅读

(2604) InCoder-32B-Thinking (81.3% LiveCodeBench, 84.0% CAD-Coder, Beihang et al.)

问题背景

工业代码生成的独特挑战

知识鸿沟

核心方法

核心思想

ECoT合成细节

ICWM 世界模型

实验设置

关键结果(CWM-32B + Thinking)

未来方向

(2603) KAT-Coder-V2 (79.6分, KwaiKAT Team)

问题背景

核心方法

Specialize-then-Unify 训练范式

KwaiEnv 基础设施

算法创新

实验设置

关键结果

未来方向

(2512) IQuest-Coder-V1

问题背景

核心方法

实验设置

关键结果

未来方向

(2512) Nex- N1

(2510) CWM(Meta)

问题背景

核心方法

实验设置

关键结果

未来方向

(2510) KAT-Dev

问题背景

训练概览

Mid-Term-Training

SFT 训练

SFT 数据源

SFT 轨迹数据合成

RFT 训练

AgenticRL 训练

算法实验

实验设置

关键结果

未来方向

(2603) Qwen3-Coder-Next (70.6分, Alibaba)

问题背景

静态数据无法满足Agent训练

规模化Agentic训练的挑战

核心方法

任务合成流水线

多阶段训练流程

关键技术细节

实验设置

关键结果(80B-A3)

限制与未来方向

(2507) Qwen3-Coder

(2506) Seed-Coder

问题背景

预训练 (Base)

Data Pipeline 概览

Github 数据处理

Commit 数据处理

Code-Web 数据处理

Continue Pretrain 数据处理

预训练策略

后训练(Instruct)

2阶段后训练(SFT+DPO)

指令微调SFT 数据Pipeline

合成数据(多样性+质量+难度)

DPO 偏好数据构建

后训练(LongCoT-Reasoning)

数据集

LongCoT RL训练

效果评估

对比模型

Base模型评估

指令模型评估