能力是如何被训练出来，并在表示空间中稳定下来的？
模型能力形成的位置，涵盖预训练、微调、对齐、数据配方和表示学习。
AT-E-003 · high
L3 / Model Training Layer
模型训练与表示层
模型能力形成的位置，涵盖预训练、微调、对齐、数据配方和表示学习。
- 预训练
- 监督微调
- 偏好对齐
- 数据配方
- 表示学习
- Transformer
- MoE
- RLHF
- DPO
- LoRA
- embedding
- tokenizer
- ML researcher
- training engineer
- data curator
- alignment researcher
- 数据污染
- 过拟合
- 灾难性遗忘
- 对齐偏移
- 评测泄漏
- 数据审计
- 训练日志
- 对齐评测
- 污染检测
- 常规微调
- 模板化数据清洗
- 基础实验记录
- 数据配方判断
- 能力边界诊断
- 训练目标设计
- 对齐风险解释
模型研究员infrastructure-critical
研究模型结构、训练目标、对齐方法和能力形成机制。
T2 · 旧理解 c
大模型把大量任务统一成 next-token prediction 和概率建模。
认知操作 r@Dreinterpret@model_training_layer
新理解 C' · medium-high
传统手工算法设计没有消失，而是从大众应用岗位迁移到底层训练优化、推理基础设施和上层符号约束系统。
T4 · 旧理解 c
用户用 Python 写神经网络训练代码。
认知操作 r@Ddecompose@kernel_runtime_layer
新理解 C' · high
Python 主要承担上层接口、实验编排和生态调用；真正高密度数值计算通常由底层 C++ / CUDA runtime 执行。