Tutorial Index · 24 Tutorials · Open Source Learning Notes

大模型秋招教程(ARIS-in-AI-Offer & Hello-Agents) 首页

本网站所有文档均源于 ARIS-in-AI-Offer 与 Hello-Agents 两个开源仓库中的开源文档

感谢这两个开源仓库对社区和本网页做出的贡献，也预祝大家秋招顺利！下面按主题整理为教程卡片，点击即可跳转到对应 HTML。

34 篇中文教程 8 个主题卡片 2 个来源仓库

§1教程卡片

CARD · 01 🧠 General / 基础 5 篇

梳理 Transformer、归一化、优化器与 RLHF 的基础概念，是进入后续大模型面试题的起点。

Attention 面试 Cheat Sheet注意力机制、QKV、位置编码与基础推导。 KL Divergence in RLHF从 KL 散度出发解释对齐约束与训练稳定性。 Transformer Block残差拓扑、归一化、注意力、FFN 与 MoE 的模块化结构。 归一化 / 残差 / 初始化LayerNorm、RMSNorm、残差连接与初始化稳定性。 优化器 / LR ScheduleAdamW、Muon、学习率调度与训练稳定性。

CARD · 02 🎯 Post-Training & Reasoning 5 篇

覆盖对齐优化、推理模型与 on-policy distillation，是面试中最常追问的训练后阶段。

RLHF / DPO / GRPO / PPO对齐方法、偏好优化与策略更新机制。 Reasoning Models推理型大模型的训练范式与能力边界。 LLM On-Policy Distillation在线蒸馏、数据收集与策略对齐。 LoRA / PEFTLoRA、QLoRA、DoRA、rsLoRA、PiSSA、AdaLoRA 与参数高效微调。 LLM Evaluation & Benchmarking评测指标、benchmark 设计、污染检测与统计推断。

CARD · 03 🏛️ LLM Architecture & Systems 8 篇

面向系统岗的核心版块，涵盖模型结构、长上下文、缓存、量化与分布式训练。

MoE路由、专家并行与参数/计算权衡。 Long Context: RoPE / YaRN / MLA长上下文位置编码与外推策略。 KV Cache + Speculative Decoding推理加速、缓存设计与采样协同。 QuantizationGPTQ、AWQ、FP8 与低精度推理。 Distributed TrainingFSDP、ZeRO、并行策略与训练伸缩。 线性 / 稀疏注意力线性注意力、SSM、Mamba、稀疏模式与混合架构。 LLM Pretraining PipelineScaling law、数据流水线、packing、loss masking 与 checkpoint。 LLM Inference & Serving StackPagedAttention、continuous batching 与服务系统设计。

CARD · 04 🤖 Agents 5 篇

从 Agent 基础到长程协作与自进化，覆盖多智能体系统常见追问。

Agent FoundationsReAct、MCP、工具调用与基础框架。 Agentic RLAgent 方向的强化学习与训练方法。 Multi-Agent & Long-Horizon多智能体协同、记忆与长期任务。 Self-Evolving Agents自我改进、反思和技能演化。 RAG + 文本嵌入检索增强生成、文本嵌入/重排、InfoNCE 与 ColBERT。

CARD · 05 🎨 Generation Systems 5 篇

覆盖图像、视频、3D 以及扩散后训练与蒸馏，偏系统实现与工程落地。

Image Generation Systems图像生成系统的组成、训练与控制。 Video Generation视频生成中的时序建模与采样策略。 3D GenerationNeRF、3DGS 与 3D 生成的关键模块。 Diffusion Post-Training扩散模型的对齐与偏好优化。 Diffusion Distillation一致性模型、蒸馏与加速推理。

CARD · 06 👁️ Multimodal 1 篇

多模态对齐的核心入口，适合快速回顾视觉语言融合和跨模态表示。

VLM MultimodalCLIP、LLaVA、Qwen-VL 与多模态推理。

CARD · 07 🌊 Generative Models — Theory & Tokenizers 4 篇

聚焦生成式建模的基础理论和离散/连续表示学习。

Flow Matching从流匹配视角理解生成路径。 Diffusion Foundations扩散模型的核心原理与训练目标。 VAE / VQ-VAE / VQ-GAN连续与离散潜空间的表示学习。 Tokenization / 分词器BPE、Unigram、byte fallback 与 tokenizer 工程陷阱。

CARD · 08 📚 大模型秋招面试问题总结 1 篇

来自 Hello-Agents 的大模型秋招面试问题总结，适合把 LLM、VLM 与 Agent 交叉题做最后一轮回顾。

LLM & VLM & Agent 面试问题总结open-source interview notes and reference answers.

§2文档出处

wanshuiyin/ARIS-in-AI-Offer

Bilingual ML / LLM / multimodal / diffusion / agent / generative-model interview cheat sheets (秋招经验手册) — single-file HTML reads anywhere on phone, iPad, and laptop — auto-generated by the ARIS /render-html workflow 🌱

GitHub source · tutorial set

datawhalechina/hello-agents

📚 《从零开始构建智能体》——从零开始的智能体原理与实践教程

GitHub source · supplemental reference