TechFoco Logo
首页专题归档站点地图
© 2026 TechFoco. All rights reserved.
文章归档专题网站地图站点地图 XML爬虫规则
  1. 首页
  2. /
  3. 返回归档
  4. /
  5. 爱丽丝漫游可微仙境:Alice’s Adventures in a differentiable

爱丽丝漫游可微仙境:Alice’s Adventures in a differentiable

2025年12月27日•TechFoco 精选

爱丽丝漫游可微仙境:Alice’s Adventures in a differentiable wonderland | 这是本一路用直观的语言和可运行的代码教会你亲手构建现代神经网络的书。

文章配图 1
文章配图 1

爱丽丝漫游可微仙境:Alice’s Adventures in a differentiable wonderland | 这是本一路用直观的语言和可运行的代码教会你亲手构建现代神经网络的书。

“神经网络无处不在——大型语言模型、语音转写、分子发现算法、机器人系统……剥开外衣,它们都只是可微基元的组合;研究神经网络,就是在学习如何“编程”并与这些模型交互,这正是所谓的“可微编程”。

这本入门读物,为像爱丽丝一样刚刚跌入这片奇异可微仙境的你而写。

文章配图 1
文章配图 1

我将概览如何通过自动微分来优化函数,并精选最常见的架构来处理序列、图、文本与音频。

全书聚焦直觉、自成体系地介绍最重要的设计技巧——卷积块、注意力块、循环块——力求在理论与代码(PyTorch 与 JAX)之间架起桥梁,使读者最终能够理解当今最前沿的模型,如大语言模型 (LLM) 与多模态架构。

” 作者现在开始写第二卷了,先放出了一章介绍强化学习的:内容涉及大型语言模型的后训练技术,聚焦于强化学习在模型微调中的作用 。

文章配图 2
文章配图 2

内容兼具广度(历史演进)与深度(数学推导)的技术文档。

系统讲解了从奖励建模(Reward Modeling)、策略梯度(Policy Gradient)到PPO、GRPO及DPO等前沿算法的数学推导与应用细节 。

文章链接

  • 查看原文https://www.sscardapane.it/alice-book/
  • 查看原文http://www.sscardapane.it/assets/alice/Alice_volume_2_rl.pdf

相关标签

神经网络自动微分PyTorch强化学习大语言模型

继续阅读

较新文章

The Well: 15TB of Physics Simulations 物理仿真数据集规模空

较早文章

Intelligent Robot Simulator (IR-SIM) 是一款基于 Pytho

相关文章

查看更多

MiMo-V2.6 报告披露代码质量分组评分方法

MiMo-V2.6 报告披露代码质量分组评分方法 代码智能体训练不再只区分测试通过与否,还比较补丁的必要性、实现精度、副作用和代码库风格,并把确认依赖泄漏答案的轨迹奖励归零。

2026年10月11日
代码智能体程序合成

Mellum2.1 开放权重,面向可自部署的编码智能体

Mellum2.1 开放权重,面向可自部署的编码智能体 12B MoE 模型每次激活约 2.5B 参数,以 Apache 2.0 许可发布,经过真实代码环境强化学习训练,可用于探索仓库、修改文件与检查改动。

2026年10月10日
开放权重MoE

Claude Sonnet 5.5 面向日常编码与快速迭代 Sonnet 5.5 提升了代码库理

Claude Sonnet 5.5 面向日常编码与快速迭代 Sonnet 5.5 提升了代码库理解、缺陷修复和长程工具协作能力,是更复杂任务模型的低成本补充。

2026年10月03日
Claude
Sonnet

Naive-N0.5-Flash 开放编码模型与推理实现 面向编码和 AI 研发的模型采用 30

Naive-N0.5-Flash 开放编码模型与推理实现 面向编码和 AI 研发的模型采用 309B MoE、15.5B 激活参数,原生支持百万 token 上下文,权重和推理代码以 MIT 许可开放。

2026年10月03日
MoE大语言模型

Gemini 4 Argon 首批面向网络防御者开放

Gemini 4 Argon 首批面向网络防御者开放 Gemini 4 Argon 面向长程编码、代码库迁移和漏洞发现、验证与修复,单次输出上限提高至 100 万 token。

2026年10月01日
Gemini 4 Argon大语言模型
🤖 Claude Fable 5.1 正式发布,1M 上下文窗口、定价与前代持平,缓存读取价格

🤖 Claude Fable 5.1 正式发布,1M 上下文窗口、定价与前代持平,缓存读取价格

🤖 Claude Fable 5.1 正式发布,1M 上下文窗口、定价与前代持平,缓存读取价格降至四分之一;Mythos 5.1仅限邀请 Claude Fable 5.1 于 2026 年 9 月 1 日发布,定位长时程智能体与复杂推理任务。

2026年09月02日
大语言模型长上下文