Deep Learning for Solving Economic Models

一、论文 JEL 分类号及其学术内涵解析

本文在《Journal of Economic Literature》（JEL）正式发表，论文标注了四个标准的JEL分类代码。这些分类代码精准地界定了论文横跨现代计算经济学、数理规划、信息经济学与宏观经济增长的理论交叉属性：

二、论文的核心理论与方法论贡献

Jesús Fernández-Villaverde 教授的这篇长篇权威综述，不仅是对近年来深度学习在经济学计算领域前沿进展的系统梳理，更是对定量宏观经济学与微观结构模型计算范式的一场深刻重塑。其核心学术贡献体现在以下五个维度：

1. 突破传统数值方法的“维度灾难”，彻底打开高维经济模型的求解空间

自20世纪70年代理性预期革命以来，动态一般均衡模型大多缺乏闭式解析解。传统全局求解方法（如基于网格的值函数迭代VFI、基于切比雪夫多项式或有限元的正交投影法）在状态变量超过4至5维时即遭遇指数级算力爆炸（若每维取100个网格点，d维需100^d个点）；而局部扰动法（Perturbation）虽计算迅速，但在处理偶发绑定约束（如零下限ZLB、流动性约束）与极端尾部灾难时严重失真。本文系统性论证并确立了深度学习作为破解高维状态空间（数十至数百维甚至更高）非线性动态模型全局解的基石地位，使经济学家不再因算力限制而被迫在模型中施加不符合现实的过度简化假设。

2. 阐明“自适应学习基函数（Learned Bases）”超越“先验固定基函数（Fixed Bases）”的本质机理

传统投影法要求研究者在见到具体问题前先验设定正交基函数（如Chebyshev多项式张量积），在高维空间中面临基函数组合爆炸和严重的多重共线性。深度学习通过多层复合架构，利用反向传播将复杂非线性全部“封装”在简单的单变量激活函数（如ReLU、Tanh）中，使得输入特征被自动投影、扭曲和折叠，自发生成一个信息紧凑的最优隐空间基底（Hidden Units）。在经过训练的隐空间中，高度复杂的未知经济学目标函数转变为隐单元的近乎线性组合，从根本上兼顾了强大的非线性表达力与极佳的外推泛化能力。

3. 首次清晰形式化并提出破解经济学独特难题——“均衡循环（Equilibrium Loop）”的自洽算法

计算机科学中的常规深度学习依赖外生固定的数据集与标签进行离线监督学习。然而，动态经济模型的求解存在本质不同的内在循环：训练网络所需的评估点应当来自经济体自身的遍历分布（Ergodic Distribution），但该遍历分布本身又由经济主体尚未求解出的最优策略函数内生决定！这一“先有鸡还是先有蛋”的悖论被作者高度概括为“均衡循环”。论文提出了基于轮次（Epoch）的策略模拟与自洽重采样迭代机制，使得算法在训练过程中动态自适应聚焦于系统实际漫游的经济有效状态区域，彻底摆脱了高维超立方体无效空间的网格算力浪费。

4. 构建涵盖离散/连续时间、多控制变量与非线性互补约束的大一统计算框架

论文超越了简单的无约束规划，构建了一个具有极高通用性的动态规划大一统计算框架：无论是离散时间的随机贝尔曼方程，还是连续时间的Hamilton-Jacobi-Bellman（HJB）方程；无论是等式约束、状态转移律，还是带有偶发绑定约束（如借贷受限、名义利率零下限）的不等式约束，均可被统一编码为多输出神经网络系统（同时拟合价值函数、决策规则及KKT拉格朗日乘子）。论文通过构建包含主可行性残差、对偶可行性残差和互补松弛残差的加权复合损失函数，给出了完备的优化表述。

5. 规范现代深度学习工程生态的落地标准与稳健实践指南

结合NVIDIA GPU高度并行化硬件生态与PyTorch/JAX自动微分软件生态，论文通过连续时间新古典增长模型的实际案例，给出了诸如：将消费参数化为Sigmoid产出比例以天然保证预算可行与非负性、利用Softplus保证边际效用严格正向、针对HJB残差进行绝对值动态归一化、以及运用梯度裁剪（Gradient Clipping）与余弦退火学习率调度等一系列高价值工程技巧。在普通笔记本电脑上仅需1分钟即可实现欧拉方程误差低于0.1%的超高精度全局解，确立了经济学模型深度学习求解的可重复性与透明度标杆。

三、核心概念、数学定义与模型符号详析

为了深入理解深度学习如何切入动态经济学求解，本节对论文中涉及的全部数学对象、系统符号、结构定义与算法概念进行模块化分解与详细解释。

1. 基础特征表示与目标函数映射

在经济学模型的函数逼近设定中，目标是在特征空间上寻找一个未知的连续或离散映射。定义输入特征向量（即模型的状态变量）：

$X = (1,\ x_{1},\ x_{2},\ ...,\ x_{N}) \in X \subseteq {\mathbb{R}}^{N + 1}$

其中常数项 $1$ 被形式化纳入状态向量首位，用于将仿射变换中的常数偏置项（Bias）直接吸收进矩阵乘法中。未知目标函数记为 $y = f(X)$，其中 $y \in {\mathbb{R}}$ 为标量经济学变量（如价值函数值、最优消费水平、资产价格）。若目标为向量值（如包含多个资产的投资组合策略向量），则通过堆叠多个标量输出构成多头网络（Multi-head Network）。

在随机动态博弈或含观测噪声的场景中，实际观测到的目标值满足：

$y = f(X) + \epsilon,\ \ \ \ {\mathbb{E}}\lbrack\epsilon|X\rbrack = 0$

此时 $\epsilon$ 反映了对手混合策略的随机实现或不可观测的状态扰动，但期望收益函数 $f(X)$ 本身依然是确定性的映射。

2. 经典多项式基函数与切比雪夫正交投影

传统数值经济学通过先验设定的多项式基底构建参数化近似族：

（1）线性近似模型：仅保留一阶项，无法刻画动态规划中由于边际效用递减所必然导致的价值函数严格凹性：

$f(X) \approx g_{\theta}(X) = \theta_{0} + \sum_{n = 1}^{N}\theta_{n}x_{n}$

（2）二次单项式展开：引入二次平方项与双变量交叉乘积项，但高阶单项式在有界闭区间上高度共线，导致法方程矩阵严重病态（Ill-conditioned）：

$g_{\theta}^{QA}(X) = \theta_{0} + \sum_{n = 1}^{N}\theta_{n}^{1}x_{n} + \sum_{n = 1}^{N}\theta_{n}^{2}x_{n}^{2} + \sum_{n = 1}^{N - 1}\sum_{m = n + 1}^{N}\theta_{n,m}x_{n}x_{m}$

（3）第一类切比雪夫多项式（Chebyshev Polynomials of the First Kind）投影：利用在权重 $\left( 1 - x^{2} \right)^{- 1/2}$ 下的正交性改善条件数：

$g_{\theta}^{CP}(X) = \theta_{0} + \sum_{m \in \mathcal{M}}\theta_{m}\prod_{j = 1}^{N}T_{m_{j}}\left( x_{j} \right)$

其中 $m = (m_{1},\ ...,\ m_{N})$ 为多重指标（Multi-index）。若采用张量积集 $\mathcal{M} = \{ 0,\ ...,\ D\}^{N}$，项数达到 $(D + 1)^{N}$；若采用完全度集（Total-degree Set）$\mathcal{M} = \{ m \in {\mathbb{N}}_{0}^{N}:\ ||m||_{1} \leq D\}$，项数仍随 $N$ 呈组合级剧烈膨胀。

3. 神经网络结构：从单隐层到深度网络架构

神经网络采取完全不同的函数构造逻辑。单隐层神经网络（Single-hidden-layer Neural Network）通过三步实现输入到输出的映射：

【步骤1：预激活计算（Preactivations）】输入特征通过权重矩阵 $W \in {\mathbb{R}}^{M \times (N + 1)}$ 进行仿射线性投影，得到 $M$ 维预激活向量 $a$：

$a = WX,\ \ \ \ a_{m} = w_{m,0} + \sum_{n = 1}^{N}w_{m,n}x_{n}$

其中 $W$ 的首列 $w_{m,0}$ 为偏置（Bias），$M$ 为网络宽度（Width）。该操作本质是简单的矩阵乘法，高度适配现代GPU的并行计算流。

【步骤2：隐单元与非线性封装（Hidden Units / Neurons）】对预激活向量逐元素应用非线性激活函数 $\phi( \cdot )$，生成隐单元向量 $z \in {\mathbb{R}}^{M}$：

$z = \phi(a) = \phi(WX)$

$z$ 所处的空间被称为【表示空间（Representation Space）】。此处体现了深度学习的核心思想——【封装非线性（Encapsulated Nonlinearity）】：整个模型中所有的非线性弯曲完全被锁入单变量标量激活函数 $\phi( \cdot )$ 之中，矩阵 $W$ 负责旋转、平移和缩放坐标轴，自发为目标函数构造最贴合的自适应基底。

【步骤3：仿射输出层（Linear Output Layer）】对隐空间基底进行最终的线性组合：

$g_{\theta}^{NN}(X) = v_{0} + v^{\top}z = (r \circ \phi \circ W)(X)$

其中 $r(z) = v_{0} + v^{\top}z$ 为仿射输出映射，所有网络权重收集在元组 $\theta = (v_{0},\ v,\ W)$ 中。

【深度神经网络（Deep Neural Networks, DNN）的推广】：若包含 $J$ 个隐层，前向传播（Forward Propagation）形成多层复合嵌套映射：

$z^{1} = \phi(W^{1}X),\ \ \ \ z^{j + 1} = \phi(W^{j + 1}z^{j}),\ \ \ \ g_{\theta}^{DL}(X) = (r \circ \phi^{J} \circ W^{J} \circ ... \circ \phi^{1} \circ W^{1})(X)$

深层网络允许较低层抽取原始状态的局部相关性，较高层将低层特征递归复合为复杂的全局几何表征，实现特征的层次化抽象与极致压缩。

4. 激活函数谱系（Activation Functions）

激活函数必须具备计算廉价性与高效导数求取特性。论文中系统比较了以下六类激活函数，其数学定义与经济学特征如下：

• 线性恒等函数：$\phi(z) = z$。退化为经典多元线性回归，验证了神经网络是对传统计量模型的直接推广。

• Sigmoid 逻辑斯蒂函数：$\phi(z) = \frac{1}{1 + e^{- z}}$。值域位于 $(0,\ 1)$，常用于拟合离散选择概率、政策份额或将经济学变量约束在有界正区间内。

• 双曲正切函数：$tanh(z) = \frac{e^{2z} - 1}{e^{2z} + 1}$。值域为 $( - 1,\ 1)$，零中心化且平滑无限阶可微。适合已知目标函数高度平滑的连续时间动态规划模型（如HJB方程涉及价值函数一阶及高阶导数计算）。

• 线性整流单元：$ReLU(z) = max(0,\ z)$。分段线性函数，导数仅为 0 或 1，计算极其迅速，彻底规避深层反向传播中的梯度消失问题。具备【局部自适应性（Local Adaptability）】，在非平滑、存在断点或偶发绑定约束的模型中表现优异。

• 平滑增广函数：$Softplus(z) = log(1 + e^{z})$。ReLU 的处处光滑可微近似，不仅保持梯度在正轴上的顺畅流动，且能严格保证输出恒大于零，常用于强加价值函数单调递增约束 $V\prime(k) > 0$。

• Softmax 多项概率映射：$\pi_{k}(X) = \frac{e^{s_{k}(X)}}{\sum_{j = 1}^{K}e^{s_{j}(X)}}$。将实数向量 logits 映射到离散概率单纯形上，用于拟合多主体博弈中的混合策略选择概率。

5. 经济学残差系统与损失函数设计

深度学习求解经济模型，本质是将泛函方程算子 $\mathcal{T}(d) = 0$ 转化为评估点上的残差平方和最小化问题：

（1）贝尔曼方程残差（Bellman Equation Residual）：直接基于动态规划的递推自洽条件：

$\mathcal{R}\lbrack V_{\theta}^{V}\rbrack(X) = V_{\theta}^{V}(X)\ - \ max\{ u(c)\ + \ \beta\ {\mathbb{E}}\ V_{\theta}^{V}(X\prime)\}$

（2）欧拉方程决策残差（Euler Equation Residual）：当市场均衡非帕累托最优，或直接求解一阶条件比求解值函数更便捷时，拟合决策规则 $c_{t} = d(X_{t})$：

$\mathcal{R}\lbrack d_{\theta}\rbrack(X_{t}) = u\prime(d_{\theta}(X_{t}))\ - \ \beta\ {\mathbb{E}}_{t}\{ u\prime(d_{\theta}(X_{t + 1}))(1\ + \ \alpha\ e^{z_{t + 1}}k_{t + 1}^{\alpha - 1}\ - \ \delta)\}$

（3）参数化期望残差（PEA Residual）：当政策函数在临界点存在硬折角（如利率零下限ZLB），直接拟合平滑的条件期望项 $d(X_{t}) = {\mathbb{E}}_{t}\lbrack \cdot \rbrack$，避免非光滑政策函数的近似困难。进而通过 $c_{t} = (u\prime)^{- 1}(\beta d(X_{t}))$ 倒求消费。

（4）KKT 系统复合约束残差：在存在不等式约束 $G(X,\ \alpha) \leq 0$ 与等式约束 $H(X,\ \alpha) = 0$ 时，构建包含四大误差分量的复合损失，并均严格使用原生数学公式表征：

• 主可行性残差（Primal Feasibility Residuals）：

${err}_{PF1,\theta}(X)\ = \ max\{ 0,\ G(X,\ {\alpha\hat{}}_{\theta}^{\alpha}(X))\},\ \ \ \ \ \ \ \ {err}_{PF2,\theta}(X)\ = \ H(X,\ {\alpha\hat{}}_{\theta}^{\alpha}(X))$

• 对偶可行性残差（Dual Feasibility Residual）：保证不等式约束拉格朗日乘子非负：

${err}_{DF,\theta}(X)\ = \ max\{ 0,\ - {\mu\hat{}}_{\theta}^{\mu}(X)\}$

• 互补松弛残差（Complementary Slackness Residual）：确保乘子与约束松弛度互补：

${err}_{CS,\theta}(X)\ = \ ({\mu\hat{}}_{\theta}^{\mu}{(X))}^{\top}G(X,\ {\alpha\hat{}}_{\theta}^{\alpha}(X))$

• 单评估点加权复合损失函数（Per-evaluation-point Loss）：

$l_{l}(\theta)\ = \ \sum_{i = 1}^{6}\omega_{i}||{err}_{i,\theta}(X_{l}{)||}_{2}^{2}$

通过稳态基准值对各方程残差实施无量纲归一化，平衡不同经济学量纲在多目标优化中的梯度贡献。

四、核心理论命题与推论的直觉解释与生动案例

本节梳理支撑深度学习求解经济学模型的五大核心数学命题与理论推论。严格按照要求，不展开复杂的数理证明，而是深入浅出地剖析其经济与数学内涵，将命题中的数学符号与算例均转换为Word原生公式呈现，并配备生动具体的经济学直觉案例。

五、连续时间新古典增长模型求解范式与数值表现

为了给经济学者提供一个直观、透明且高度可复现的完整操作样板，论文第9节以连续时间确定性新古典增长模型（Continuous-Time Deterministic Neoclassical Growth Model）为例，全流程展示了深度学习如何实现高精度全局求解。

1. 经济学模型与 HJB 方程系统构建

社会规划者在无限跨期视野内最大化代表性家庭的折现贴现效用流：

$max\ \int_{0}^{\infty}e^{- \rho t}u(c)dt,\ \ \ \ u(c) = \frac{c^{1 - \gamma}}{1 - \gamma}$

资本积累状态转移微分方程约束为：$k\dot{}\ = \ Ak^{\alpha}\ - \ \delta k\ - \ c$，且资本满足非负下界 $k > 0$。对应的连续时间 Hamilton-Jacobi-Bellman (HJB) 泛函方程为：

$\rho V(k)\ = \ max\ \{ u(c)\ + \ V\prime(k)\lbrack A\ k^{\alpha}\ - \ \delta k\ - \ c\rbrack\}$

联立求解出消费一阶条件：$u\prime(c) = V\prime(k) \Rightarrow c = (u\prime)^{- 1}\left( V\prime(k) \right)$。作者在此设定两个独立的深度神经网络分别逼近价值函数 ${V\hat{}}_{\theta}^{V}(k)$ 与消费政策函数 ${c\hat{}}_{\theta}^{c}(k)$。训练目标由两个核心残差构成，均严格以原生公式呈现：

• HJB 泛函残差：

${err}_{HJB,\theta}(k)\ = \ \rho{V\hat{}}_{\theta}^{V}(k)\ - \ u({c\hat{}}_{\theta}^{c}(k))\ - \ \frac{\partial\ {V\hat{}}_{\theta}^{V}(k)}{\partial k}\left\lbrack Ak^{\alpha}\ - \ \delta k\ - \ {c\hat{}}_{\theta}^{c}(k) \right\rbrack$

• 一阶决策残差：

${err}_{c,\theta}(k)\ = \ (u\prime)^{- 1}\left( \frac{\partial\ {V\hat{}}_{\theta}^{V}(k)}{\partial k} \right)\ - \ {c\hat{}}_{\theta}^{c}(k)$

2. 架构设计细节与数值调优工程实践

论文详细披露了14条兼具理论美感与工程实效的调优规范，为学术界提供了极佳的范式参考：

（结构参数标准校准）：设相对风险厌恶系数 $\gamma = 2$，时间贴现率 $\rho = 0.04$，生产率水平 $A = 0.5$，资本产出弹性 $\alpha = 0.36$，资本折旧率 $\delta = 0.05$。解析求得模型内生稳态资本为 $k_{ss} = 2.95$。

（网络拓扑与隐藏单元）：选用 3 个隐含层（Depth = 3），每层包含 64 个神经元（Width = 64）。实践表明，“层数稍多、每层神经元适中”的深而窄架构，在计算效率与泛化性上普遍优于“层数极少但极宽”的浅层架构。

（激活函数严格匹配光滑性）：全连接隐层统一采用双曲正切激活函数 $tanh(x)$。由于HJB残差必须通过自动微分精确求取一阶导数 $V\prime(k)$，而分段线性的ReLU的二阶导数处处为0，光滑的 $\tanh$ 能确保高阶梯度顺畅流动。

（状态定义域的经济学裁剪）：将资本评估区间严格限定在 $\lbrack k_{\_},\ k\bar{}\rbrack = \lbrack 0.1,\ 10\rbrack$，分别对应稳态资本的 3.4% 与 339%，既确保了超宽的宏观全局探索范围，又排除了没有经济学意义的虚假数值区域。

（物理先验约束参数化设计）：将消费决策强制参数化为产出比例形态：$c(k) = \sigma(net(k)) \cdot Y(k)$，其中 $\sigma( \cdot )$ 为 Sigmoid 函数，$Y(k) = Ak^{\alpha}$ 为总产出。该结构在数学上恒等保证消费 $c \in (0,\ Y(k))$，杜绝了数值迭代中可能出现的负消费或超额透支，并在低资本极端区域彻底避免了梯度消失。

（严格施加边际效用正向公理）：对网络输出的原始导数实施 Softplus 变换：$V\prime(k) = log(1 + e^{x}) > 0$，在架构层面原生内嵌了“效用随资本单调递增”的经济学公理。

（HJB 残差动态自适应归一化）：在计算损失时，将HJB残差除以动态因子 $1 + |\rho V(k)|$。由于低资本区域效用绝对值 $|u(c)|$ 与 $|V(k)|$ 极大，若不归一化，优化器会片面专注于拟合极低资本点，导致常态区域精度严重恶化。

（创新混合采样分布 Mixture Sampling）：每个轮次抽取 128 个训练点，由三部分独立分布混合构成：（1）以稳态 $k_{ss}$ 为中心、标准差为 1 的正态分布，强化稳态邻域精度；（2）在 $\lbrack 0.1,\ 10\rbrack$ 上的均匀分布，确保全局覆盖；（3）对数均匀分布（Log-uniform），使 30% 的样本点落在高曲率的低资本区间 $\lbrack 0.1,\ 1\rbrack$，集中攻克非线性最强区域。

（自适应优化与退火调度）：采用 Adam 优化算法，初始学习率设为 $10^{- 4}$，配合余弦退火（Cosine Annealing）学习率调度机制，在训练末期将步长优雅收缩至趋近于 0；同时施加阈值为 1.0 的梯度范数裁剪（Gradient Clipping），严防偶发梯度爆炸。

3. 数值结果与收敛精度评估

该算法在普通个人笔记本电脑上仅耗时约 1 分钟即可完成全部 100,000 个 Epoch 的训练。数值评估揭示了以下三个核心结论：

（1）与高精度有限差分基准高度吻合：论文图10将神经网络求得的价值函数 $V(k)$ 与消费政策函数 $c(k)$（虚线）同基于超密网格的传统有限差分法（Finite Difference Method, 实线）进行了对比，二者在整个定义域 $\lbrack 0.1,\ 6.0\rbrack$ 内完全重合，几乎无法分辨任何肉眼可见的偏差。

（2）残差呈阶梯式平稳收敛：论文图11记录了优化轨迹，随着训练推进，HJB残差与消费FOC残差从最初的 $10^{- 1}$ 迅速发生雪崩式下降，最终双双稳定收敛在 $10^{- 7}$ 的极低微观量级。

（3）欧拉方程误差优于千分之一基准：论文图12绘制了全定义域上的无量纲对数欧拉方程误差 $\log_{10}|1\ - \ c\tilde{}/c|$（其中 $c\tilde{} = \lbrack V\prime(k)\rbrack^{- 1/\gamma}$ 为根据边际价值倒推的消费）。结果显示，在绝大多数资本区间内，误差对数值稳定保持在 -4 至 -7 之间，远低于 -3 的学术公认高精度红线（即相对误差小于消费总量的 0.1%），仅在边界处出现极其微弱的网格自由法常见轻微边缘扰动。

六、全文结论的经济学与管理学启示总结

Jesús Fernández-Villaverde 教授在本文中不仅展示了一项前沿计算工具的成熟，更宣告了定量经济学在建模理念上的重大跃迁。突破“维度灾难”这一技术瓶颈，对于宏观经济治理、微观商业管理与公共政策制定产生了深远的影响：

七、精选核心参考文献

以下为论文中引用的奠基性理论文献、前沿计算经济学成果及机器学习经典文献（按作者姓氏英文字母升序排列）：

Abreu, Dilip, David Pearce, and Ennio Stacchetti. 1990. 'Toward a Theory of Discounted Repeated Games with Imperfect Monitoring.' Econometrica 58 (5): 1041–63.

Aggarwal, Charu C. 2023. Neural Networks and Deep Learning: A Textbook. 2nd ed. Springer.

Athey, Susan, and Guido W. Imbens. 2019. 'Machine Learning Methods That Economists Should Know About.' Annual Review of Economics 11: 685–725.

Auclert, Adrien, Bence Bardóczy, Matthew Rognlie, and Ludwig Straub. 2021. 'Using the Sequence-Space Jacobian to Solve and Estimate Heterogeneous-Agent Models.' Econometrica 89 (5): 2375–408.

Azinovic, Marlon, Luca Gaegauf, and Simon Scheidegger. 2022. 'Deep Equilibrium Nets.' International Economic Review 63 (4): 1471–525.

Barron, Andrew R. 1993. 'Universal Approximation Bounds for Superpositions of a Sigmoidal Function.' IEEE Transactions on Information Theory 39 (3): 930–45.

Bellman, Richard. 1957. Dynamic Programming. Princeton University Press.

Brumm, Johannes, and Simon Scheidegger. 2017. 'Using Adaptive Sparse Grids to Solve High-Dimensional Dynamic Models.' Econometrica 85 (5): 1575–612.

Cybenko, George. 1989. 'Approximation by Superpositions of a Sigmoidal Function.' Mathematics of Control, Signals and Systems 2 (4): 303–14.

Dell, Melissa. 2025. 'Deep Learning for Economists.' Journal of Economic Literature 63 (1): 5–58.

den Haan, Wouter J., and Albert Marcet. 1990. 'Solving the Stochastic Growth Model by Parameterizing Expectations.' Journal of Business and Economic Statistics 8 (1): 31–34.

Du, Simon, Jason Lee, Haochuan Li, Liwei Wang, and Xiyu Zhai. 2019. 'Gradient Descent Finds Global Minima of Deep Neural Networks.' In Proceedings of the 36th ICML, Vol. 97, 1675–85.

Fernández-Villaverde, Jesús, Samuel Hurtado, and Galo Nuño. 2023. 'Financial Frictions and the Wealth Distribution.' Econometrica 91 (3): 869–901.

Fernández-Villaverde, Jesús, Joël Marbet, Galo Nuño, and Omar Rachedi. 2024. 'Inequality and the Zero Lower Bound.' Journal of Econometrics 249 (C): 105819.

Fernández-Villaverde, Jesús, Galo Nuño, George Sorg-Langhans, and Maximilian Vogler. 2020. 'Solving High-Dimensional Dynamic Programming Problems Using Deep Learning.' Unpublished.

Fernández-Villaverde, Jesús, Juan Francisco Rubio-Ramírez, and Frank Schorfheide. 2016. 'Solution and Estimation Methods for DSGE Models.' In Handbook of Macroeconomics, Vol. 2, 527–724. North-Holland.

Goujon, Alexis, Arian Etemadi, and Michael Unser. 2024. 'On the Number of Regions of Piecewise Linear Neural Networks.' Journal of Computational and Applied Mathematics 441: 115667.

Hornik, Kurt, Maxwell Stinchcombe, and Halbert White. 1989. 'Multilayer Feedforward Networks Are Universal Approximators.' Neural Networks 2 (5): 359–66.

Jacot, Arthur, Seok Hoan Choi, and Yuxiao Wen. 2024. 'How DNNs Break the Curse of Dimensionality: Compositionality and Symmetry Learning.' Preprint, arXiv:2407.05664.

Judd, Kenneth L. 1998. Numerical Methods in Economics. MIT Press.

Kahou, Mahdi Ebrahimi, Jesús Fernández-Villaverde, Jesse Perla, and Arnav Sood. 2021. 'Exploiting Symmetry in High-Dimensional Dynamic Programming.' NBER Working Paper 28981.

Kingma, Diederik P., and Jimmy Ba. 2017. 'Adam: A Method for Stochastic Optimization.' Preprint, arXiv:1412.6980.

Maliar, Lilia, Serguei Maliar, and Pablo Winant. 2021. 'Deep Learning for Solving Dynamic Economic Models.' Journal of Monetary Economics 122: 76–101.

Poggio, Tomaso, Hrushikesh Mhaskar, Lorenzo Rosasco, Brando Miranda, and Qianli Liao. 2017. 'Why and When Can Deep-But Not Shallow-Networks Avoid the Curse of Dimensionality: A Review.' International Journal of Automation and Computing 14 (5): 503–19.

Prince, Simon J. D. 2023. Understanding Deep Learning. MIT Press.

Rumelhart, David E., Geoffrey E. Hinton, and Ronald J. Williams. 1986. 'Learning Representations by Back-Propagating Errors.' Nature 323 (6088): 533–36.

Soudry, Daniel, Elad Hoffer, Mor Shpigel Nacson, Suriya Gunasekar, and Nathan Srebro. 2018. 'The Implicit Bias of Gradient Descent on Separable Data.' Journal of Machine Learning Research 19: 1–57.

Stokey, Nancy L., Robert E. Lucas Jr., and Edward C. Prescott. 1989. Recursive Methods in Economic Dynamics. Harvard University Press.

Wilson, Andrew Gordon. 2025. 'Deep Learning Is Not So Mysterious or Different.' Preprint, arXiv:2503.02113.