东吴证券_AI系列深度14期：深度学习如何开启AI第一次爆发？_20260805.pdf


汽车行业深度报告

我们以“七阶段一三大阶段”复盘深度学习架构演进，并据此建立“学术瓶颈一产品落地”的判断框架：架构通常先经历思想提出与基础架构搭建，再进入训练优化、结构改进、任务扩展，最后转向轻量化部署与复兴性迭代；对应可归并为范式确立、成长扩展、成熟高峰三大阶段。当高引用成果开始向轻量化、部署和复兴性改进集中，同时新增基础架构型突破减少，往往意味着既有架构进入短期学术瓶颈，产业应用窗口反而可能打开。

我们认为，数字AI底座模型发展路径已逐渐清晰、价值在于确定性，但其难以实现物理世界的建模闭环；我们认为物理AI将成为物理世界的AI解决方案，从而在AI的当前发展阶段成为增量更大的方向，智能驾驶作为最先跑通闭环的代表场景，我们认为应重点关注。

风险提示：技术迭代不及预期的风险，大模型厂商ARR增速放缓的风险，云服务商资本开支不及预期的风险，智能驾驶及机器人商业化落地不及预期的风险。

从CNN复盘看，AI1.0的主线是视觉感知能力的规模化成熟。LeNet奠定卷积、权值共享、池化与反向传播的工程组合，AlexNet以深层CNN、 GPU、ReLU、Dropout和数据增强形成技术共振，VGG、Inception、ResNet进一步推动网络深度化和结构优化；2017年后，MobileNet、EfficientNet、 ConvNeXt等成果更偏向轻量化、部署和现代化回潮，印证CNN在 2016一2017年前后进入成熟与高峰阶段。

AI第一次爆发的本质，是连接主义路线在数据、算力与可训练深层网络算法共同成熟后的复兴。本篇所称“AI第一次爆发”，主要指2012年前后深度学习由学术突破走向规模化应用的技术周期。不同于传统机器学习依赖人工设计特征，深度学习通过多层向量表示自动学习世界结构；AlexNet在ImageNet上将top-5错误率由约 26%降至约 15%，成为AI1.0时代由学术验证进入产业扩散的标志性拐点。

AI系列深度14期：深度学习如何开启AI第一次爆发？

增持（维持）

投资要点

从RNN复盘看，语言序列建模也在同一时间窗口触及递归范式上限。 Jordan/Elman确立隐藏状态记忆思想，BPTT奠定训练基础，LSTM/GRU缓解长程依赖，Seq2Seq与Bahdanau Attention推动机器翻译工程化；但串行计算、长距离衰减和固定向量瓶颈限制了规模化扩张。2017年 Transformer以自注意力替代循环，正对应RNN成熟后下一代架构切换的历史节点。

2026年08月05日

证券分析师 黄细里

执业证书：S0600520010001

021-60199793

huangxl@dwzq.com.cn

行业走势


相关研究

《AI系列深度13期：世界模型如何实现？》

2026-08-05

《AI系列深度12期：从模块化到端到端》

2026-08-04


内容目录

1. 复盘 AI 第一次爆发：深度学习如何开启 AI1.0时代 ...4

1.1. AI 第一次爆发是传统机器学习到深度学习的跨越 ...4

1.2. 2012 年 AlexNet 发布标志着深度学习第一次爆发 ...5

1. AI1.0 时代典型架构复盘 ...6

2.1. CNN 技术发展复盘 ...7

2.2. RNN 技术发展复盘 ...10

1. AI 第一次爆发的落地局限 ...13

1. 风险提示 ...13


图表目录

图1： 深度学习通用学术成果时间轴...5

图2： AlexNet诞生前算法、算力、数据三要素发展时间轴...6

图3： CNN关键学术派系与技术演进时间轴...9

图4： CNN重要论文——年份与引用量...10

图5： RNN关键学术派系与技术演进时间轴...12

图6： RNN重要论文——年份与引用量...13

表1：传统机器学习与深度学习对比...4

表2：深度学习架构发展七阶段与CNN示例...7

表3：CNN重要节点论文梳理...8

表4：RNN重要节点论文梳理...11


1. 复盘AI第一次爆发：深度学习如何开启AI1.0时代

1.1. AI第一次爆发是传统机器学习到深度学习的跨越

早期人工智能主要沿两条路线演进：一是以逻辑推理和知识表示为核心的符号主义，二是以神经网络和数据驱动学习为核心的连接主义。深度学习的兴起，本质上是连接主义在数据、算力和算法条件成熟后的再度繁荣。传统AI更强调由人类预设符号与规则并据此推理，深度学习则转向让机器从数据中学习高维表示，并在可学习的向量空间中完成推理与判断。

深度学习的核心在于通过多层向量表示学习复杂世界结构，而非依赖人工设计特征。以图像识别为例，传统机器学习通常需要工程师先设计边缘、角点、纹理、形状等特征，再交由分类器识别；深度学习则直接从原始数据中逐层学习表示：底层捕捉边缘，中层学习局部形状与物体部件，高层形成对完整物体的抽象刻画，即表示学习。下表对两者的根本差异进行概括。

表1：传统机器学习与深度学习对比

对比维度

传统机器学习

深度学习

特征获取

人工设计特征

自动学习特征

模型结构

通常较浅

多层非线性结构

依赖要素

依赖领域专家

更依赖数据、计算和通用学习算法

训练范式

特征提取与分类常分开

端到端联合训练

数据来源：《Deep Learning》，东吴证券研究所

因此，深度学习的成功并非单一变量驱动，而是大数据、强计算能力与可训练深层网络算法三项条件同步成熟的结果。

从技术演进脉络看，深度学习体系的成熟并非单点突破，而是多项跨架构底层技术长期迭代的结果。本报告梳理1974—2019年深度学习领域的核心技术成果：反向传播算法奠定端到端训练机制；沿时间反向传播、梯度消失与爆炸问题的系统性论证，以及长程依赖瓶颈的提出，共同刻画了深层网络与循环网络的关键训练难题；随后，LSTM门控机制、无监督预训练范式、ReLU激活函数、Xavier/He参数初始化方法、AdaGrad/Adam/AdamW等优化器、Dropout正则化、Batch/Layer/RMSNorm等归一化技术、注意力机制、ResNet残差连接及Transformer自注意力架构陆续落地，持续改善深层网络的训练效率与收敛表现。上述成果具有较强跨架构适配性，可应用于MLP、CNN、RNN、Transformer等主流网络形态，共同构成深度学习技术体系的公共底座。我们按技术重要性对相关成果进行时间维度梳理。其中，核心成果在2010年后密集出现，为深度学习的规模化爆发与产业应用扩展提供了关键技术支撑。


图1：深度学习通用学术成果时间轴


数据来源：《Learning Representations by Back-Propagating Errors》，《Attention Is All You Need》等其他文献，东吴证券研究所

1.2. 2012年AlexNet发布标志着深度学习第一次爆发

2012年，AlexNet在涵盖约100万张图像、1000个类别的ImageNet数据集上取得突破，将ILSVRC口径下的top-5错误率由约 26%降至约 15%，成为深度学习在视觉任务上实现代际跃迁的标志性拐点。此后，CNN快速确立其在图像识别、目标检测、图像分割、人脸识别等主流视觉任务中的核心地位。该性能突破来自算力、算法与训练方法的协同优化，主要体现在四方面：GPU并行训练显著提升算力利用效率，为深层网络规模化训练扫清工程障碍；ReLU激活函数缓解深层网络梯度衰减问题，加快模型收敛；Dropout正则化降低过拟合风险，改善泛化表现；数据增强通过样本形变扩充训练集规模，提升模型鲁棒性。

AlexNet的突破，是算法体系、算力支撑与数据基础长期积累后在2012年形成技术共振的结果。算法层面，反向传播理论（1974/1986）、梯度消失问题系统分析（1991）、无监督预训练范式（2006）、ReLU激活函数（2010）等成果持续迭代，逐步解决深层网络“能否训练”与“训练是否有效”的核心问题；算力层面，GPU算力沿工程化路径持续落地：2004年GPU初步用于神经网络计算，2006年GPU加速CNN卷积运算与CUDA架构发布，确立GPU通用并行计算平台定位，2009年GPU支撑大规模深度无监督学习，2011年快速GPU-CNN方案推出，使深层模型规模化训练具备工程可实现性；数据层面，2009年ImageNet大规模层级化人工标注图像数据库发布，为视觉领域提供统一


的超大规模训练与评测基准。三项要素此前逐步汇聚，并最终共同促成 AlexNet 引爆深度学习。

图2：AlexNet诞生前算法、算力、数据三要素发展时间轴


数据来源：《ImageNet:A Large-Scale Hierarchical Image Database》，《ImageNet

Classification with Deep Convolutional Neural Networks》等其他文献，NVIDIA官网，东吴证券研究所

2. AI1.0时代典型架构复盘

在AI1.0时代，CNN作为旗帜性架构引领了深度学习第一轮爆发，主要体现在三个维度。其一，技术验证维度：2012年ImageNet大规模视觉识别挑战赛中，CNN方案以显著性能优势超越传统手工特征方法，首次在大规模视觉识别任务中验证深层卷积网络的代际差异，推动深度学习路线获得学术界与产业界共识。其二，范式确立维度：CNN构建“端到端训练、层级化表示学习”的核心范式，应用场景从基础图像分类快速延伸至目标检测、语义分割、人脸识别、医学影像、自动驾驶等视觉赛道，成为计算机视觉领域通用骨干网络。其三，产业带动维度：CNN技术成熟落地同步拉动GPU算力（以英伟达为代表）、深度学习开发框架、数据标注服务等上下游环节成长，奠定AI1.0时代的产业基础设施格局。

基于对CNN与RNN论文的系统复盘，深度学习架构演进大体可划分为七个阶段： $ \textcircled{1} $思想提出， $ \textcircled{2} $基础架构， $ \textcircled{3} $训练和优化赋能， $ \textcircled{4} $结构精细化改进， $ \textcircled{5} $任务扩展， $ \textcircled{6} $轻量化与部署， $ \textcircled{7} $复兴性改进。上述七个阶段进一步可归并为三大阶段： $ \textcircled{1} $ $ \textcircled{2} $对应范式确立阶段， $ \textcircled{3} $ $ \textcircled{4} $ $ \textcircled{5} $对应成长与扩展阶段， $ \textcircled{6} $ $ \textcircled{7} $对应成熟与高峰阶段。

若某一架构在若干年份内的高引用论文中，成熟与高峰阶段（轻量化与部署、复兴性改进）论文占比显著提升，通常说明该架构在学术进展上进入短期瓶颈期。这一节点具有两层含义：一方面，架构逐步成熟，产品落地窗口有望开启；另一方面，既有架构的新增突破趋缓，需关注学术界是否出现下一代架构，并可能带来任务解决能力的跨越


式提升。

表2：深度学习架构发展七阶段与CNN示例

大阶段

发展阶段

阶段说明

CNN发展过程举例

范式确立

1. 思想提出

提出架构的核心思想与启发来源，尚未形成可计算模型。

生物视觉启发(Hubel&Wiesel,1962)：感受野、简单/复杂细胞。

范式确立

1. 基础架构

将思想转化为可计算、可训练的基础网络结构。

Neocognitron(1980)、LeNet(1989/1998)建立卷积一池化一反向传播原型。

成长与扩展

1. 训练和优化赋能

依靠算力、激活函数、正则化等使深层网络真正可训练。

AlexNet(2012):GPU+ReLU+Dropout+数据增强;BatchNorm等。

成长与扩展

1. 结构精细化改进

在可训练基础上优化深度、连接方式与特征流动。

VGG/Inception/ResNet深度化;DenseNet/SENet/ResNeXt结构创新。

成长与扩展

1. 任务扩展

从单一任务扩展到检测、分割等多种下游任务。

FCN/U-Net语义分割;R-CNN/YOLO目标检测。

成熟与高峰

1. 轻量化与部署

面向移动端、嵌入式与实际部署，平衡精度一参数量一速度。

MobileNet(2017)、EfficientNet(2019)。

成熟与高峰

1. 复兴性改进

在新一代架构冲击下，借鉴新方法重新现代化。

ConvNeXt(2022)、RepVGG(2021)、RepLKNet(2022)。

数据来源：《ImageNet Classification with Deep Convolutional Neural Networks》，《Deep Residual Learning for Image Recognition》等其他文献，东吴证券研究所

2.1. CNN技术发展复盘

为复盘CNN从兴起到Transformer时代的关键指引信号，我们系统梳理了1980一 2022年CNN领域30篇核心论文。在此基础上，我们将CNN的发展阶段概括为：生物视觉启发 $ \rightarrow $ Neocognitron $ \rightarrow $ LeNet $ \rightarrow $ ImageNet/AlexNet爆发 $ \rightarrow $ VGG/Inception/ResNet深度化 $ \rightarrow $ DenseNet/SENet/ResNeXt结构创新 $ \rightarrow $ MobileNet/EfficientNet轻量化 $ \rightarrow $ FCN/U-Net/R-CNN/YOLO等任务扩展 $ \rightarrow $ ConvNeXt等与新技术结合的现代CNN回潮。

CNN的核心发展节点及代表论文中，LeNet（LeCun，1989/1998）、AlexNet、VGG、 GoogLeNet/Inception与ResNet五项成果，均为CNN领域里程碑论文：LeNet首次将卷积、权值共享、池化与反向传播工程化，并应用于字符识别；AlexNet以深层 CNN+GPU+ReLU+Dropout在ImageNet上将top-5错误率由约 26%降至约 15%，直接引爆深度学习；VGG验证了“加深网络”的有效性；GoogLeNet通过多尺度Inception结构提升计算利用率；ResNet以残差连接破解深层退化难题，并成为后续视觉骨干乃至 Transformer的重要基础范式。


表3：CNN重要节点论文梳理

发展节点

关键学术产物/代表论文

核心贡献

在CNN发展中的位置

1. 生物视觉启发

Hubel&Wiesel,Receptive fields,binocular interaction and functional architecture in the cat's visual cortex,1962

提出视觉皮层中局部感受野、简单细胞与复杂细胞等机制，为“局部连接、层级特征提取、位置不变性”提供神经科学启发。

CNN的思想源头：从生物视觉系统获得“局部一层级一不变性”的基本逻辑。

1. Neocognitron

Fukushima,Neocognitron:A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position,1980

构建多层级视觉识别模型，通过类似S-cells/C-cells的结构实现特征提取与位移不变性。

CNN的直接前身，把生物视觉启发转化为可计算的层级网络结构。

1. LeNet

LeCun et al.,Backpropagation Applied to Handwritten Zip Code Recognition,1989LeCun et al.,Gradient-Based Learning Applied to Document Recognition,1998

将卷积、权值共享、池化与反向传播结合用于手写数字与文档识别；1998年LeNet-5成为早期CNN工程化应用的经典模型。

CNN从“理论原型”进入“实际识别系统”，但受当时算力、数据规模限制，影响力主要集中在字符识别。

1. ImageNet/AlexNet爆发

Russakovsky et al.,ImageNet Large Scale Visual Recognition Challenge,2015Krizhevsky,Sutskever&Hinton,ImageNet Classification with Deep Convolutional Neural Networks,2012

ImageNet提供大规模视觉基准；AlexNet通过深层CNN、GPU训练、ReLU、Dropout与数据增强在ImageNet上取得突破。

CNN的“爆发点”：证明深层CNN在大规模视觉识别上可以压倒传统特征工程方法。

1. VGG/Inception/ResNet深度化

Simonyan&Zisserman,Very Deep Convolutional Networks...,2014/2015Szegedy et al.,Going Deeper with Convolutions,2015He et al.,Deep Residual Learning for Image Recognition,2016

VGG用连续3×3卷积验证“加深网络”的有效性；Inception通过多尺度分支提高计算利用率；ResNet用残差连接解决深层退化，可训练百层以上网络。

CNN从“能用”走向“极深、极强”，ResNet尤其成为后续视觉骨干网络的标准范式。

1. DenseNet/SENet/ResNeXt结构创新

Huang et al.,DenseNet,2017;Xie et al.,ResNeXt,2017;Hu et al.,Squeeze-and-Excitation Networks,2018

DenseNet强调特征复用与密集连接；ResNeXt引入cardinality；SENet引入通道注意力对特征通道自适应重标定。

CNN进入“结构精细化”阶段：不只是加深，而是优化连接方式、特征流动与注意力机制。

1. MobileNet/EfficientNet轻量化

Howard et al.,MobileNets,2017;Tan&Le,EfficientNet,2019

MobileNet使用深度可分离卷积降低计算量；EfficientNet提出复合缩放策略，平衡深度、宽度与输入分辨率。

CNN从高精度竞赛模型转向移动端、嵌入式与实际部署，关注精度一参数量一速度的平衡。

1. FCN/U-Net/R-

Long et al.,FCN,2015;

FCN推向像素级语义分割;

CNN不再只是图像分类模


CNN/YOLO任务扩展

Ronneberger et al.,U-Net,2015;Girshick et al.,R-CNN,2014;Redmon et al.,YOLO,2016

U-Net强化编码器一解码器与跳跃连接;R-CNN系列推动目标检测;YOLO将检测转化为单阶段实时回归。

型,而成为检测、分割、医学图像、自动驾驶等视觉任务的通用骨干。

1. ConvNeXt等现代CNN回潮

Liu et al.,A ConvNet for the2020s,2022;Ding et al.,RepVGG,2021;Ding et al.,RepLKNet,2022

ConvNeXt借鉴Transformer时代训练策略与宏观结构重新现代化ResNet;RepVGG通过结构重参数化恢复简洁结构;RepLKNet探索大卷积核。

Transformer兴起后CNN并未消失,而是通过大核卷积、结构重参数化、现代训练策略重新获得竞争力。

数据来源：《Gradient-Based Learning Applied to Document Recognition》，《ImageNet Classification with Deep Convolutional Neural Networks》等其他文献，东吴证券研究所

从学术派系演进看，CNN从1962年生物视觉启发到2022年现代CNN回潮的演进。其主线可概括为：生物视觉启发→层级网络原型→可训练CNN→大数据爆发→深度化→结构创新→轻量化→多任务扩展→现代CNN回潮，清晰呈现各派系之间的师承关系、数据与思想支撑以及跨线衔接。

图3：CNN关键学术派系与技术演进时间轴


数据来源：《ImageNet Classification with Deep Convolutional Neural Networks》，《Deep Residual Learning for Image Recognition》等其他文献，东吴证券研究所

高引用的基础架构与训练类论文集中在2012一2016年，构成范式确立与成长扩展阶段高峰；2017年后，论文重心明显向轻量化/部署、结构精细化及复兴/后继迁移，且这些“成熟与高峰阶段”论文的引用量整体回落。当架构高引用论文向成熟与高峰阶段


集中，且新增高引用基础架构论文减少时，意味着CNN在2016一2017年前后进入短期学术瓶颈：一方面，CNN走向成熟，并推动人脸支付、安防、手机影像等应用密集落地；另一方面，2017年Transformer出现，也提示下一代架构已经开始成为新的关注重点。

图4：CNN重要论文——年份与引用量


数据来源：《Deep Residual Learning for Image Recognition》，《Very Deep Convolutional Networks for Large-Scale Image Recognition》等其他文献，东吴证券研究所

2.2. RNN技术发展复盘

RNN技术发展复盘的思路与CNN部分类似。为复盘RNN从兴起到Transformer时代的关键指引信号，我们系统梳理了1943一2023年RNN领域30篇核心论文。在此基础上，我们将RNN的发展阶段概括为：神经反馈与动态记忆思想萌芽 $ \rightarrow $循环动力系统与联想记忆 $ \rightarrow $Simple RNN序列建模成型 $ \rightarrow $训练算法建立与长程依赖瓶颈 $ \rightarrow $LSTM/GRU门控机制突破 $ \rightarrow $深层化/双向化/端到端序列识别 $ \rightarrow $Seq2Seq/Attention-RNN推动NLP爆发 $ \rightarrow $Transformer替代与循环记忆思想融合。

我们梳理了RNN的核心发展节点及代表论文。其中，以红色加粗标注的Jordan Network、Elman Network、BPTT、长期依赖学习困难、LSTM、Seq2Seq、Bahdanau Attention与GNMT八篇论文，均为RNN领域里程碑成果：Jordan/Elman确立SimpleRNN的序列建模范式；BPTT奠定循环网络训练基础，Bengio等系统揭示长程依赖瓶颈；LSTM以门控记忆机制破解该瓶颈，使长期依赖建模走向实用；Seq2Seq与Bahdanau Attention开创序列到序列与注意力范式；GNMT代表RNN+Attention机器翻译的工程化高峰，也是Transformer出现前的主流路线。


表4：RNN重要节点论文梳理

发展节点

关键学术产物/代表论文

核心贡献

在RNN发展中的作用

1. 神经反馈与动态记忆思想萌芽

McCulloch&Pitts,A Logical Calculus of the Ideas Immanent in Nervous Activity,1943;Amari,Learning Patterns and Pattern Sequences by Self-Organizing Nets of Threshold Elements,1972

将神经元抽象为含反馈回路的阈值逻辑单元,并研究阈值网络学习模式与模式序列,使网络能形成稳定状态与状态转移。

为RNN的反馈连接、状态记忆与动态系统视角提供思想源头。

1. 循环动力系统与联想记忆

Hopfield,Neural Networks and Physical Systems with Emergent Collective Computational Abilities,1982;Ackley,Hinton&Sejnowski,Boltzmann Machines,1985

提出具能量函数与吸引子动力学的循环网络,可用于内容寻址记忆、模式恢复与概率建模。

使循环网络成为联想记忆与优化计算的重要模型,确立RNN的动力系统路线。确立SimpleRNN/vanillaRNN的基本范式,是现代序列RNN的经典起点。

1. SimpleRNN序列建模成型

MichaelI.Jordan,Serial Order/Jordan Network,1986JeffreyL.Elman,Finding Structure in Time/Elman Network,1990

通过输出/隐藏状态反馈形成上下文记忆,使网络能够表示序列顺序与时间结构。

奠定RNN训练算法基础,并直接催生LSTM等门控记忆结构。

1. 训练算法建立与长程依赖瓶颈

Williams&Zipser,RTRL,1989Werbos,Backpropagation Through Time/BPTT,1990Bengio,Simard&Frasconi,Learning Long-Term Dependencies with Gradient Descent is Difficult,1994

BPTT/RTRL使RNN可系统训练,同时揭示梯度消失/爆炸与长程依赖难题。

RNN史上最关键的架构突破,使长期依赖建模从理论可能走向实际可用。

1. LSTM/GRU门控机制突破

Hochreiter&Schmidhuber,Long Short-Term Memory/LSTM,1997Gerset al.,Learning to Forget,2000;Choet al.,GRU,2014

引入记忆单元与门控机制,使误差信号在较长时间范围稳定传播;forget gate、GRU等不断精细化门控结构。

将RNN从一维时间序列扩展到端到端识别的实用化与高性能阶段。确立通用序列到序列范式,推动翻译/摘要/对话爆发,是Attention走向主流的关键起

1. 深层化/双向化/端到端识别

Schuster&Paliwal,BRNN,1997;Graveset al.,CTC,2006;Graves,RNN-T,2012;Graveset al.,DeepRNNforSpeech,2013

双向与深层结构结合CTC、RNN-T等无对齐训练目标,使RNN进入语音、手写等端到端序列识别。

1. Seq2Seq/Attention-RNN推动NLP爆发

Sutskever,Vinyals&Le,Sequence to Sequence Learning,2014Bahdanau,Cho&Bengio,NMTby Jointly Learning to Align and Translate,2014Luonget al.,2015;Wu et al.,GNMT,2016

encoder-decoder框架与注意力机制突破固定长度向量瓶颈,并构建工业级神经机器翻译系统。


1. Transformer替代与循环记忆思想融合

Vaswani et al.,Attention Is All You Need,2017;Dai et al.,Transformer-XL,2019;Gu et al.,S4,2021;Peng et al.,RWKV/Gu&Dao,Mamba,2023

Transformer以self-attention取代循环成为NLP主流;recurrence/状态记忆思想以segment recurrence、状态空间模型等形式延续。

标志主流架构从RNN转向Transformer，同时RNN的状态/记忆思想在长序列建模中复兴。

数据来源：《Long Short-Term Memory》，《Sequence to Sequence Learning with Neural Networks》等其他文献，东吴证券研究所

从学术派系演进看，RNN从1943年神经反馈思想到2023年状态空间模型复兴的演进主线为：神经反馈思想 $ \rightarrow $动力系统与联想记忆 $ \rightarrow $SimpleRNN $ \rightarrow $训练算法与长程依赖瓶颈 $ \rightarrow $LSTM/GRU门控突破 $ \rightarrow $深层化/双向化/端到端识别 $ \rightarrow $Seq2Seq/Attention-RNN $ \rightarrow $ Transformer替代与记忆融合，直观展现门控、注意力与递归记忆思想的传承及跨源渗透。

图5：RNN关键学术派系与技术演进时间轴


主线脉络 神经反馈萌芽 → 动力系统与联想记忆 → Simple RNN → 长程依赖瓶颈 → LSTM门控 → 深层化与端到端 → Seq2Seq / Attention → Transformer 替代

资料来源，各发展节点代表论文，东吴证券研究所整理

数据来源：《Long Short-Term Memory》，《Neural Machine Translation by Jointly Learning to Align and Translate》等其他文献，东吴证券研究所

我们对RNN重要论文的发表年份与引用量进行统计。高引用基础架构成果集中在1997年（LSTM）与2014年（Seq2Seq、Bahdanau Attention）两个高峰；2016年后，论文重心转向GNMT等工程化部署，以及Transformer-XL、S4、RWKV、Mamba等复兴/


后继方向，引用量整体下移。这表明RNN在2016一2017年前后同样进入成熟与瓶颈阶段：Attention-RNN翻译走向工程化高峰的同时，2017年Transformer直接以self-attention取代循环，成为新一代主流架构。RNN的发展历程也一定程度证明了“成熟与高峰阶段论文占比提高→架构进入瓶颈→下一代架构带来跨越”的规律。

图6：RNN重要论文一一年份与引用量


数据来源：《Long Short-Term Memory》，《Neural Machine Translation by Jointly Learning to Align and Translate》等其他文献，东吴证券研究所

3. AI第一次爆发的落地局限

虽然AI1.0时代的技术出现了一定突破，但在产品落地方面仍有局限。我们认为， AI1.0使其模型能力主要停留在“单点感知能力提升”，尚未形成通用智能系统所需的理解、推理、交互和行动能力。因此，其输出通常需嵌入既有业务流程才能产生价值，难以独立成为用户反复使用的交互入口，天然限制 0→1 新品类的创造。具体则表现为落地场景过于垂直或附属于已有产品，例如安防中的识别场景或人脸识别支付场景。

4. 风险提示

技术迭代不及预期的风险：数字AI、物理AI技术进展低于预期，任务或应用场景拓宽速度低于预期。

大模型厂商 ARR 增速放缓的风险：若客户增长、续费率或客单价不及预期，模型厂商 ARR 增速可能放缓。


云服务商资本开支不及预期的风险：若自由现金流承压，或AI算力需求及投资回报低于预期，云服务商可能下调资本开支。

智能驾驶及机器人商业化落地不及预期的风险：若产品可靠性、成本下降或用户需求低于预期，相关产品商业化进程可能放缓。


免责声明

东吴证券股份有限公司经中国证券监督管理委员会批准，已具备证券投资咨询业务资格。

本研究报告仅供东吴证券股份有限公司（以下简称“本公司”）的客户使用。本公司不会因接收人收到本报告而视其为客户。在任何情况下，本报告中的信息或所表述的意见并不构成对任何人的投资建议，本公司及作者不对任何人因使用本报告中的内容所导致的任何后果负任何责任。任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效。

在法律许可的情况下，东吴证券及其所属关联机构可能会持有报告中提到的公司所发行的证券并进行交易，还可能为这些公司提供投资银行服务或其他服务。

市场有风险，投资需谨慎。本报告是基于本公司分析师认为可靠且已公开的信息，本公司力求但不保证这些信息的准确性和完整性，也不保证文中观点或陈述不会发生任何变更，在不同时期，本公司可发出与本报告所载资料、意见及推测不一致的报告。

本报告的版权归本公司所有，未经书面许可，任何机构和个人不得以任何形式翻版、复制和发布。经授权刊载、转发本报告或者摘要的，应当注明出处为东吴证券研究所，并注明本报告发布人和发布日期，提示使用本报告的风险，且不得对本报告进行有悖原意的引用、删节和修改。未经授权或未按要求刊载、转发本报告的，应当承担相应的法律责任。本公司将保留向其追究法律责任的权利。

东吴证券投资评级标准

投资评级基于分析师对报告发布日后6至12个月内行业或公司回报潜力相对基准表现的预期（A股市场基准为沪深300指数，香港市场基准为恒生指数，美国市场基准为标普 500指数，新三板基准指数为三板成指（针对协议转让标的）或三板做市指数（针对做市转让标的），北交所基准指数为北证50指数），具体如下：

公司投资评级：

买入：预期未来6个月个股涨跌幅相对基准在 15%以上；

增持：预期未来6个月个股涨跌幅相对基准介于 5%与 15%之间；

中性：预期未来6个月个股涨跌幅相对基准介于-5%与 5%之间；

减持：预期未来6个月个股涨跌幅相对基准介于-15%与-5%之间；

卖出：预期未来6个月个股涨跌幅相对基准在-15%以下。

行业投资评级：

增持：预期未来6个月内，行业指数相对强于基准 5%以上；

中性：预期未来6个月内，行业指数相对基准-5%与 5%；

减持：预期未来6个月内，行业指数相对弱于基准 5%以上。

我们在此提醒您，不同证券研究机构采用不同的评级术语及评级标准。我们采用的是相对评级体系，表示投资的相对比重建议。投资者买入或者卖出证券的决定应当充分考虑自身特定状况，如具体投资目的、财务状况以及特定需求等，并完整理解和使用本报告内容，不应视本报告为做出投资决策的唯一因素。

东吴证券研究所

苏州工业园区星阳街5号

邮政编码：215021

传真： （0512）62938527

公司网址： http://www.dwzq.com.cn