点击上方“
图灵人工智能
”,选择“星标”公众号
您想知道的人工智能干货,第一时间送达
版权声明
转自
滹沱工作室,
版权属于原作者,仅用于学术分享,如有侵权留言删除
符号主义认为智能源于
符号操作与逻辑推理
,因此可以
通过规则系统模拟人类思维
。
1956
年,
麦卡锡、纽厄尔、西蒙等人在
达特茅斯会议
上确立了符号主义纲领。
专家系统时代(
1980-1987
)是符号主义思想在人工智能领域的高光时刻,其核心特征是
通过知识库(
Knowledge Base
)与规则引擎(
Rule Engine
)模拟人类专家的决策过程
(下图为制图专家系统流程图)。专家系统证明
符号操作可模拟人类专家的高阶推理能力
,此时知识表示与逻辑推理成为
AI
研究的核心课题。不过,专家系统在
知识获取时遇到了瓶颈
,人工规则难以应对开放世界的复杂性。
专家系统的暂时失利间接推动了
统计学习方法
的兴起(下图为逻辑斯蒂回归模型的思维导图)。同时,现代人工智能系统仍然借鉴专家系统的透明推理机制,专家系统知识表示的思想也在语义网时代的知识图谱中得以延续。
连接主义的复兴标志着人工智能研究
从符号主义的逻辑推理转向基于神经网络的仿生学习
。这一思想流派认为,智能的根源在于大脑神经元之间的连接与学习机制,而非显式的符号操作。通过模拟生物神经网络的结构与功能,连接主义在数据驱动的范式下取得了革命性突破,但
也面临解释性与资源依赖的挑战
。
1980
年代个人计算机普及,
算力提升支持复杂模型训练
,数字化进程加速,为神经网络训练提供燃料。反向传播算法(
1986
)首次解决了多层神经网络(
MLP
)的训练问题(下图为反向传播算法示意图),突破了单层感知机局限,为深度学习奠定了数学基础,但受限于算力,
20
年后才实现了大规模应用。
卷积神经网络(
CNN
)(
1989-2012
)不断进化,
ReLU
激活函数缓解了梯度消失,
GPU
的并行计算
加速了训练过程,
Dropout
正则化防止了过拟合(下图为
CNN
网络的流程图)。
在
ImageNet
的竞赛中,
ResNet
(
2015
)
(
下图为网络图
)
的错误率从
26%
降至
3.57%
,
超越人类水平
,引爆了深度学习革命。
Transformer
架构
(
2017-
)
取代
RNN
的序列处理模式,
自注意力机制
通过捕捉长距离依赖,提升了自然语言理解能力,
并行化训练
则大幅提高模型效率(下图为
Transforme
架构图)。
下图为
Transformer
与
Tranfer CNN
协同
,
解决遥感图像的目标检测流程图。
连接主义的复兴实现了
计算机视觉的革命,
YOLO
系列(
2016-
)实现了实时高精度检测,应用于自动驾驶。复兴也推动了
自然语言处理的范式转移,
Seq2
模型(
2014
)取代了基于规则的翻译系统,
GPT-4
(
2023
)则可以完成写作、编程、推理等多任务,
逼近通用智能
。同时,连接主义的复兴完成了
跨学科渗透,在生物医学
中,
AlphaFold
(
2020
)成功预测蛋白质结构,加速了药物研发。在
艺术创作中,
Stable Diffusion
(
2022
)能够生成高质量图像,不过引发了版权与伦理争议(下图为
Stable Diffusion
稳定扩散模型的整体架构)。
连接主义也遇到了
未解的难题,一是黑箱模型与解释性危机问题,
神经网络决策过程不透明,医疗、司法等高风险领域应用受阻。二是对于
数据与算力的依赖,
大模型需万亿级
token
训练,中小企业难以参与竞争。训练
GPT-3
耗电约
1,287
兆瓦时,相当于
120
个美国家庭的年用电量。三是
泛化能力局限。对抗样本中的
轻微扰动即可误导模型(如熊猫分类为长臂猿),
分布外泛化
则使模型在训练数据分布外的场景中表现骤降。
无论如何,连接主义实现了对智能本质的重构。
过去传统科学依赖公式推导,而连接主义的人工智能科学则依赖数据拟合。
它主张
智能是简单单元通过非线性交互涌现的复杂行为,而非预设规则,从而否定了“符号先验”,强调了“学习创造知识”,实现了
科学范式的转型
,
从第一性原理转向了数据驱动
。
连接主义的复兴不仅是技术的胜利,更是对人类认知方式的挑战。尽管其黑箱性与资源依赖饱受争议,但
神经网络的强大学习能力已不可逆地重塑了科学、产业与社会
。未来的智能系统或将走向
混合架构
——
以连接主义为骨骼,符号主义为神经,行为主义为四肢
——正如
人脑本身,既是生物神经网络,也是文化符号载体,更是环境交互的产物
。
神经符号系统是人工智能领域对符号主义与连接主义百年争议的回应,旨在通过结合神经网络的感知能力与符号系统的逻辑推理,构建
更接近人类智能的通用模型
。这一方向不仅突破了传统范式的局限,也为可解释性、鲁棒性和复杂推理能力的提升提供新路径。
神经符号系统的理论基础源于认知
科学的“双系统理论”(
System 1
和
System 2
)
。
System 1
(神经网络主导)能够快速、直觉式的感知与模式识别,如深度学习在图像分类中的应用。
System 2
(符号系统主导),能够慢速、逻辑化的推理与规划,如专家系统的规则引擎。神经符号系统的目标是整合两者的优势,例如在自然语言理解中,既需捕捉语义的模糊性(神经),又需依赖知识库进行逻辑推理(符号)。通过知识表示与推理的融合,实现连续与离散空间的映射。“准符号空间”
将神经网络的向量表示转化为可解释的符号结构
(如逻辑表达式或知识图谱),同时保留了可微性,以支持反向传播。在训练中,实现了
动态知识注入
,通过引入领域知识(如医疗规则或法律条款),增强模型的推理能力。
Google
的搜索引擎优化与推荐系统(下图为
GoogleNet
网络结构图)就采用了
知识图谱
+
深度学习的算法实现。
Neuro-Symbolic Concept Learner
就将符号逻辑嵌入到了神经网络(
MIT, 2020
)。