人工智能算法的发展历程大致如下:
早期的国际象棋对弈程序是以搜索为基础的——程序尝试估计对手在给定棋步数量下可能走的棋步,并根据在几步棋内所能达到的最佳位置选择最佳棋步。这带来了[阿尔法-贝塔剪枝](https://en.wikipedia.org/wiki/Alpha%E2%80%93beta_pruning)搜索算法的发展。搜索策略在对局即将结束时效果很好,因为此时搜索空间对应的棋步可能性局限在非常小的范围内。然而在对局刚刚开始时,搜索空间非常巨大,需要考虑通过学习人类棋手之间的现有对局来改进算法。随后的实验采用了[基于案例的推理](https://en.wikipedia.org/wiki/Case-based_reasoning),即程序在知识库中寻找与当前棋局位置非常相似的案例,以此来决定自己的棋步。能够战胜人类棋手的现代对弈程序都基于神经网络和强化学习,程序通过长时间与自己的对弈,从自己的错误中学习,以此来学会下棋,这与人类学习下棋的过程非常相似。不过,计算机程序可以用更少的时间下更多的棋,因此学习速度更快。✅对人工智能玩过的其他游戏做一个小调研。同样,我们可以看到创建“会说话的程序”(可能通过图灵测试)的方法是如何变化的:早期的此类程序,如[Eliza](https://en.wikipedia.org/wiki/ELIZA),基于非常简单的语法规则,并将输入的句子重新表述为一个问题。Cortana、Siri或谷歌助手(Google Assistant)等现代助手都是混合系统,它们使用神经网络将语音转换成文本,并识别我们的意图,然后采用一些推理或明确的算法来执行所需的操作。未来,我们可以期待一个完整的基于神经网络的模型来独立处理对话。最近的GPT和Turing-NLG系列神经网络在这方面取得了巨大成功。
Machine Learning算法一般通过分析数据和推断模型来建立参数,或者通过与环境互动,获得反馈来学习。人类可以注释这些数据,也可以不注释,环境可以是模拟的,也可以是真实世界。Deep LearningDeep Learning是一种Machine Learning算法,它使用多层神经网络和反向传播(Backpropagation)技术来训练神经网络。该领域是几乎是由Geoffrey Hinton开创的,早在1986年,Hinton与他的同事一起发表了关于深度神经网络(DNNs-Deep Neural Networks)的开创性论文,这篇文章引入了反向传播的概念,这是一种调整权重的算法,每当你改变权重时,神经网络就会比以前更快接近正确的输出,可以轻松的实现多层的神经网络,突破了1966年Minsky写的感知器局限的魔咒。配图03:Geoffrey Hinton&Deep Neural NetworksDeep Learning在2012年才真正兴起,当时Hinton和他在多伦多的两个学生表明,使用反向传播训练的深度神经网络在图像识别方面击败了最先进的系统,几乎将以前的错误率减半。由于他的工作和对该领域的贡献,Hinton的名字几乎成为Deep Learning的代名词。数据是新的石油Deep Learning是一个革命性的领域,但为了让它按预期工作,需要数据。而最重要的数据集之一,就是由李飞飞创建的ImageNet。曾任斯坦福大学人工智能实验室主任,同时也是谷歌云AI/ML首席科学家的李飞飞,早在2009年就看出数据对Machine Learning算法的发展至关重要,同年在计算机视觉和模式识别(CVPR)上发表了相关论文。配图04:FeiFei Li&ImageNet
AI技术的发展历程和前沿技术点可以概括如下:[heading2]AI技术发展历程[content]1.早期阶段(1950s-1960s):专家系统、博弈论、机器学习初步理论2.知识驱动时期(1970s-1980s):专家系统、知识表示、自动推理3.统计学习时期(1990s-2000s):机器学习算法(决策树、支持向量机、贝叶斯方法等)4.深度学习时期(2010s-至今):深度神经网络、卷积神经网络、循环神经网络等[heading2]当前AI前沿技术点[content]1.大模型(Large Language Models):GPT、PaLM等2.多模态AI:视觉-语言模型(CLIP、Stable Diffusion)、多模态融合3.自监督学习:自监督预训练、对比学习、掩码语言模型等4.小样本学习:元学习、一次学习、提示学习等5.可解释AI:模型可解释性、因果推理、符号推理等6.机器人学:强化学习、运动规划、人机交互等7.量子AI:量子机器学习、量子神经网络等8.AI芯片和硬件加速