0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心
发布

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

深度学习是如何从概念发展为现实的?

EdXK_AI_News 来源:未知 作者:胡薇 2018-05-31 10:06 次阅读

在二十世纪五十年代就存在深度学习的概念了。麦肯锡全球研究院发文简要回顾了深度学习是如何从概念发展为现实的,而使之实现的关键人物又是谁。

文章表示,要书写深度学习的完整历史还为时过早,有些细节尚存在争议,但是我们已经能追寻其公认的起源概貌,虽然还不完整,也能确定一些先驱者了。沃伦·麦卡洛克(WarrenMcCulloch)和沃尔特·皮茨(WalterPitts)就名列其中。他们早在1943年就提出了人工神经元,这是大脑中“神经网络”的计算模型。还有美国斯坦福大学(Stanford University)的伯纳德·威德罗(BernardWidrow)和泰德·霍夫(Ted Hoff),他们在二十世纪五十年代末期开发了一种神经网络应用,降低电话线中的噪音。

同一时期,美国心理学家弗兰克·罗森布拉特(FrankRosenblatt)引入了“感知器”这种设备的概念,vwin 大脑的神经结构,并展现出学习的能力。后来,美国麻省理工学院(MIT)的马文·明斯基(Marvin Minsky)和西摩·帕普特(SeymourPapert)在其1969年出版的书《感知器》中,用数学的方法展示了感知器只能进行很基础的任务,所以这项研究暂停。他们的书还讨论了训练多层神经网络的难点。

1986年,加拿大多伦多大学(University of Toronto)的杰弗里·辛顿(Geoffrey Hinton)与同事大卫·鲁姆哈特(DavidRumelhart)和罗纳德·威廉姆斯(Ronald Williams)发表了目前很著名的反向传播训练算法,解决了这一训练难题,但有些业内人士指出芬兰数学家赛普·林纳因马(SeppoLinnainmaa)早在二十世纪六十年代就已经发明了反向传播。美国纽约大学(New York University)的杨立昆(Yann LeCun)率先将神经网络应用于图像识别任务,他在1998年发表的文章中定义了卷积神经网络,这种神经网络模拟人类的视觉皮层。同期,约翰·霍普菲尔德(JohnHopfield)推广了“霍普菲尔德”网络,这是首个循环神经网络。1997年,尔根·施米德休伯(JürgenSchmidhuber)和赛普·霍克赖特(Sepp Hochreiter)进一步扩展了该网络,他们引入了长短期记忆模型(long-short termmemory, LSTM),极大地提高了循环神经网络的效率和实用性。2012年,辛顿和他的学生在著名的 ImageNet 竞赛中取得了突出的结果,彰显了深度学习的强大。该竞赛以李飞飞等人整理的数据集为基础。与此同时,杰弗里·迪恩(JeffDean)和吴恩达(Andrew Ng)正在谷歌大脑(Google Brain)进行大规模图像识别方面的突破性工作。

深度学习也增强了强化学习这一已存在的领域,理查德·萨顿(Richard Sutton)就是其中一位顶尖的研究人员,他牵头让谷歌DeepMind开发的系统取得了多次棋类比赛的胜利。2014年,伊恩·古德费洛(IanGoodfellow)发表了一篇关于生成式对抗网络的文章,这种网络与强化学习已成为了该领域近期多个研究的焦点。

人工智能(AI)能力的持续进步让斯坦福大学启动了“人工智能百年研究”(One Hundred Year Study on ArtificialIntelligence)项目。该项目由微软研究院院长埃里克·霍维茨(EricHorvitz)发起,是基于他和微软研究院的同事所进行的长期研究。过去几年里,众多研究先驱的研究结果和指导让我们受益良多。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5414

    浏览量

    120415

原文标题:深度学习的起源与先行者

文章出处:【微信号:AI_News,微信公众号:人工智能快报】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    深度学习中的时间序列分类方法

    发展,基于 深度 学习的TSC方法逐渐展现出其强大的自动特征提取和分类能力。本文将从多个角度对 深度 学习在时间序列分类中的应用进行综述,探讨常用
    的头像 发表于07-09 15:54 254次阅读

    深度学习在视觉检测中的应用

    深度 学习是机器 学习领域中的一个重要分支,其核心在于通过构建具有多层次的神经网络模型,使计算机能够 大量数据中自动 学习并提取特征,进而实现对复
    的头像 发表于07-08 10:27 238次阅读

    深度学习与nlp的区别在哪

    深度 学习和自然语言处理(NLP)是计算机科学领域中两个非常重要的研究方向。它们之间既有联系,也有区别。本文将介绍 深度 学习与NLP的区别。 深度
    的头像 发表于07-05 09:47 389次阅读

    基于深度学习的小目标检测

    在计算机视觉领域,目标检测一直是研究的热点和难点之一。特别是在小目标检测方面,由于小目标在图像中所占比例小、特征不明显,使得检测难度显著增加。随着 深度 学习技术的快速 发展,尤其是卷积神经网络(CNN
    的头像 发表于07-04 17:25 325次阅读

    人工智能、机器学习深度学习是什么

    在科技日新月异的今天,人工智能(Artificial Intelligence, AI)、机器 学习(Machine Learning, ML)和 深度 学习(Deep Learning, DL)已成为
    的头像 发表于07-03 18:22 547次阅读

    深度学习与卷积神经网络的应用

    随着人工智能技术的飞速 发展深度 学习和卷积神经网络(Convolutional Neural Network, CNN)作为其中的重要分支,已经在多个领域取得了显著的应用成果。 图像识
    的头像 发表于07-02 18:19 494次阅读

    深度学习与传统机器学习的对比

    在人工智能的浪潮中,机器 学习深度 学习无疑是两大核心驱动力。它们各自以其独特的方式推动着技术的进步, 众多领域带来了革命性的变化。然而,尽管它们都属于机器
    的头像 发表于07-01 11:40 487次阅读

    深度解析深度学习下的语义SLAM

    随着 深度 学习技术的兴起,计算机视觉的许多传统领域都取得了突破性进展,例如目标的检测、识别和分类等领域。近年来,研究人员开始在视觉SLAM算法中引入 深度 学习技术,使得
    发表于04-23 17:18 836次阅读
    <b class='flag-5'>深度</b>解析<b class='flag-5'>深度</b><b class='flag-5'>学习</b>下的语义SLAM

    什么是深度学习?机器学习深度学习的主要差异

    2016年AlphaGo 击败韩国围棋冠军李世石,在媒体报道中,曾多次提及“ 深度 学习”这个 概念
    的头像 发表于01-15 10:31 714次阅读
    什么是<b class='flag-5'>深度</b><b class='flag-5'>学习</b>?机器<b class='flag-5'>学习</b>和<b class='flag-5'>深度</b><b class='flag-5'>学习</b>的主要差异

    GPU在深度学习中的应用与优势

    人工智能的飞速 发展深度 学习作为其重要分支,正在推动着诸多领域的创新。在这个过程中,GPU扮演着不可或缺的角色。就像超级英雄电影中的主角一样,GPU在 深度
    的头像 发表于12-06 08:27 1037次阅读
    GPU在<b class='flag-5'>深度</b><b class='flag-5'>学习</b>中的应用与优势

    一文带你了解增强现实(AR)技术的前世今生!

    AR的历史远比人们想象得久远,我们可以将其归结为三个阶段: 概念发展期、 概念树立与基础技术研发期及市场高速 发展期。
    的头像 发表于11-14 11:30 1378次阅读
    一文带你了解增强<b class='flag-5'>现实</b>(AR)技术的前世今生!

    深度学习在语音识别中的应用及挑战

    一、引言 随着 深度 学习技术的快速 发展,其在语音识别领域的应用也日益广泛。 深度 学习技术可以有效地提高语音识别的精度和效率,并且被广泛应用于各种
    的头像 发表于10-10 18:14 701次阅读

    深度学习的由来深度学习的经典算法有哪些

    深度 学习作为机器 学习的一个分支,其 学习方法可以分为监督 学习和无监督 学习。两种方法都具有其独特的
    发表于10-09 10:23 460次阅读
    <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的由来 <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的经典算法有哪些

    GPU的张量核心:深度学习的秘密武器

    GPU最初是 图形渲染而设计的,但是由于其卓越的并行计算能力,它们很快被引入 深度 学习中。 深度 学习的迅速
    的头像 发表于09-26 08:29 707次阅读
    GPU的张量核心: <b class='flag-5'>深度</b><b class='flag-5'>学习</b>的秘密武器

    机器学习深度学习的区别

      机器 学习深度 学习是当今最流行的人工智能(AI)技术之一。这两种技术都有助于在不需要人类干预的情况下让计算机自主 学习和改进预测模型。本文将探讨机器
    发表于08-28 17:31 1270次阅读