关于学习的7个定义,掌握了解它助力提升学习效率
作为当今脑科学/认知科学领域最卓越的天才科学家,迪昂告诉我们学习是人类大脑最厉害的功能。
1、学习就是调整心理模型的参数
•最笼统的关于学习的定义是:学习是在脑中形成外部世界的内部模型。
•参数的设置共同定义了学习者所学到的东西,如某条街道可能在我们的心理地图中的什么位置。参数就是脑中的突触,也就是神经元之间的联结,它们的强度可能会因人而异。而在大多数现代计算机中,它们是一系列可调节的权重或概率,反映了每个可能成立的假设的可靠程度。因此,无论是在脑中还是在机器中,学习都需要寻找参数的最佳组合
•学习的内核就在于它适应外部世界和纠正错误的能力。
•学习就是调整心理模型的参数:不近视的人戴着高度眼镜
•调整心理模型:
2、学习就是利用组合爆炸
•当你将极少数的可能性参数组合在一起时,参数的数量就会呈现指数级的增长。假设世界上所有语言的语法可以用大约50个二元参数来表示,就会产生250种组合,也就是超过1 000万亿种可能的语言,或者说1后面跟着15个0!目前世界上的3000种语言的句法规则都能很轻松地被放入这个巨大的空间。
•在我们的脑中,可调节的参数不只有50个,其数量大得惊人:80多亿个神经元,每个神经元大约有1万个突触相互联结,联结的强度各不相同,所创造的心智表征空间可以说是无限大的。
•语法规则的习得:在一个有主语、谓语和直接宾语的标准句子中,英语句式为“主语+谓语+宾语”:“John+eats+an apple(约翰吃了一个苹果)。日语:最常见的句式为“主语+宾语+谓语”:“约翰+一个苹果+吃”。值得注意的是,这个日语句式中还会因介词而改变。比如,“My uncle wants to work in Boston”变成了“Uncle my,Boston in,work wants”。这句话就变得与《星球大战》中尤达大师所说的话一样难懂。但对一个讲日语的人来说,这一点问题也没有。
3、学习就是将错误降到最低
法国卷积神经网络之父杨立昆(Yann LeCun)创造的LeNet算法
•学习是找出当下问题所适合的表征层级,在卷积神经网络LeNet算法中,它通过调整每个层级的几百万个参数来辨识真实世界的一部分。在最低的层级,神经元只对最基本的特质敏感,如线条、方向和质地等。当顺着层级逐次延伸向上,神经元就会对比较复杂的形状做出响应
4、学习就是探索各种可能性
•局部最优和全局最优:逛菜市场和在算法中引入随机性。
•随机产生的好奇心和频繁的神经元放电都在智人的学习中扮演着重要的角色。
•学习是一种优化的奖励函数:监督学习和强化学习
•强化学习:是给机器编程,让它同时做两件事:行动和自我评估。自我评估被称为“评论者”,它的目标是尽可能准确地评估游戏的状态,以便预测最终的奖励。我是赢了还是输了?我处于势均力敌的状态还是快要输了?评论者可以让系统时时刻刻评估自己的行动,而不仅仅是在结束的时候得知结论。“行动者”的目标是使用这个评估来纠正自己。
•最新的一个想法被称为“对抗性学习”,通过训练两个系统对抗让其中的一个系统成为专家(比如凡·高的画的鉴定专家),而另一个的唯一目标是让第一个系统失败(通过学习成为一个出色的伪造凡·高的画作的赝品大师)。第一个系统只要成功识别出凡·高的真迹就会获得奖励,而第二个系统只要成功骗过了第一个系统的“眼睛”就会获得奖励。这种对抗性学习算法同时产生了两种人工智能,一种是研究凡·高的权威,擅长通过最小的细节来鉴定一幅真正的画作;另一种是天才伪造者,能够绘制能愚弄最好的鉴赏专家的画作。
•这种对抗学习的方法适用于人脑吗?大脑中的红蓝队。
5、学习是限定了搜索空间
•神经网络拥有的大量参数往往还会导致另外一个问题——“过度拟合”或“过度学习”:系统拥有如此多的自由度,以至于它发现记住每个例子的所有细节比找出一个更普遍的规则来解释这些细节更容易。
•杨立昆的卷积神经网络将它们从给定区域学到的东西应用到了整个网络的每个层级,以及更大的范围。因此,需要学习的参数数量就少了很多。系统只需调整它应用于所有地方的单个过滤器,而无需为图像中的每个位置调整过多不同的联结。这个简单的技巧极大地提高了图像识别系统的性能,
•减少必须调整的参数数量有两个好处,即加快学习速度和更好地对新语音的泛化。这就是你的智能手机能够响应你的声音的原因。
6、学习是投射先验假设
•杨立昆的策略诠释了一个更普遍的概念:利用先天知识。卷积神经网络之所以比其他类型的神经网络学习得更好更快,是因为它不会学习所有东西。它在自己的架构中融入了一个强有力的假设,那就是在一个地方学到的东西可以推广到其他地方。
•先天和后天不必对立起来:婴儿的脑之所以知道人和无生命物体的区别,那是因为它已经学会了这一点。不是在出生的最初几天学会的,而是在数百万年的进化过程中学会的。
•自然选择实际上是一种学习算法,一个令人难以置信的强大程序,它已经运行了数亿年,置入了数十亿台学习机器(即曾经存在过的每一种生物)。我们是这个深不可测的智慧的继承者。通过进化的试验和失败,我们的基因组已经将我们之前几代人的知识内化。
7、学习是对领域语法的推理
•两三岁的孩子与父母走在花园里学习“蝴蝶”。通常情况下,只需要听这个词一两次,这个孩子就足以记住蝴蝶的意思了。这样卓越的学习速度超过了当今任何已知的人工神经网络。说出蝴蝶的时候,通常是当一个孩子身处复杂环境中时,周遭是花、树、玩具和人,所有这些因素都是这个词潜在意义的候选项。蝴蝶还可以代表颜色、天空、移动或对称性。
•当一个婴儿听到母亲说“看这只狗”
•向一个两三岁的孩子展示一个玩具,然后让一个成人盯着玩具说:“噢,一个沃格(Wog)!”一次实验就可以让这个孩子领会到“沃格”是那个玩具的名字。现在来重复这个情境,但是成人不再说话,而是由一个安装在屋顶的扬声器播放“噢,一个沃格”。孩子在这种情境下基本上学不到任何东西,因为他无法理解说话者的意图。
•学习就是像科学家一样推理:
“还有其他什么地方需要我注意的吗?”伦敦市警察厅的格雷戈里警官问道。
福尔摩斯:“我很好奇当晚那只狗干了什么。”
格雷戈里:“那只狗那天晚上什么都没做。”
福尔摩斯:“那正是有趣的地方。”
《精准学习》 作者:[法] 斯坦尼斯拉斯·迪昂 译者:周加仙
迪昂
法兰西学院实验认知心理学教授、著名认知神经科学家,研究涉及脑与学习、意识、数学、阅读等多个领域,在《自然》《科学》等国际权威杂志上发表400多篇文章,开创了一系列研究意识的实验彻底改变了神经科学领域
2014年,迪昂同其他两位科学家共同获得了有“神经科学界诺贝尔奖”之称的“脑奖”
敢于挑战脑科学研究的终极问题:大脑是人类自身最大的未解之谜,宛若研究领域最闪耀的一顶王冠。人脑拥有目前人类已知的最复杂的结构,脑科学是当代前沿科学之一,解析脑的奥秘是人类认知面临的重大挑战。它所包含的神经细胞总数达860亿,这些细胞并非独立存在,而是通过数量高于神经细胞数千倍的突触联结起来,形成神经环路。
相关阅读
-
世界上即将灭亡的十大动物分别为北部白犀牛,华南虎,黑冠长臂猿,红狼,白头叶猴,北方毛鼻袋熊,佛罗里达美洲狮,犁头龟,山地大猩猩,白鳍豚,这十种动物不仅是世界上即将灭亡的动物...
-
白犀牛、白鳍豚、山地大猩猩、朱鹮、华南虎、扬子鳄、马达加斯加陆龟、澳洲毛鼻袋熊、爪哇犀牛和金头猴是全球十大濒临灭绝的动物。它们面临着栖息地丧失、非法猎杀、盗猎、森林破坏...
-
正如英语里谚语所述,Where there is a will, there is a way.(注:有志者,事竟成。)首先可以肯定的是,利用碎...
-
区块链(blockchain)是眼下的大热门,新闻媒体大量报道,宣称它将创造未来。可是,简单易懂的入门文章却很少。区块链到底是什么,有何特别之处,很少有解释。下面...
-
《边城》是沈从文的代表作,入选20世纪中文小说100强,排名第二位,仅次于鲁迅的《呐喊》。下面小编给大家带来以《边城》为例,浅谈中西审美之同一。希望能够帮到大家。 以《边城》......
-
以下是我为你准备的6个副业兼职推荐,每个副业都有不同的特点和收入潜力,希望能帮助你找到适合自己的赚钱方式。你可以选择代理各种商品,如化妆品、保健品、服装等...
-
四年级数学知识点有:1、亿以内数的读法和写法;2、整万数改写成用“万”作单位的数的方法;3、用四舍五入法求近似数;4、直线、射线、线段的联系和区别;5、平行四边形和梯形的算法......
-
生物技术的安全性和伦理问题...
-
昆虫踪迹几乎遍布世界的每一个角落,它们是地球上数量最多的动物群体,比其他动物种类加起来都多。有些昆虫不仅数量多,而且“战斗”实力还非常的强,有很多堪称“顶级高手”的动物,...
-
下一站江湖测评:一场属于玩家们的江湖大梦,下一站江湖目前已经正式开启了测试,相信很多小伙伴都在问详细的特色玩法,同时这款单机类型的武侠游戏,值得大家入手尝试吗...
-
创作立场声明:有任何疑问可以在评论区 咨询@护宇据央视财经调查数据显示,2020年以来超过 60% 的职场人正在兼职或有兼职计划,很多在校大学生也早...
发表评论
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任如发现本站有涉嫌抄袭侵权/违法违规的内容,请发送邮件举报,一经查实,本站将立刻删除。