机器学习的基本概念 机器学习：

机器学习（Machine learning）使计算机能模拟人的学习行为，自动地通过学习来获取知识和技能，不断改善性能，实现自我完善。

机器学习主要研究以下三方面问题：

（1）学习机理：人类获取知识、技能和抽象概念的天赋能力。

（2）学习方法：机器学习方法的构造是在对生物学习机理进行简化的基础上，用计算的方法进行再现。

（3）学习系统 ：能够在一定程度上实现机器学习的系统。

一个学习系统一般应该有环境、学习、知识库、执行与评价等四个基本部分组成。

机器学习的分类 1. 按学习方法分类（温斯顿，1977 ）

机械式学习、指导式学习、示例学习、类比学习、 解释学习等。

2. 按学习能力分类：

监督学习（有教师学习）

强化学习（再励学习或增强学习）

非监督学习（无教师学习）

3. 按推理方式分类：

基于演绎的学习（解释学习）。

基于归纳的学习 （示例学习、发现学习等 ）。

4. 按综合属性分类：

归纳学习、分析学习、连接学习、 遗传式学习等。

机械式学习

机械式学习（rote learning）又称记忆学习，或死记式学习：通过直接记忆或者存储外部环境所提供的信息达到学习的目的，并在以后通过对知识库的检索得到相应的知识直接用来求解问题。

机械式学习实质是用存储空间来换取处理时间。

典型例子： 1959年，塞缪尔(Ａ．Ｌ．Samuel)的跳棋程序CHECKERS 。

塞缪尔的跳棋程序 CHECKERS

在给定搜索深度下用估价函数对格局进行评分，通过倒推计算求出上层节点的倒推值，决定当前的最佳走步。

下次遇到相同情况，直接利用倒推值决定最佳走步，不需重新计算。

机械学习的主要问题：

存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。

环境的稳定性与存储信息的适用性问题：机械学习系统必须保证所保存的信息适应于外界环境变化的需要。

存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。

指导式学习

指导式学习（learning by being told）又称嘱咐式学习或教授式学习：由外部环境向系统提供一般性的指示或建议，系统把它们具体地转化为细节知识并送入知识库中。在学习过程中要反复对形成的知识进行评价，使其不断完善。

指导式学习的学习过程：

征询指导者的指示或建议 、把征询意见转换为可执行的内部形式 、加入知识库、评价。

征询指导者的指示或建议

简单征询：指导者给出一般性的意见，系统将其具体化。

复杂征询：系统不仅要求指导者给出一般性的建议，而且还要具体地鉴别知识库中可能存在的问题，并给出修改意见。

被动征询：系统只是被动地等待指导者提供意见。

主动征询：系统不只是被动地接受指示，而且还能主动地提出询问，把指导者的注意力集中在特定的问题上。

把征询意见转换为可执行的内部形式

学习系统应具有把用约定形式表示的征询意见转化为计算机内部可执行形式的能力，并且能在转化过程中进行语法检查及适当的语义分析。

加入知识库

在加入过程中要对知识进行一致性检查，以防止出现矛盾、冗余、环路等问题。

评价

评价方法：对新知识进行经验测试，即执行一些标准例子，然后检查执行情况是否与已知情况一致。

示例学习

示例学习（learning from examples，实例学习或从例子中学习） ：通过从环境中取得若干与某概念有关的例子，经归纳得出一般性概念的一种学习方法。

示例学习中，外部环境（教师）提供一组例子（正例和反例），然后从这些特殊知识中归纳出适用于更大范围的一般性知识，它将覆盖所有的正例并排除所有反例。

示例学习的学习模型

欢迎大家加我微信交流讨论（请备注csdn上添加）