预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共92页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

高级人工智能 第七章 归纳学习 史忠植 中国科学院计算技术研究所 内容提要 7.1归纳学习的逻辑基础 7.2偏置变换 7.3变型空间方法 7.4AQ归纳学习算法 7.5产生与测试方法 7.6决策树学习 7.7归纳学习的计算理论 2012-03-23史忠植高级人工智能2 概述 给定关于某个概念的一系列已知的正例和反例, 其任务是从中归纳出一个一般的概念描述。归纳学 习能够获得新的概念,创立新的规则,发现新的理 论。 泛化(generalization)用来扩展一假设的语义信息, 以使其能够包含更多的正例,应用于更多的情况。 特化(specialization)是泛化的相反的操作,用于 限制概念描述的应用范围。 2012-03-23史忠植高级人工智能3 归纳学习的一般模式 给定: ①观察语句集(事实)F:这是有关某类对象中个别 具体对象的知识或某一对象的部分特征的知识。 ②假定的初始归纳断言(可空):是关于目标的泛化项或泛化描 述。 ③背景知识:背景知识定义了在观察语句和所产生的候选归纳 断言上的假定和限制,以及任何有关问题领域知识。有关问题领 域知识包括特化所找归纳断言的期望性质的择优标准。 寻找: 归纳断言H(hypothesis),H重言或弱蕴涵观察语句并满足背景 知识。 2012-03-23史忠植高级人工智能4 基本符号表 ~非 &合取(逻辑乘) ∨析取(逻辑加) ⇒蕴涵 ⇔逻辑等价 ↔项重写 ⊕异或 F事实集 H假设 |>特化 |<泛化 2012-03-23史忠植高级人工智能5 基本符号表 |=重新形式化 ∃vi存在量词约束变项vi ∃Ivi数值存在量词约束变项vi ∀vi全称量词约束变项vi Di概念描述 Ki判断一个概念的名字的谓词 ::>将概念描述与概念名连接的蕴涵 ei一个事件(对一种情况的描述) Ei仅对概念ki的事件为真的谓词 Xi属性 LEF评价函数 2012-03-23DOM(P)描述符P的定义域史忠植高级人工智能6 概念获取 概念获取的一类特殊情况,它的观察语句集F是一个 蕴涵的集合,其形式如下: F:{eik::>Ki}i∈I 其中,eik(Ki的训练事件)是概念Ki的第k个例子的符 号描述。概念的谓词Ki,I是Ki的下标集合。 eik::>Ki的含义是“凡符合描述eik的事件均可被 断言为概念Ki的例子。 2012-03-23史忠植高级人工智能7 概念获取 学习程序要寻求的归纳断言H可以用概念识别规则集来 刻画,形式如下: H:{Di::>Ki}i∈I 其中Di是概念Ki的描述,即表达式Di是事件的逻辑推论, 该事件可被断言为概念Ki的一个例子。 2012-03-23史忠植高级人工智能8 完整性条件 ∀i∈I(Ei⇒Di) 2012-03-23史忠植高级人工智能9 一致性条件 ∀i,j∈I(Di⇒~Ej), 若i≠j 2012-03-23史忠植高级人工智能10 描述符类型 (1)名称性描述符。这种描述符的定义域由独立的符 号或名字组成,即值集中值之间没有结构关系。例如水 果、人名等。 (2)线性描述符。该类描述符值集中的元素是一个全 序集。例如,资金、温度、重量、产量等都是线性描述 符。表示序数、区间、比率和绝对标度的变量 都是线性描述符的特例。将一个集合映射成一个完全有 序集的函数也是线性描述 符。 2012-03-23史忠植高级人工智能11 描述符类型 (3)结构描述符。其值集是一个树形的图结构,反 映值之间的生成层次。 在这样的结构中,父节点表示比子节点更一般的概 念。例如,在“地名”的值集中,“中国”是节点“北 京”、“上海”、“江苏”、“广东”等的父节点。 结构描述符的定义域是通过问题背景知识说明的一 组推理规则来定义的。结构描述符也能进一步细分为有 序和无序的结构描述符。描述符的类型对确定应用描述 符的操作是很重要的。 2012-03-23史忠植高级人工智能12 选择型泛化规则 (1)消除条件规则 CTX&S::>K|<CTX::>K 其中S是任意的谓词或逻辑表达式。 (2)增加选择项规则 CTX1::>K|<CTX1∨CTX2::>K 通过增加选择项将概念描述泛化 2012-03-23史忠植高级人工智能13 选择型泛化规则 (3)扩大引用范围规则 CTX&[L=R1]::>K|<CTX\&[L=R_2]::>K 其中R1⊆R2⊆DOM(L),DOM(L)为L的域,L是一个项, Ri是L取值的一个集合。 (4)闭区间规则 CTX&[L=a]::>K CTX&[L=b]::>K |<CTX&[L=a..b]::>K 2012-03-23史忠植高级人工智能1