我们已经看到利用计算机的能力来处理大规模文本是多么有用。现在我们已经有了分析器和基于特征的语法，我们能否做一些类似分析句子的意思这样有用的事情？本章的目的是要回答下列问题：
- 我们如何能表示自然语言的意思，使计算机能够处理这些表示？
- 我们怎样才能将意思表示与无限的句子集合关联？
- 我们怎样才能使用程序来连接句子的意思表示到知识的存储？
一路上，我们将学习一些逻辑语义领域的形式化技术，看看如何用它们来查询存储了世间真知的数据库。
假设有一个程序，让我们输入一个自然语言问题，返回给我们正确的答案：
>>> nltk.data.show_cfg('grammars/book_grammars/sql0.fcfg')
% start S
S[SEM=(?np + WHERE + ?vp)] -> NP[SEM=?np] VP[SEM=?vp]
VP[SEM=(?v + ?pp)] -> IV[SEM=?v] PP[SEM=?pp]
VP[SEM=(?v + ?ap)] -> IV[SEM=?v] AP[SEM=?ap]
NP[SEM=(?det + ?n)] -> Det[SEM=?det] N[SEM=?n]
PP[SEM=(?p + ?np)] -> P[SEM=?p] NP[SEM=?np]
AP[SEM=?pp] -> A[SEM=?a] PP[SEM=?pp]
NP[SEM='Country="greece"'] -> 'Greece'
NP[SEM='Country="china"'] -> 'China'
Det[SEM='SELECT'] -> 'Which' | 'What'
N[SEM='City FROM city_table'] -> 'cities'
IV[SEM=''] -> 'are'
A[SEM=''] -> 'located'
P[SEM=''] -> 'in'这使我们能够分析 SQL 查询：
>>> from nltk import load_parser
>>> cp = load_parser('grammars/book_grammars/sql0.fcfg')
>>> query = 'What cities are located in China'
>>> trees = list(cp.parse(query.split()))
>>> answer = trees[0].label()['SEM']
>>> answer = [s for s in answer if s]
>>> q = ' '.join(answer)
>>> print(q)
SELECT City FROM city_table WHERE Country="china"注意
轮到你来：设置跟踪为最大，运行分析器，即cp = load_parser('grammars/book_grammars/sql0.fcfg', trace=3)，研究当边被完整的加入到图表中时，如何建立sem的值。
最后，我们在数据库city.db上执行查询，检索出一些结果：
>>> from nltk.sem import chat80
>>> rows = chat80.sql_query('corpora/city_database/city.db', q)
>>> for r in rows: print(r[0], end=" ") ❶
canton chungking dairen harbin kowloon mukden peking shanghai sian tientsin由于每行r是一个单元素的元组，我们输出元组的成员，而不是元组本身❶。
总结一下，我们已经定义了一个任务：计算机对自然语言查询做出反应，返回有用的数据。我们通过将英语的一个小的子集翻译成 SQL 来实现这个任务们可以说，我们的 NLTK 代码已经“理解”SQL，只要 Python 能够对数据库执行 SQL 查询，通过扩展，它也“理解”如What cities are located in China这样的查询。这相当于自然语言理解的例子能够从荷兰语翻译成英语。假设你是一个英语为母语的人，已经开始学习荷兰语。你的老师问你是否理解(3)的意思：
>>> nltk.boolean_ops()
negation -
conjunction &
disjunction |
implication ->
equivalence <->从命题符号和布尔运算符，我们可以建立命题逻辑的规范公式（或简称公式）的无限集合。首先，每个命题字母是一个公式。然后，如果φ是一个公式，那么-φ也是一个公式。如果φ和ψ是公式，那么(φ & ψ) (φ | ψ) (φ -> ψ) (φ <-> ψ)也是公式。
2.1 指定了包含这些运算符的公式为真的条件。和以前一样，我们使用φ和ψ作为句子中的变量，iff作为if and only if（当且仅当）的缩写。
表 2.1：
命题逻辑的布尔运算符的真值条件。
>>> read_expr = nltk.sem.Expression.fromstring
>>> read_expr('-(P & Q)')
<NegatedExpression -(P & Q)>
>>> read_expr('P & Q')
<AndExpression (P & Q)>
>>> read_expr('P | (R -> Q)')
<OrExpression (P | (R -> Q))>
>>> read_expr('P <-> -- P')
<IffExpression (P <-> --P)>从计算的角度来看，逻辑给了我们进行推理的一个重要工具。假设你表达Freedonia is not to the north of Sylvania，而你给出理由Sylvania is to the north of Freedonia。在这种情况下，你已经给出了一个论证。句子Sylvania is to the north of Freedonia是论证的假设，而Freedonia is not to the north of Sylvania是结论。从假设一步一步推到结论，被称为推理。通俗地说，就是我们以在结论前面写therefore这样的格式写一个论证。
>>> lp = nltk.sem.Expression.fromstring
>>> SnF = read_expr('SnF')
>>> NotFnS = read_expr('-FnS')
>>> R = read_expr('SnF -> -FnS')
>>> prover = nltk.Prover9()
>>> prover.prove(NotFnS, [SnF, R])
True这里有另一种方式可以看到结论如何得出。SnF -> -FnS在语义上等价于-SnF | -FnS，其中|是对应于or的二元运算符。在一般情况下，φ|ψ在条件s中为真，要么φ在s中为真，要么ψ在s中为真。现在，假设SnF和-SnF | -FnS都在s中为真。如果SnF为真，那么-SnF不可能也为真；经典逻辑的一个基本假设是：一个句子在一种情况下不能同时为真和为假。因此，-FnS必须为真。
回想一下，我们解释相对于一个模型的一种逻辑语言的句子，它们是这个世界的一个非常简化的版本。一个命题逻辑的模型需要为每个可能的公式分配值True或False。我们一步步的来做这个：首先，为每个命题符号分配一个值，然后确定布尔运算符的含义（即 2.1）和运用它们到这些公式的组件的值，来计算复杂的公式的值。估值是从逻辑的基本符号映射到它们的值。下面是一个例子：
>>> val = nltk.Valuation([('P', True), ('Q', True), ('R', False)])我们使用一个配对的链表初始化一个估值，每个配对由一个语义符号和一个语义值组成。所产生的对象基本上只是一个字典，映射逻辑符号（作为字符串处理）为适当的值。
>>> val['P']
True正如我们稍后将看到的，我们的模型需要稍微更加复杂些，以便处理将在下一节中讨论的更复杂的逻辑形式；暂时的，在下面的声明中先忽略参数dom和g。
>>> dom = set()
>>> g = nltk.Assignment(dom)现在，让我们用val初始化模型m：
>>> m = nltk.Model(dom, val)每一个模型都有一个evaluate()方法，可以确定逻辑表达式，如命题逻辑的公式，的语义值；当然，这些值取决于最初我们分配给命题符号如P，Q和R的真值。
>>> print(m.evaluate('(P & Q)', g))
True
>>> print(m.evaluate('-(P & Q)', g))
False
>>> print(m.evaluate('(P & R)', g))
False
>>> print(m.evaluate('(P | R)', g))
True注意
轮到你来：做实验为不同的命题逻辑公式估值。模型是否给出你所期望的值？
到目前为止，我们已经将我们的英文句子翻译成命题逻辑。因为我们只限于用字母如P和Q表示原子句子，不能深入其内部结构。实际上，我们说将原子句子分成主语、宾语和谓词并没有语义上的好处。然而，这似乎是错误的：如果我们想形式化如(9)这样的论证，就必须要能“看到里面”基本的句子。因此，我们将超越命题逻辑到一个更有表现力的东西，也就是一阶逻辑。这正是我们下一节要讲的。
本章的剩余部分，我们将通过翻译自然语言表达式为一阶逻辑来表示它们的意思。并不是所有的自然语言语义都可以用一阶逻辑表示。但它是计算语义的一个不错的选择，因为它具有足够的表现力来表达语义的很多方面，而且另一方面，有出色的现成系统可用于开展一阶逻辑自动推理。
下一步我们将描述如何构造一阶逻辑公式，然后是这样的公式如何用来评估模型。
一阶逻辑保留所有命题逻辑的布尔运算符。但它增加了一些重要的新机制。首先，命题被分析成谓词和参数，这将我们与自然语言的结构的距离拉近了一步。一阶逻辑的标准构造规则承认以下术语：独立变量和独立常量、带不同数量的参数的谓词。例如，Angus walks可以被形式化为walk(angus)，Angus sees Bertie可以被形式化为see(angus, bertie)。我们称walk为一元谓词，see为二元谓词。作为谓词使用的符号不具有内在的含义，虽然很难记住这一点。回到我们前面的一个例子，(13a)和(13b)之间没有逻辑区别。
>>> read_expr = nltk.sem.Expression.fromstring
>>> expr = read_expr('walk(angus)', type_check=True)
>>> expr.argument
<ConstantExpression angus>
>>> expr.argument.type
e
>>> expr.function
<ConstantExpression walk>
>>> expr.function.type
<e,?>为什么我们在这个例子的结尾看到<e,?>呢？虽然类型检查器会尝试推断出尽可能多的类型，在这种情况下，它并没有能够推断出walk的类型，所以其结果的类型是未知的。虽然我们期望walk的类型是<e, t>，迄今为止类型检查器知道的，在这个上下文中可能是一些其他类型，如<e, e>或<e, >e, t>。要帮助类型检查器，我们需要指定一个信号，作为一个字典来实施，明确的与非逻辑常量类型关联：
>>> sig = {'walk': '<e, t>'}
>>> expr = read_expr('walk(angus)', signature=sig)
>>> expr.function.type
e一种二元谓词具有类型<e, <e, t>>。虽然这是先组合类型e的一个参数成一个一元谓词的类型，我们可以用二元谓词的两个参数直接组合来表示二元谓词。例如，在Angus sees Cyril的翻译中谓词see会与它的参数结合得到结果see(angus, cyril)。
在一阶逻辑中，谓词的参数也可以是独立变量，如x, y, z。在 NLTK 中，我们采用的惯例：e类型的变量都是小写。独立变量类似于人称代词，如he，she和it，其中我们为了弄清楚它们的含义需要知道它们使用的上下文。
解释(14)中的代名词的方法之一是指向上下文中相关的个体。
((exists x. dog(x)) -> bark(x))回顾一下我们较早前在(10)中提出的to the north of上的限制：
all x. all y.(north_of(x, y) -> -north_of(y, x))令人高兴的是，定理证明器证明我们的论证是有效的。相反，它得出结论：不能从我们的假设推到出north_of(f, s)：
>>> FnS = read_expr('north_of(f, s)')
>>> prover.prove(FnS, [SnF, R])
False我们将借此机会重新表述前面的命题逻辑的语法规则，并添加量词的形式化规则；所有这些一起组成一阶逻辑的句法。此外，我们会明确相关表达式的类型。我们将采取约定：<e^n, t>，一种由n个类型为e的参数组成产生一个类型为t的表达式的谓词的类型。在这种情况下，我们说n是谓词的元数。
- 如果
P是<e[n], t>类型的谓词，并且α[1]，..., α[n]是e类型的项，则P(α[1], ..., α[n])的类型为t。- 如果
α和β均为e类型，则（α = β）和（α != β）均为t类型。- 如果
φ是·类型，则-φ也是。- 如果
φ和ψ为t类型，那么(φ & ψ), (φ | ψ), (φ -> ψ), (φ <-> ψ)也是如此。- 如果
φ是t类型，而x是e类型变量，则存在x.φ，而所有x.φ都是t类型。
3.1 总结了logic模块的新的逻辑常量，以及Expression模块的两个方法。
表 3.1：
一阶逻辑所需的新的逻辑关系和运算符总结，以及Expression类的两个有用的方法。
>>> dom = {'b', 'o', 'c'}我们使用工具函数Valuation.fromstring()将symbol => value形式的字符串序列转换成一个Valuation对象。
>>> v = """
... bertie => b
... olive => o
... cyril => c
... boy => {b}
... girl => {o}
... dog => {c}
... walk => {o, c}
... see => {(b, o), (c, b), (o, c)}
... """
>>> val = nltk.Valuation.fromstring(v)
>>> print(val)
{'bertie': 'b',
'boy': {('b',)},
'cyril': 'c',
'dog': {('c',)},
'girl': {('o',)},
'olive': 'o',
'see': {('o', 'c'), ('c', 'b'), ('b', 'o')},
'walk': {('c',), ('o',)}}根据这一估值，see的值是一个元组的集合，包含 Bertie 看到 Olive、Cyril 看到 Bertie 和 Olive 看到 Cyril。
注意
轮到你来：模仿 1.2 绘制一个图，描述域m和相应的每个一元谓词的集合。
你可能已经注意到，我们的一元谓词（即boy，girl，dog）也是以单个元组的集合而不是个体的集合出现的。这使我们能够方便的统一处理任何元数的关系。一个形式为P(τ[1], ... τ[n])的谓词，其中P是n元的，为真的条件是对应于(τ[1], ..., τ[n])的值的元组属于P的值的元组的集合。
>>> ('o', 'c') in val['see']
True
>>> ('b',) in val['boy']
True在我们的模型，上下文的使用对应的是为变量赋值。这是一个从独立变量到域中实体的映射。赋值使用构造函数Assignment，它也以论述的模型的域为参数。我们无需实际输入任何绑定，但如果我们要这样做，它们是以(变量,值)的形式来绑定，类似于我们前面看到的估值。
>>> g = nltk.Assignment(dom, [('x', 'o'), ('y', 'c')])
>>> g
{'y': 'c', 'x': 'o'}此外，还可以使用print()查看赋值，使用与逻辑教科书中经常出现的符号类似的符号：
>>> print(g)
g[c/y][o/x]现在让我们看看如何为一阶逻辑的原子公式估值。首先，我们创建了一个模型，然后调用evaluate()方法来计算真值。
>>> m = nltk.Model(dom, val)
>>> m.evaluate('see(olive, y)', g)
True这里发生了什么？我们正在为一个公式估值，类似于我们前面的例子see(olive, cyril)。然而，当解释函数遇到变量y时，不是检查val中的值，它在变量赋值g中查询这个变量的值：
>>> g['y']
'c'由于我们已经知道o和c在see关系中表示的含义，所以True值是我们所期望的。在这种情况下，我们可以说赋值g满足公式see(olive, y)。相比之下，下面的公式相对g的评估结果为False（检查为什么会是你看到的这样）。
>>> m.evaluate('see(y, x)', g)
False在我们的方法中（虽然不是标准的一阶逻辑），变量赋值是部分的。例如，g中除了x和y没有其它变量。方法purge()清除一个赋值中所有的绑定。
>>> g.purge()
>>> g
{}如果我们现在尝试为公式，如see(olive, y)，相对于g估值，就像试图解释一个包含一个him的句子，我们不知道him指什么。在这种情况下，估值函数未能提供一个真值。
>>> m.evaluate('see(olive, y)', g)
'Undefined'由于我们的模型已经包含了解释布尔运算的规则，任意复杂的公式都可以组合和评估。
>>> m.evaluate('see(bertie, olive) & boy(bertie) & -walk(bertie)', g)
True确定模型中公式的真假的一般过程称为模型检查。
现代逻辑的关键特征之一就是变量满足的概念可以用来解释量化的公式。让我们用(24)作为一个例子。
>>> m.evaluate('exists x.(girl(x) & walk(x))', g)
True在这里evaluate()``True，因为dom中有某些u通过绑定x到u的赋值满足（(25) ）。事实上，o是这样一个u：
>>> m.evaluate('girl(x) & walk(x)', g.add('x', 'o'))
TrueNLTK 中提供了一个有用的工具是satisfiers()方法。它返回满足开放公式的所有个体的集合。该方法的参数是一个已分析的公式、一个变量和一个赋值。下面是几个例子：
>>> fmla1 = read_expr('girl(x) | boy(x)')
>>> m.satisfiers(fmla1, 'x', g)
{'b', 'o'}
>>> fmla2 = read_expr('girl(x) -> walk(x)')
>>> m.satisfiers(fmla2, 'x', g)
{'c', 'b', 'o'}
>>> fmla3 = read_expr('walk(x) -> girl(x)')
>>> m.satisfiers(fmla3, 'x', g)
{'b', 'o'}想一想为什么fmla2和fmla3是那样的值，这是非常有用。->的真值条件的意思是fmla2等价于-girl(x) | walk(x)，要么不是女孩要么没有步行的个体满足条件。因为b（Bertie）和c（Cyril）都不是女孩，根据模型m，它们都满足整个公式。当然o也满足公式，因为o两项都满足。现在，因为话题的域的每一个成员都满足fmla2，相应的全称量化公式也为真。
>>> m.evaluate('all x.(girl(x) -> walk(x))', g)
True换句话说，一个全称量化公式∀x.φ关于g为真，只有对每一个u，φ关于g[u/x]为真。
注意
轮到你来：先用笔和纸，然后用m.evaluate()，尝试弄清楚all x.(girl(x) & walk(x))和exists x.(boy(x) -> walk(x))的真值。确保你能理解为什么它们得到这些值。
当我们给一个句子的形式化表示两个量词时，会发生什么？
>>> v2 = """
... bruce => b
... elspeth => e
... julia => j
... matthew => m
... person => {b, e, j, m}
... admire => {(j, b), (b, b), (m, e), (e, m)}
... """
>>> val2 = nltk.Valuation.fromstring(v2)admire关系可以使用(28)所示的映射图进行可视化。
>>> dom2 = val2.domain
>>> m2 = nltk.Model(dom2, val2)
>>> g2 = nltk.Assignment(dom2)
>>> fmla4 = read_expr('(person(x) -> exists y.(person(y) & admire(x, y)))')
>>> m2.satisfiers(fmla4, 'x', g2)
{'e', 'b', 'm', 'j'}这表明fmla4包含域中每一个个体。相反，思考下面的公式fmla5；没有满足y的值。
>>> fmla5 = read_expr('(person(y) & all x.(person(x) -> admire(x, y)))')
>>> m2.satisfiers(fmla5, 'y', g2)
set()也就是说，没有大家都钦佩的人。看看另一个开放的公式fmla6，我们可以验证有一个人，即 Bruce，它被 Julia 和 Bruce 都钦佩。
>>> fmla6 = read_expr('(person(y) & all x.((x = bruce | x = julia) -> admire(x, y)))')
>>> m2.satisfiers(fmla6, 'y', g2)
{'b'}注意
轮到你来：基于m2设计一个新的模型，使(27a)在你的模型中为假；同样的，设计一个新的模型使(27b)为真。
我们一直假设我们已经有了一个模型，并要检查模型中的一个句子的真值。相比之下，模型的建立是给定一些句子的集合，尝试创造一种新的模型。如果成功，那么我们知道集合是一致的，因为我们有模型的存在作为证据。
我们通过创建Mace()的一个实例并调用它的build_model()方法来调用 Mace4 模式产生器，与调用 Prover9 定理证明器类似的方法。一种选择是将我们的候选的句子集合作为假设，保留目标为未指定。下面的交互显示了[a, c1]和[a, c2]都是一致的列表，因为Mace成功的为它们都建立了一个模型，而[c1, c2]不一致。
>>> a3 = read_expr('exists x.(man(x) & walks(x))')
>>> c1 = read_expr('mortal(socrates)')
>>> c2 = read_expr('-mortal(socrates)')
>>> mb = nltk.Mace(5)
>>> print(mb.build_model(None, [a3, c1]))
True
>>> print(mb.build_model(None, [a3, c2]))
True
>>> print(mb.build_model(None, [c1, c2]))
False我们也可以使用模型建立器作为定理证明器的辅助。假设我们正试图证明S ⊢ g，即g是假设S = [s1, s2, ..., sn]的逻辑派生。我们可以同样的输入提供给 Mace4，模型建立器将尝试找出一个反例，就是要表明g不遵循从S。因此，给定此输入，Mace4 将尝试为假设S连同g的否定找到一个模型，即列表S' = [s1, s2, ..., sn, -g]。如果g从S不能证明出来，那么 Mace4 会返回一个反例，比 Prover9 更快的得出结论：无法找到所需的证明。相反，如果g从S是可以证明出来，Mace4 可能要花很长时间不能成功地找到一个反例模型，最终会放弃。
让我们思考一个具体的方案。我们的假设是列表[There is a woman that every man loves, Adam is a man, Eve is a woman]。我们的结论是Adam loves Eve。Mace4 能找到使假设为真而结论为假的模型吗？在下面的代码中，我们使用MaceCommand()检查已建立的模型。
>>> a4 = read_expr('exists y. (woman(y) & all x. (man(x) -> love(x,y)))')
>>> a5 = read_expr('man(adam)')
>>> a6 = read_expr('woman(eve)')
>>> g = read_expr('love(adam,eve)')
>>> mc = nltk.MaceCommand(g, assumptions=[a4, a5, a6])
>>> mc.build_model()
True因此答案是肯定的：Mace4 发现了一个反例模型，其中Adam爱某个女人而不是Eve。但是，让我们细看 Mace4 的模型，转换成我们用来估值的格式。
>>> print(mc.valuation)
{'C1': 'b',
'adam': 'a',
'eve': 'a',
'love': {('a', 'b')},
'man': {('a',)},
'woman': {('a',), ('b',)}}这个估值的一般形式应是你熟悉的：它包含了一些单独的常量和谓词，每一个都有适当类型的值。可能令人费解的是C1。它是一个“Skolem 常量”，模型生成器作为存在量词的表示引入的。也就是说，模型生成器遇到a4里面的exists y，它知道，域中有某个个体b满足a4中的开放公式。然而，它不知道b是否也是它的输入中的某个地方的一个独立常量的标志，所以它为b凭空创造了一个新名字，即C1。现在，由于我们的假设中没有关于独立常量adam和eve的信息，模型生成器认为没有任何理由将它们当做表示不同的实体，于是它们都得到映射到a。此外，我们并没有指定man和woman表示不相交的集合，因此，模型生成器让它们相互重叠。这个演示非常明显的隐含了我们用来解释我们的情境的知识，而模型生成器对此一无所知。因此，让我们添加一个新的假设，使man和woman不相交。模型生成器仍然产生一个反例模型，但这次更符合我们直觉的有关情况：
>>> a7 = read_expr('all x. (man(x) -> -woman(x))')
>>> g = read_expr('love(adam,eve)')
>>> mc = nltk.MaceCommand(g, assumptions=[a4, a5, a6, a7])
>>> mc.build_model()
True
>>> print(mc.valuation)
{'C1': 'c',
'adam': 'a',
'eve': 'b',
'love': {('a', 'c')},
'man': {('a',)},
'woman': {('c',), ('b',)}}经再三考虑，我们可以看到我们的假设中没有说 Eve 是论域中唯一的女性，所以反例模型其实是可以接受的。如果想排除这种可能性，我们将不得不添加进一步的假设，如exists y. all x. (woman(x) -> (x = y))以确保模型中只有一个女性。
在本章开头，我们简要说明了一种在句法分析的基础上建立语义表示的方法，使用在 9 开发的语法框架。这一次，不是构建一个 SQL 查询，我们将建立一个逻辑形式。我们设计这样的语法的指导思想之一是组合原则。（也称为 Frege 原则；下面给出的公式参见（Gleitman & Liberman, 1995）。）
组合原则：整体的含义是部分的含义与它们的句法结合方式的函数。
我们将假设一个复杂的表达式的语义相关部分由句法分析理论给出。在本章中，我们将认为表达式已经用上下文无关语法分析过。然而，这不是组合原则的内容。
我们现在的目标是以一种可以与分析过程平滑对接的方式整合语义表达的构建。(29)说明了我们想建立的这种分析的第一个近似。
VP[SEM=?v] -> IV[SEM=?v]
NP[SEM=<cyril>] -> 'Cyril'
IV[SEM=<\x.bark(x)>] -> 'barks'在 3 中，我们指出数学集合符号对于制定我们想从文档中选择的词的属性P很有用。我们用(31)说明这个，它是“所有w的集合，其中w是V（词汇表）的元素且w有属性P”的表示。
>>> read_expr = nltk.sem.Expression.fromstring
>>> expr = read_expr(r'\x.(walk(x) & chew_gum(x))')
>>> expr
<LambdaExpression \x.(walk(x) & chew_gum(x))>
>>> expr.free()
set()
>>> print(read_expr(r'\x.(walk(x) & chew_gum(y))'))
\x.(walk(x) & chew_gum(y))我们对绑定表达式中的变量的结果有一个特殊的名字：λ 抽象。当你第一次遇到 λ 抽象时，很难对它们的意思得到一个直观的感觉。(33b)的一对英语表示是“是一个x，其中x步行且x嚼口香糖”或“具有步行和嚼口香糖的属性。”通常认为λ-抽象可以很好的表示动词短语（或无主语从句），尤其是当它作为参数出现在它自己的右侧时。如(34a)和它的翻译(34b)中的演示。
(walk(x) & chew_gum(x))[gerald/x]虽然我们迄今只考虑了λ-抽象的主体是一个某种类型t的开放公式，这不是必要的限制；主体可以是任何符合语法的表达式。下面是一个有两个λ的例子。
>>> print(read_expr(r'\x.\y.(dog(x) & own(y, x))(cyril)').simplify())
\y.(dog(cyril) & own(y,cyril))
>>> print(read_expr(r'\x y.(dog(x) & own(y, x))(cyril, angus)').simplify()) ❶
(dog(cyril) & own(angus,cyril))我们所有的λ-抽象到目前为止只涉及熟悉的一阶变量：x、y等——类型e的变量。但假设我们要处理一个抽象，例如\x.walk(x)作为另一个λ-抽象的参数？我们不妨试试这个：
\y.y(angus)(\x.walk(x))当β-约减在一个应用f(a)中实施时，我们检查是否有自由变量在a同时也作为f的子术语中绑定的变量出现。假设在上面讨论的例子中，x是a中的自由变量，f包括子术语exists x.P(x)。在这种情况下，我们产生一个exists x.P(x)的字母变体，也就是说，exists z1.P(z1)，然后再进行约减。这种重新标记由logic中的β-约减代码自动进行，可以在下面的例子中看到的结果。
>>> expr3 = read_expr('\P.(exists x.P(x))(\y.see(y, x))')
>>> print(expr3)
(\P.exists x.P(x))(\y.see(y,x))
>>> print(expr3.simplify())
exists z1.see(z1,x)注意
当你在下面的章节运行这些例子时，你可能会发现返回的逻辑表达式的变量名不同；例如你可能在前面的公式的z1的位置看到z14。这种标签的变化是无害的——事实上，它仅仅是一个字母变体的例子。
在此附注之后，让我们回到英语句子的逻辑形式建立的任务。
在本节开始，我们简要介绍了如何为Cyril barks构建语义表示。你会以为这太容易了——肯定还有更多关于建立组合语义的。例如，量词？没错，这是一个至关重要的问题。例如，我们要给出(42a)的逻辑形式(42b)。如何才能实现呢？
>>> read_expr = nltk.sem.Expression.fromstring
>>> tvp = read_expr(r'\X x.X(\y.chase(x,y))')
>>> np = read_expr(r'(\P.exists x.(dog(x) & P(x)))')
>>> vp = nltk.sem.ApplicationExpression(tvp, np)
>>> print(vp)
(\X x.X(\y.chase(x,y)))(\P.exists x.(dog(x) & P(x)))
>>> print(vp.simplify())
\x.exists z2.(dog(z2) & chase(x,z2))为了建立一个句子的语义表示，我们也需要组合主语NP的语义。如果后者是一个量化的表达式，例如every girl，一切都与我们前面讲过的a dog barks一样的处理方式；主语转换为函数表达式，这被用于VP的语义表示。然而，我们现在似乎已经用适当的名称为自己创造了另一个问题。到目前为止，这些已经作为单独的常量进行了语义的处理，这些不能作为像(47)那样的表达式的函数应用。因此，我们需要为它们提出不同的语义表示。我们在这种情况下所做的是重新解释适当的名称，使它们也成为如量化的NP那样的函数表达式。这里是Angus的 λ 表达式。
>>> from nltk import load_parser
>>> parser = load_parser('grammars/book_grammars/simple-sem.fcfg', trace=0)
>>> sentence = 'Angus gives a bone to every dog'
>>> tokens = sentence.split()
>>> for tree in parser.parse(tokens):
... print(tree.label()['SEM'])
all z2.(dog(z2) -> exists z1.(bone(z1) & give(angus,z1,z2)))NLTK 提供一些实用工具使获得和检查的语义解释更容易。函数interpret_sents()用于批量解释输入句子的列表。它建立一个字典d，其中对每个输入的句子sent，d[sent]是包含sent的分析树和语义表示的(synrep, semrep)对的列表。该值是一个列表，因为sent可能有句法歧义；在下面的例子中，列表中的每个句子只有一个分析树。
>>> sents = ['Irene walks', 'Cyril bites an ankle']
>>> grammar_file = 'grammars/book_grammars/simple-sem.fcfg'
>>> for results in nltk.interpret_sents(sents, grammar_file):
... for (synrep, semrep) in results:
... print(synrep)
(S[SEM=<walk(irene)>]
(NP[-LOC, NUM='sg', SEM=<\P.P(irene)>]
(PropN[-LOC, NUM='sg', SEM=<\P.P(irene)>] Irene))
(VP[NUM='sg', SEM=<\x.walk(x)>]
(IV[NUM='sg', SEM=<\x.walk(x)>, TNS='pres'] walks)))
(S[SEM=<exists z3.(ankle(z3) & bite(cyril,z3))>]
(NP[-LOC, NUM='sg', SEM=<\P.P(cyril)>]
(PropN[-LOC, NUM='sg', SEM=<\P.P(cyril)>] Cyril))
(VP[NUM='sg', SEM=<\x.exists z3.(ankle(z3) & bite(x,z3))>]
(TV[NUM='sg', SEM=<\X x.X(\y.bite(x,y))>, TNS='pres'] bites)
(NP[NUM='sg', SEM=<\Q.exists x.(ankle(x) & Q(x))>]
(Det[NUM='sg', SEM=<\P Q.exists x.(P(x) & Q(x))>] an)
(Nom[NUM='sg', SEM=<\x.ankle(x)>]
(N[NUM='sg', SEM=<\x.ankle(x)>] ankle)))))现在我们已经看到了英文句子如何转换成逻辑形式，前面我们看到了在模型中如何检查逻辑形式的真假。把这两个映射放在一起，我们可以检查一个给定的模型中的英语句子的真值。让我们看看前面定义的模型m。工具evaluate_sents()类似于interpret_sents()，除了我们需要传递一个模型和一个变量赋值作为参数。输出是三元组(synrep, semrep, value)，其中synrep、semrep和以前一样，value是真值。为简单起见，下面的例子只处理一个简单的句子。
>>> v = """
... bertie => b
... olive => o
... cyril => c
... boy => {b}
... girl => {o}
... dog => {c}
... walk => {o, c}
... see => {(b, o), (c, b), (o, c)}
... """
>>> val = nltk.Valuation.fromstring(v)
>>> g = nltk.Assignment(val.domain)
>>> m = nltk.Model(val.domain, val)
>>> sent = 'Cyril sees every boy'
>>> grammar_file = 'grammars/book_grammars/simple-sem.fcfg'
>>> results = nltk.evaluate_sents([sent], grammar_file, m, g)[0]
>>> for (syntree, semrep, value) in results:
... print(semrep)
... print(value)
all z4.(boy(z4) -> see(cyril,z4))
True上述方法的一个重要的限制是它们没有处理范围歧义。我们的翻译方法是句法驱动的，认为语义表示与句法分析紧密耦合，语义中量词的范围也因此反映句法分析树中相应的NP的相对范围。因此，像(26)这样的句子，在这里重复，总是会被翻译为(53a)而不是(53b)。
\P.exists y.(dog(y) & P(y))(\z2.chase(z1,z2))最后，我们调用s_retrieve()检查读法。
>>> cs_semrep.s_retrieve(trace=True)
Permutation 1
(\P.all x.(girl(x) -> P(x)))(\z2.chase(z2,z4))
(\P.exists x.(dog(x) & P(x)))(\z4.all x.(girl(x) -> chase(x,z4)))
Permutation 2
(\P.exists x.(dog(x) & P(x)))(\z4.chase(z2,z4))
(\P.all x.(girl(x) -> P(x)))(\z2.exists x.(dog(x) & chase(z2,x)))>>> for reading in cs_semrep.readings:
... print(reading)
exists x.(dog(x) & all z3.(girl(z3) -> chase(z3,x)))
all x.(girl(x) -> exists z4.(dog(z4) & chase(x,z4)))段落是句子的序列。很多时候，段落中的一个句子的解释依赖它前面的句子。一个明显的例子来自照应代词，如he、she和it。给定一个段落如Angus used to have a dog. But he recently disappeared.，你可能会解释he指的是 Angus 的狗。然而，在Angus used to have a dog. He took him for walks in New Town.中，你更可能解释he指的是Angus自己。
一阶逻辑中的量化的标准方法仅限于单个句子。然而，似乎是有量词的范围可以扩大到两个或两个以上的句子的例子。。我们之前看到过一个，下面是第二个例子，与它的翻译一起。
([x, y], [angus(x), dog(y), own(x,y)])我们可以使用draw()方法❶可视化结果，如 5.2 所示。
>>> drs1.draw() ❶
图 5.2：DRS 截图
我们讨论 5.1 中 DRS 的真值条件时，假设最上面的段落指称被解释为存在量词，而条件也进行了解释，虽然它们是联合的。事实上，每一个 DRS 都可以转化为一阶逻辑公式，fol()方法实现这种转换。
>>> print(drs1.fol())
exists x y.(angus(x) & dog(y) & own(x,y))作为一阶逻辑表达式功能补充，DRT 表达式有 DRS 连接运算符，用+符号表示。两个 DRS 的连接是一个单独的 DRS 包含合并的段落指称和来自两个论证的条件。DRS 连接自动进行 α 转换绑定变量避免名称冲突。
>>> drs2 = read_dexpr('([x], [walk(x)]) + ([y], [run(y)])')
>>> print(drs2)
(([x],[walk(x)]) + ([y],[run(y)]))
>>> print(drs2.simplify())
([x,y],[walk(x), run(y)])虽然迄今为止见到的所有条件都是原子的，一个 DRS 可以内嵌入另一个 DRS，这是全称量词被处理的方式。在drs3中，没有顶层的段落指称，唯一的条件是由两个子 DRS 组成，通过蕴含连接。再次，我们可以使用fol()来获得真值条件的句柄。
>>> drs3 = read_dexpr('([], [(([x], [dog(x)]) -> ([y],[ankle(y), bite(x, y)]))])')
>>> print(drs3.fol())
all x.(dog(x) -> exists y.(ankle(y) & bite(x,y)))我们较早前指出 DRT 旨在通过链接照应代词和现有的段落指称来解释照应代词。DRT 设置约束条件使段落指称可以像先行词那样“可访问”，但并不打算解释一个特殊的先行词如何被从候选集合中选出的。模块nltk.sem.drt_resolve_anaphora采用了类此的保守策略：如果 DRS 包含PRO(x)形式的条件，方法resolve_anaphora()将其替换为x = [...]形式的条件，其中[...]是一个可能的先行词列表。
>>> drs4 = read_dexpr('([x, y], [angus(x), dog(y), own(x, y)])')
>>> drs5 = read_dexpr('([u, z], [PRO(u), irene(z), bite(u, z)])')
>>> drs6 = drs4 + drs5
>>> print(drs6.simplify())
([u,x,y,z],[angus(x), dog(y), own(x,y), PRO(u), irene(z), bite(u,z)])
>>> print(drs6.simplify().resolve_anaphora())
([u,x,y,z],[angus(x), dog(y), own(x,y), (u = [x,y,z]), irene(z), bite(u,z)])由于指代消解算法已分离到它自己的模块，这有利于在替代程序中交换，使对正确的先行词的猜测更加智能。
我们对 DRS 的处理与处理λ-抽象的现有机制是完全兼容的，因此可以直接基于 DRT 而不是一阶逻辑建立组合语义表示。这种技术在下面的不确定性规则（是语法drt.fcfg的一部分）中说明。为便于比较，我们已经从simple-sem.fcfg增加了不确定性的平行规则。
Det[num=sg,SEM=<\P Q.(([x],[]) + P(x) + Q(x))>] -> 'a'
Det[num=sg,SEM=<\P Q. exists x.(P(x) & Q(x))>] -> 'a'我们解释一句话时会使用丰富的上下文知识，一部分取决于前面的内容，一部分取决于我们的背景假设。DRT 提供了一个句子的含义如何集成到前面段落表示中的理论，但是在前面的讨论中明显缺少这两个部分。首先，一直没有尝试纳入任何一种推理；第二，我们只处理了个别句子。这些遗漏由模块nltk.inference.discourse纠正。
段落是一个句子的序列s[1], ..., s[n]，段落线是读法的序列s[1]-r[i], ... s[n]-r[j]，每个序列对应段落中的一个句子。该模块按增量处理句子，当有歧义时保持追踪所有可能的线。为简单起见，下面的例子中忽略了范围歧义。
>>> dt = nltk.DiscourseTester(['A student dances', 'Every student is a person'])
>>> dt.readings()
s0 readings:
s0-r0: exists x.(student(x) & dance(x))
s1 readings:
s1-r0: all x.(student(x) -> person(x))一个新句子添加到当前的段落时，设置参数consistchk=True会通过每条线，即每个可接受的读法的序列的检查模块来检查一致性。在这种情况下，用户可以选择收回有问题的句子。
>>> dt.add_sentence('No person dances', consistchk=True)
Inconsistent discourse: d0 ['s0-r0', 's1-r0', 's2-r0']:
s0-r0: exists x.(student(x) & dance(x))
s1-r0: all x.(student(x) -> person(x))
s2-r0: -exists x.(person(x) & dance(x))>>> dt.retract_sentence('No person dances', verbose=True)
Current sentences are
s0: A student dances
s1: Every student is a person以类似的方式，我们使用informchk=True检查新的句子φ是否对当前的段落有信息量。定理证明器将段落线中现有的句子当做假设，尝试证明φ；如果没有发现这样的证据，那么它是有信息量的。
>>> dt.add_sentence('A person dances', informchk=True)
Sentence 'A person dances' under reading 'exists x.(person(x) & dance(x))':
Not informative relative to thread 'd0'也可以传递另一套假设作为背景知识，并使用这些筛选出不一致的读法；详情请参阅http://nltk.org/howto上的段落 HOWTO。
discourse模块可适应语义歧义，筛选出不可接受的读法。下面的例子调用 Glue 语义和 DRT。由于 Glue 语义模块被配置为使用的覆盖面广的 Malt 依存关系分析器，输入（Every dog chases a boy. He runs.）需要分词和标注。
>>> from nltk.tag import RegexpTagger
>>> tagger = RegexpTagger(
... [('^(chases|runs)$', 'VB'),
... ('^(a)$', 'ex_quant'),
... ('^(every)$', 'univ_quant'),
... ('^(dog|boy)$', 'NN'),
... ('^(He)$', 'PRP')
... ])
>>> rc = nltk.DrtGlueReadingCommand(depparser=nltk.MaltParser(tagger=tagger))
>>> dt = nltk.DiscourseTester(['Every dog chases a boy', 'He runs'], rc)
>>> dt.readings()
s0 readings:
s0-r0: ([],[(([x],[dog(x)]) -> ([z3],[boy(z3), chases(x,z3)]))])
s0-r1: ([z4],[boy(z4), (([x],[dog(x)]) -> ([],[chases(x,z4)]))])
s1 readings:
s1-r0: ([x],[PRO(x), runs(x)])段落的第一句有两种可能的读法，取决于量词的作用域。第二句的唯一的读法通过条件PRO(x)表示代词He。现在让我们看看段落线的结果：
>>> dt.readings(show_thread_readings=True)
d0: ['s0-r0', 's1-r0'] : INVALID: AnaphoraResolutionException
d1: ['s0-r1', 's1-r0'] : ([z6,z10],[boy(z6), (([x],[dog(x)]) ->
([],[chases(x,z6)])), (z10 = z6), runs(z10)])当我们检查段落线d0和d1时，我们看到读法s0-r0，其中every dog超出了a boy的范围，被认为是不可接受的，因为第二句的代词不能得到解释。相比之下，段落线d1中的代词（重写为z24）通过等式(z24 = z20)绑定。
不可接受的读法可以通过传递参数filter=True过滤掉。
>>> dt.readings(show_thread_readings=True, filter=True)
d1: ['s0-r1', 's1-r0'] : ([z12,z15],[boy(z12), (([x],[dog(x)]) ->
([],[chases(x,z12)])), (z17 = z12), runs(z15)])虽然这一小段是极其有限的，它应该能让你对于我们在超越单个句子后产生的语义处理问题，以及部署用来解决它们的技术有所了解。
- 一阶逻辑是一种适合在计算环境中表示自然语言的含义的语言，因为它很灵活，足以表示自然语言含义的很多有用的方面，具有使用一阶逻辑推理的高效的定理证明器。（同样的，自然语言语义中也有各种各样的现象，需要更强大的逻辑机制。）
- 在将自然语言句子翻译成一阶逻辑的同时，我们可以通过检查一阶公式模型表述这些句子的真值条件。
- 为了构建成分组合的意思表示，我们为一阶逻辑补充了λ-演算。
- λ-演算中的β-约简在语义上与函数传递参数对应。句法上，它包括将被函数表达式中的λ绑定的变量替换为函数应用中表达式提供的参数。
- 构建模型的一个关键部分在于建立估值，为非逻辑常量分配解释。这些被解释为
n元谓词或独立常量。 - 一个开放表达式是一个包含一个或多个自由变量的表达式。开放表达式只在它的自由变量被赋值时被解释。
- 量词的解释是对于具有变量
x的公式φ[x]，构建个体的集合，赋值g分配它们作为x的值使φ[x]为真。然后量词对这个集合加以约束。 - 一个封闭的表达式是一个没有自由变量的表达式；也就是，变量都被绑定。一个封闭的表达式是真是假取决于所有变量赋值。
- 如果两个公式只是由绑定操作符（即λ或量词）绑定的变量的标签不同，那么它们是α-等价。重新标记公式中的绑定变量的结果被称为α-转换。
- 给定有两个嵌套量词
Q[1]和Q[2]的公式，最外层的量词Q[1]有较广的范围（或范围超出Q[2]）。英语句子往往由于它们包含的量词的范围而产生歧义。 - 在基于特征的语法中英语句子可以通过将
sem作为特征与语义表达关联。一个复杂的表达式的sem值通常包括成分表达式的sem值的函数应用。
关于本章的进一步材料以及如何安装 Prover9 定理证明器和 Mace4 模型生成器的内容请查阅http://nltk.org/。这两个推论工具一般信息见（McCune, 2008）。
用 NLTK 进行语义分析的更多例子，请参阅http://nltk.org/howto上的语义和逻辑 HOWTO。请注意，范围歧义还有其他两种解决方法，即（Blackburn & Bos, 2005）描述的 Hole 语义和（Dalrymple, 1999）描述的 Glue 语义。
自然语言语义中还有很多现象没有在本章中涉及到，主要有：
- 事件、时态和体；
- 语义角色；
- 广义量词，如
most； - 内涵结构，例如像
may和believe这样的动词。
(1)和(2)可以使用一阶逻辑处理，(3)和(4)需要不同的逻辑。下面的读物中很多都讲述了这些问题。
建立自然语言前端数据库方面的结果和技术的综合概述可以在（Androutsopoulos, Ritchie, & Thanisch, 1995）中找到。
任何一本现代逻辑的入门书都将提出命题和一阶逻辑。强烈推荐（Hodges, 1977），书中有很多有关自然语言的有趣且有洞察力的文字和插图。
要说范围广泛，参阅两卷本的关于逻辑教科书（Gamut, 1991）和（Gamut, 1991），也包含了有关自然语言的形式语义的当代材料，例如 Montague 文法和内涵逻辑。（Kamp & Reyle, 1993）提供段落表示理论的权威报告，包括涵盖大量且有趣的自然语言片段，包括时态、体和形态。另一个对许多自然语言结构的语义的全面研究是（Carpenter, 1997）。
有许多作品介绍语言学理论框架内的逻辑语义。（Chierchia & McConnell-Ginet, 1990）与句法相对无关，而（Heim & Kratzer, 1998）和（Larson & Segal, 1995）都更明确的倾向于将语义真值条件整合到乔姆斯基框架中。
（Blackburn & Bos, 2005）是致力于计算语义的第一本教科书，为该领域提供了极好的介绍。它扩展了许多本章涵盖的主题，包括量词范围歧义的未指定、一阶逻辑推理以及段落处理。
要获得更先进的当代语义方法的概述，包括处理时态和广义量词，尝试查阅（Lappin, 1996）或（Benthem & Meulen, 1997）。
-
☼ 将下列句子翻译成命题逻辑，并用
Expression.fromstring()验证结果。提供显示你的翻译中命题变量如何对应英语表达的一个要点。- If Angus sings, it is not the case that Bertie sulks.
- Cyril runs and barks.
- It will snow if it doesn't rain.
- It's not the case that Irene will be happy if Olive or Tofu comes.
- Pat didn't cough or sneeze.
- If you don't come if I call, I won't come if you call.
-
☼ 翻译下面的句子为一阶逻辑的谓词参数公式。
- Angus likes Cyril and Irene hates Cyril.
- Tofu is taller than Bertie.
- Bruce loves himself and Pat does too.
- Cyril saw Bertie, but Angus didn't.
- Cyril is a fourlegged friend.
- Tofu and Olive are near each other.
-
☼ 翻译下列句子为成一阶逻辑的量化公式。
- Angus likes someone and someone likes Julia.
- Angus loves a dog who loves him.
- Nobody smiles at Pat.
- Somebody coughs and sneezes.
- Nobody coughed or sneezed.
- Bruce loves somebody other than Bruce.
- Nobody other than Matthew loves somebody Pat.
- Cyril likes everyone except for Irene.
- Exactly one person is asleep.
-
☼ 翻译下列动词短语，使用λ-抽象和一阶逻辑的量化公式。
- feed Cyril and give a capuccino to Angus
- be given 'War and Peace' by Pat
- be loved by everyone
- be loved or detested by everyone
- be loved by everyone and detested by no-one
-
☼ 思考下面的语句：
>>> read_expr = nltk.sem.Expression.fromstring >>> e2 = read_expr('pat') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) exists y.love(pat, y)
显然这里缺少了什么东西，即
e1值的声明。为了ApplicationExpression(e1, e2)被β-转换为exists y.love(pat, y)，e1必须是一个以pat为参数的λ-抽象。你的任务是构建这样的一个抽象，将它绑定到e1，使上面的语句都是满足（上到字母方差）。此外，提供一个e3.simplify()的非正式的英文翻译。现在根据
e3.simplify()的进一步情况（如下所示）继续做同样的任务。>>> print(e3.simplify()) exists y.(love(pat,y) | love(y,pat))
>>> print(e3.simplify()) exists y.(love(pat,y) | love(y,pat))
>>> print(e3.simplify()) walk(fido)
-
☼ 如前面的练习中那样，找到一个λ-抽象
e1，产生与下面显示的等效的结果。>>> e2 = read_expr('chase') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) \x.all y.(dog(y) -> chase(x,pat))
>>> e2 = read_expr('chase') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) \x.exists y.(dog(y) & chase(pat,x))
>>> e2 = read_expr('give') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) \x0 x1.exists y.(present(y) & give(x1,y,x0))
-
☼ 如前面的练习中那样，找到一个λ-抽象
e1，产生与下面显示的等效的结果。>>> e2 = read_expr('bark') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) exists y.(dog(x) & bark(x))
>>> e2 = read_expr('bark') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) bark(fido)
>>> e2 = read_expr('\\P. all x. (dog(x) -> P(x))') >>> e3 = nltk.sem.ApplicationExpression(e1, e2) >>> print(e3.simplify()) all x.(dog(x) -> bark(x))
-
◑ 开发一种方法，翻译英语句子为带有二元广义量词的公式。在此方法中，给定广义量词
Q，量化公式的形式为Q(A, B)，其中A和B是<e, t>类型的表达式。那么，例如all(A, B)为真当且仅当A表示的是B所表示的一个子集。 -
◑ 扩展前面练习中的方法，使量词如
most和exactly three的真值条件可以在模型中计算。 -
◑ 修改
sem.evaluate代码，使它能提供一个有用的错误消息，如果一个表达式不在模型的估值函数的域中。 -
★ 从儿童读物中选择三个或四个连续的句子。一个例子是
nltk.corpus.gutenberg中的故事集：bryant-stories.txt，burgess-busterbrown.txt和edgeworth-parents.txt。开发一个语法，能将你的句子翻译成一阶逻辑，建立一个模型，使它能检查这些翻译为真或为假。 -
★ 实施前面的练习，但使用 DRT 作为意思表示。
-
（Warren & Pereira, 1982）为出发点，开发一种技术，转换一个自然语言查询为一种可以更加有效的在模型中评估的形式。例如，给定一个
(P(x) & Q(x))形式的查询，将它转换为(Q(x) & P(x))，如果Q的范围比P小。
针对 NLTK 3.0 作出更新。本章来自于《Python 自然语言处理》，Steven Bird, Ewan Klein 和 Edward Loper，Copyright © 2014 作者所有。本章依据 Creative Commons Attribution-Noncommercial-No Derivative Works 3.0 United States License 条款，与自然语言工具包 3.0 版一起发行。
本文档构建于星期三 2015 年 7 月 1 日 12:30:05 AEST