优化 Python 代码以及借助各种可用于让代码更快运行的 Python 工具
标签: Python
Jean Puget
发布: 2016-02-01
我是否应丢弃 Python 和其他语言，使用 Julia 执行技术计算？在看到 http://julialang.org/ 上的基准测试后，人们一定会这么想。Python 和其他高级语言在速度上远远有些落后。但是，我想到的第一个问题有所不同：Julia 团队能否以最适合 Python 的方式编写 Python 基准测试？
我对这种跨语言比较的观点是，应该根据要执行的任务来定义基准测试，然后由语言专家编写执行这些任务的最佳代码。如果代码全由一个语言团队编写，则存在其他语言未得到最佳使用的风险。
Julia 团队有一件事做得对，那就是他们将 他们使用的代码 发布到了 github 上。具体地讲，Python 代码可在 此处 找到。
第一眼看到该代码，就可以证实我所害怕的偏见。该代码是以 C 风格编写的，在数组和列表上大量使用了循环。这不是使用 Python 的最佳方式。
我不会责怪 Julia 团队，因为我很内疚自己也有同样的偏见。但我受到了残酷的教训：付出任何代价都要避免数组或列表上的循环，因为它们确实会拖慢 Python 中的速度，请参阅 Python 不是 C 。
考虑到对 C 风格的这种偏见，一个有趣的问题（至少对我而言）是，我们能否改进这些基准测试，更好地使用 Python 及其工具？
在我给出答案之前，我想说我绝不会试图贬低 Julia。在进一步开发和改进后，Julia 无疑是一种值得关注的语言。我只是想分析 Python 方面的事情。实际上，我正在以此为借口来探索各种可用于让代码更快运行的 Python 工具。
在下面的内容中，我使用 Docker 镜像 在 Jupyter Notebook 中使用 Python 3.4.3，其中已安装了所有的 Python 科学工具组合。我还会通过 Windows 机器上的 Python 2.7.10，使用 Anaconda 来运行代码。计时是对 Python 3.4.3 执行的。包含下面的所有基准测试的完整代码的 Notebook 可在 此处 找到。
鉴于各种社交媒体上的评论，我添加了这样一句话：我没有在这里使用 Python 的替代性实现。我没有编写任何 C 代码：如果您不信，可试试寻找分号。本文中使用的所有工具都是 Anaconda 或其他发行版中提供的标准的 Cython 实现。下面的所有代码都在 单个 Notebook 中运行。
我尝试过使用来自 github 的 Julia 微性能文件，但不能使用 Julia 0.4.2 原封不动地运行它。我必须编辑它并将 @timeit 替换为 @time，它才能运行。在对它们计时之前，我还必须添加对计时函数的调用，否则编译时间也将包含在内。我使用的文件位于 此处 。我在用于运行 Python 的同一个机器上使用 Julia 命令行接口运行它。
Julia 团队使用的第一项基准测试是 Fibonacci 函数的一段简单编码。
def fib(n):
if n<2:
return n
return fib(n-1)+fib(n-2)
Show moreShow more icon
此函数的值随 n 的增加而快速增加，例如：
fib(100) = 354224848179261915075
Show moreShow more icon
可以注意到，Python 任意精度 (arbitrary precision) 很方便。在 C 等语言中编写相同的函数需要花一些编码工作来避免整数溢出。在 Julia 中，需要使用 BigInt 类型。
所有 Julia 基准测试都与运行时间有关。这是 Julia 中使用和不使用 BigInt 的计时：
0.000080 seconds (149 allocations:10.167 KB)
0.012717 seconds (262.69 k allocations:4.342 MB)
Show moreShow more icon
在 Python Notebook 中获得运行时间的一种方式是使用神奇的 %timeit。例如，在一个新单元中键入：
%timeit fib(20)
Show moreShow more icon
执行它会获得输出：
100 loops, best of 3:3.33 ms per loop
Show moreShow more icon
这意味着计时器执行了以下操作：
- 运行 fib(20) 100 次，存储总运行时间
- 运行 fib(20) 100 次，存储总运行时间
- 运行 fib(20) 100 次，存储总运行时间
- 从 3 次运行中获取最小的运行时间，将它除以 100，然后输出结果，该结果就是 fib(20) 的最佳运行时间
这些循环的大小（100 次和 3 次）会由计时器自动调整。可能会根据被计时的代码的运行速度来更改循环大小。
Python 计时与使用了 BigInt 时的 Julia 计时相比出色得多：3 毫秒与 12 毫秒。在使用任意精度时，Python 的速度是 Julia 的 4 倍。
但是，Python 比 Julia 默认的 64 位整数要慢。我们看看如何在 Python 中强制使用 64 位整数。
一种编译方式是使用 Cython 编译器。这个编译器是使用 Python 编写的。它可以通过以下命令安装：
pip install Cython
如果使用 Anaconda，安装会有所不同。因为安装有点复杂，所以我编写了一篇相关的博客文章： 将 Cython For Anaconda 安装在 Windows 上
安装后，我们使用神奇的 %load_ext 将 Cython 加载到 Notebook 中：
%load_ext Cython
Show moreShow more icon
然后就可以在我们的 Notebook 中编译代码。我们只需要将想要编译的代码放在一个单元中，包括所需的导入语句，使用神奇的 %%cython 启动该单元：
%%cython
def fib_cython(n):
if n<2:
return n
return fib_cython(n-1)+fib_cython(n-2)
Show moreShow more icon
执行该单元会无缝地编译这段代码。我们为该函数使用一个稍微不同的名称，以反映出它是使用 Cython 编译的。当然，一般不需要这么做。我们可以将之前的函数替换为相同名称的已编译函数。
对它计时会得到：
1000 loops, best of 3:1.22 ms per loop
Show moreShow more icon
哇，几乎比最初的 Python 代码快 3 倍！我们现在比使用 BigInt 的 Julia 快 100 倍。
我们还可以尝试静态类型。使用关键字 cpdef 而不是 def 来声明该函数。它使我们能够使用相应的 C 类型来键入函数的参数。我们的代码变成了：
%%cython
cpdef long fib_cython_type(long n):
if n<2:
return n
return fib_cython_type(n-1)+fib_cython_type(n-2)
Show moreShow more icon
执行该单元后，对它计时会得到：
10000 loops, best of 3:36 µs per loop
Show moreShow more icon
太棒了，我们现在只花费了 36 微秒，比最初的基准测试快约 100 倍！这与 Julia 所花的 80 毫秒相比更出色。
有人可能会说，静态类型违背了 Python 的用途。一般来讲，我比较同意这种说法，我们稍后将查看一种在不牺牲性能的情况下避免这种情形的方法。但我并不认为这是一个问题。Fibonacci 函数必须使用整数来调用。我们在静态类型中失去的是 Python 所提供的任意精度。对于 Fibonacci，使用 C 类型 long 会限制输入参数的大小，因为太大的参数会导致整数溢出。
请注意，Julia 计算也是使用 64 位整数执行的，因此将我们的静态类型版本与 Julia 的对比是公平的。
我们在保留 Python 任意精度的情况下能做得更好。fib 函数重复执行同一种计算许多次。例如，fib(20) 将调用 fib(19) 和 fib(18)。fib(19) 将调用 fib(18) 和 fib(17)。结果 fib(18) 被调用了两次。简单分析表明，fib(17) 将被调用 3 次，fib(16) 将被调用 5 次，等等。
在 Python 3 中，我们可以使用 functools 标准库来避免这些重复的计算。
from functools import lru_cache as cache
@cache(maxsize=None)
def fib_cache(n):
if n<2:
return n
return fib_cache(n-1)+fib_cache(n-2)
Show moreShow more icon
对此函数计时会得到：
1000000 loops, best of 3:910 ns per loop
Show moreShow more icon
速度又增加了 40 倍，比最初的 Python 代码快约 3,600 倍！考虑到我们仅向递归函数添加了一条注释，此结果非常令人难忘。
Python 2.7 中没有提供这种自动缓存。我们需要显式地转换代码，才能避免这种情况下的重复计算。
def fib_seq(n):
if n < 2:
return n
a,b = 1,0
for i in range(n-1):
a,b = a+b,a
return a
Show moreShow more icon
请注意，此代码使用了 Python 同时分配两个局部变量的能力。对它计时会得到：
1000000 loops, best of 3:1.77 µs per loop
Show moreShow more icon
我们又快了 20 倍！让我们在使用和不使用静态类型的情况下编译我们的函数。请注意，我们使用了 cdef 关键字来键入局部变量。
%%cython
def fib_seq_cython(n):
if n < 2:
return n
a,b = 1,0
for i in range(n-1):
a,b = a+b,a
return a
cpdef long fib_seq_cython_type(long n):
if n < 2:
return n
cdef long a,b
a,b = 1,0
for i in range(n-1):
a,b = a+b,b
return a
Show moreShow more icon
我们可在一个单元中对两个版本计时：
%timeit fib_seq_cython(20)
%timeit fib_seq_cython_type(20)
Show moreShow more icon
结果为：
1000000 loops, best of 3:953 ns per loop
10000000 loops, best of 3:51.9 ns per loop
Show moreShow more icon
静态类型代码现在花费的时间为 51.9 纳秒，比最初的基准测试快约 60,000（六万）倍。
如果我们想计算任意输入的 Fibonacci 数，我们应坚持使用无类型版本，该版本的运行速度快 3,500 倍。还不错，对吧？
让我们使用另一个名为 Numba 的工具。它是针对部分 Python 版本的一个即时 (jit) 编译器。它不是对所有 Python 版本都适用，但在适用的情况下，它会带来奇迹。
安装它可能很麻烦。推荐使用像 Anaconda 这样的 Python 发行版或一个已安装了 Numba 的 Docker 镜像 。完成安装后，我们导入它的 jit 编译器：
from numba import jit
Show moreShow more icon
它的使用非常简单。我们仅需要向想要编译的函数添加一点修饰。我们的代码变成了：
@jit
def fib_seq_numba(n):
if n < 2:
return n
(a,b) = (1,0)
for i in range(n-1):
(a,b) = (a+b,a)
return a
Show moreShow more icon
对它计时会得到：
1000000 loops, best of 3:225 ns per loop
Show moreShow more icon
比无类型的 Cython 代码更快，比最初的 Python 代码快约 16,000 倍！
我们现在来看看第二项基准测试。它是快速排序算法的实现。Julia 团队使用了以下 Python 代码：
def qsort_kernel(a, lo, hi):
i = lo
j = hi
while i < hi:
pivot = a[(lo+hi) // 2]
while i <= j:
while a[i] < pivot:
i += 1
while a[j] > pivot:
j -= 1
if i <= j:
a[i], a[j] = a[j], a[i]
i += 1
j -= 1
if lo < j:
qsort_kernel(a, lo, j)
lo = i
j = hi
return a
Show moreShow more icon
我将他们的基准测试代码包装在一个函数中：
import random
def benchmark_qsort():
lst = [ random.random() for i in range(1,5000) ]
qsort_kernel(lst, 0, len(lst)-1)
Show moreShow more icon
对它计时会得到：
100 loops, best of 3:18.3 ms per loop
Show moreShow more icon
上述代码与 C 代码非常相似。Cython 应该能很好地处理它。除了使用 Cython 和静态类型之外，让我们使用 Numpy 数组代替列表。在数组大小较大时，比如数千个或更多元素， Numpy 数组确实比 Python 列表更快。
安装 Numpy 可能会花一些时间，推荐使用 Anaconda 或一个已安装了 Python 科学工具组合的 Docker 镜像 。
在使用 Cython 时，需要将 Numpy 导入到应用了 Cython 的单元中。在使用 C 类型时，还必须使用 cimport 将它作为 C 模块导入。Numpy 数组使用一种表示数组元素类型和数组维数（一维、二维等）的特殊语法来声明。
%%cython
import numpy as np
cimport numpy as np
cpdef np.ndarray[double, ndim=1] \
qsort_kernel_cython_numpy_type(np.ndarray[double, ndim=1] a, \
long lo, \
long hi):
cdef:
long i, j
double pivot
i = lo
j = hi
while i < hi:
pivot = a[(lo+hi) // 2]
while i <= j:
while a[i] < pivot:
i += 1
while a[j] > pivot:
j -= 1
if i <= j:
a[i], a[j] = a[j], a[i]
i += 1
j -= 1
if lo < j:
qsort_kernel_cython_numpy_type(a, lo, j)
lo = i
j = hi
return a
cpdef benchmark_qsort_numpy_cython():
lst = np.random.rand(5000)
qsort_kernel_cython_numpy_type(lst, 0, len(lst)-1)
Show moreShow more icon
对 benchmark_qsort_numpy_cython() 函数计时会得到：
1000 loops, best of 3:1.32 ms per loop
Show moreShow more icon
我们比最初的基准测试快了约 15 倍，但这仍然不是使用 Python 的最佳方法。最佳方法是使用 Numpy 内置的 sort() 函数。它的默认行为是使用快速排序算法。对此代码计时：
def benchmark_sort_numpy():
lst = np.random.rand(5000)
np.sort(lst)
Show moreShow more icon
会得到：
1000 loops, best of 3:350 µs per loop
Show moreShow more icon
我们现在比最初的基准测试快 52 倍！Julia 在该基准测试上花费了 419 微秒，因此编译的 Python 快 20%。
我知道，一些读者会说我不会进行同类比较。我不同意。请记住，我们现在的任务是使用主机语言以最佳的方式排序输入数组。在这种情况下，最佳方法是使用一个内置的函数。
我们现在来看看第三个示例，计算 Mandelbrodt 集。Julia 团队使用了这段 Python 代码：
def mandel(z):
maxiter = 80
c = z
for n in range(maxiter):
if abs(z) > 2:
return n
z = z*z + c
return maxiter
def mandelperf():
r1 = np.linspace(-2.0, 0.5, 26)
r2 = np.linspace(-1.0, 1.0, 21)
return [mandel(complex(r, i)) for r in r1 for i in r2]
assert sum(mandelperf()) == 14791
Show moreShow more icon
最后一行是一次合理性检查。对 mandelperf() 函数计时会得到：
100 loops, best of 3:4.62 ms per loop
Show moreShow more icon
使用 Cython 会得到：
100 loops, best of 3:1.94 ms per loop
Show moreShow more icon
还不错，但我们可以使用 Numba 做得更好。不幸的是，Numba 还不会编译列表推导式 (list comprehension)。因此，我们不能将它应用到第二个函数，但我们可以将它应用到第一个函数。我们的代码类似以下代码。
@jit
def mandel_numba(z):
maxiter = 80
c = z
for n in range(maxiter):
if abs(z) > 2:
return n
z = z*z + c
return maxiter
def mandelperf_numba():
r1 = np.linspace(-2.0, 0.5, 26)
r2 = np.linspace(-1.0, 1.0, 21)
return [mandel_numba(complex(r, i)) for r in r1 for i in r2]
Show moreShow more icon
对它计时会得到：
1000 loops, best of 3:503 µs per loop
Show moreShow more icon
还不错，比 Cython 快 4 倍，比最初的 Python 代码快 9 倍！
我们还能做得更好吗？要知道是否能做得更好，一种方式是剖析代码。内置的 %prun 剖析器在这里不够精确，我们必须使用一个称为 line_profiler 的更好的剖析器。它可以通过 pip 进行安装：
pip install line_profiler
Show moreShow more icon
安装后，我们需要加载它：
%load_ext line_profiler
Show moreShow more icon
然后使用一个神奇的命令剖析该函数：
%lprun -s -f mandelperf_numba mandelperf_numba()
Show moreShow more icon
它在一个弹出窗口中输出以下信息。
Timer unit:1e-06 s
Total time:0.003666 s
File:<ipython-input-102-e6043a6167d6>
Function: mandelperf_numba at line 11
Line # Hits Time Per Hit % Time Line Contents
==============================================================
11 def mandelperf_numba():
12 1 1994 1994.0 54.4 r1 = np.linspace(-2.0, 0.5, 26)
13 1 267 267.0 7.3 r2 = np.linspace(-1.0, 1.0, 21)
14 1 1405 1405.0 38.3 return [mandel_numba(complex(r, i)) for r in r1 for i in r2]
Show moreShow more icon
我们看到，大部分时间都花费在了 mandelperf_numba() 函数的第一行和最后一行上。最后一行有点复杂，让我们将它分为两部分来再次剖析：
def mandelperf_numba():
r1 = np.linspace(-2.0, 0.5, 26)
r2 = np.linspace(-1.0, 1.0, 21)
c3 = [complex(r, i) for r in r1 for i in r2]
return [mandel_numba(c) for c in c3]
Show moreShow more icon
剖析器输出变成：
Timer unit:1e-06 s
Total time:0.002002 s
File:<ipython-input-113-ba7b044b2c6c>
Function: mandelperf_numba at line 11
Line # Hits Time Per Hit % Time Line Contents
==============================================================
11 def mandelperf_numba():
12 1 678 678.0 33.9 r1 = np.linspace(-2.0, 0.5, 26)
13 1 235 235.0 11.7 r2 = np.linspace(-1.0, 1.0, 21)
14 1 617 617.0 30.8 c3 = [complex(r, i) for r in r1 for i in r2]
15 1 472 472.0 23.6 return [mandel_numba(c) for c in c3]
Show moreShow more icon
我们可以看到，对函数 mandel_numba() 的调用仅花费了总时间的 1/4。剩余时间花在 mandelperf_numba() 函数上。花时间优化它是值得的。
使用 Cython 在这里没有太大帮助，而且 Numba 不适用。摆脱此困境的一种方法是再次使用 Numpy。我们将以下代码替换为生成等效结果的 Numpy 代码。
return [mandel_numba(complex(r, i)) for r in r1 for i in r2]
Show moreShow more icon
此代码构建了所谓的二维网格。它计算由 r1 和 r2 提供坐标的点的复数表示。点 Pij 的坐标为 r1[i] 和 r2[j]。Pij 通过复数 r1[i] + 1j*r2[j] 进行表示，其中特殊常量 1j 表示单个虚数 i。
我们可以直接编写此计算的代码：
@jit
def mandelperf_numba_mesh():
width = 26
height = 21
r1 = np.linspace(-2.0, 0.5, width)
r2 = np.linspace(-1.0, 1.0, height)
mandel_set = np.zeros((width,height), dtype=int)
for i in range(width):
for j in range(height):
mandel_set[i,j] = mandel_numba(r1[i] + 1j*r2[j])
return mandel_set
Show moreShow more icon
请注意，我将返回值更改为了一个二维整数数组。如果要显示结果，该结果与我们需要的结果更接近。
对它计时会得到：
10000 loops, best of 3:140 µs per loop
Show moreShow more icon
我们比最初的 Python 代码快约 33 倍！Julia 在该基准测试上花费了 196 微秒，因此编译的 Python 快 40%。
让我们来看另一个示例。老实地讲，我不确定要度量什么，但这是 Julia 团队使用的代码。
def parse_int():
for i in range(1,1000):
n = random.randint(0,2**32-1)
s = hex(n)
if s[-1]=='L':
s = s[0:-1]
m = int(s,16)
assert m == n
Show moreShow more icon
实际上，Julia 团队的代码有一条额外的指令，用于在存在末尾的 ‘L’ 时删除它。我的 Anaconda 安装需要这一行，但我的 Python 3 安装不需要它，所以我删除了它。最初的代码是：
def parse_int():
for i in range(1,1000):
n = random.randint(0,2**32-1)
s = hex(n)
if s[-1]=='L':
s = s[0:-1]
m = int(s,16)
assert m == n
Show moreShow more icon
对修改后的代码计时会得到：
100 loops, best of 3:3.33 ms per loop
Show moreShow more icon
Numba 似乎没什么帮助。Cython 代码运行速度快了约 5 倍：
1000 loops, best of 3:617 µs per loop
Show moreShow more icon
Cython 代码运行速度快了约 5 倍，但这还不足以弥补与 Julia 的差距。
我对此基准测试感到迷惑不解，我剖析了最初的代码。以下是结果：
Timer unit:1e-06 s
Total time:0.013807 s
File:<ipython-input-3-1d995505b176>
Function: parse_int at line 1
Line # Hits Time Per Hit % Time Line Contents
==============================================================
1 def parse_int():
2 1000 699 0.7 5.1 for i in range(1,1000):
3 999 9149 9.2 66.3 n = random.randint(0,2**32-1)
4 999 1024 1.0 7.4 s = hex(n)
5 999 863 0.9 6.3 if s[-1]=='L':
6 s = s[0:-1]
7 999 1334 1.3 9.7 m = int(s,16)
8 999 738 0.7 5.3 assert m == n
Show moreShow more icon
可以看到，大部分时间都花费在了生成随机数上。我不确定这是不是该基准测试的意图。
加速此测试的一种方式是使用 Numpy 将随机数生成移到循环之外。我们一次性创建一个随机数数组。
def parse_int_vec():
n = np.random.randint(0,2**32-1,1000)
for i in range(1,1000):
ni = n[i]
s = hex(ni)
m = int(s,16)
assert m == ni
Show moreShow more icon
对它计时会得到：
1000 loops, best of 3:848 µs per loop
Show moreShow more icon
还不错，快了 4 倍，接近于 Cython 代码的速度。
拥有数组后，通过循环它来一次向某个元素应用 hex() 和 int() 函数似乎很傻。好消息是，Numpy 提供了一种向数组应用函数的方法，而不必使用循环，该函数是 numpy.vectorize() 函数。此函数接受一次处理一个对象的函数。它返回一个处理数组的新函数。
vhex = np.vectorize(hex)
vint = np.vectorize(int)
def parse_int_numpy():
n = np.random.randint(0,2**32-1,1000)
s = vhex(n)
m = vint(s,16)
np.all(m == n)
return s
Show moreShow more icon
此代码运行速度更快了一点，几乎像 Cython 代码一样快：
1000 loops, best of 3:703 µs per loop
Show moreShow more icon
我肯定 Python 专家能够比我在这里做得更好，因为我不太熟悉 Python 解析，但这再一次表明避免 Python 循环是个不错的想法。
上面介绍了如何加快 Julia 团队所使用的 4 个示例的运行速度。还有 3 个例子：
- pisum 使用 Numba 的运行速度快 29 倍。
- randmatstat 使用 Numpy 可将速度提高 2 倍。
- randmatmul 很简单，没有工具可应用到它之上。
包含所有 7 个示例的完整代码的 Notebook 可在 此处 获得。
我们在一个表格中总结一下我们的结果。我们给出了在最初的 Python 代码与优化的代码之间实现的加速。我们还给出了对 Julia 团队使用的每个基准测试示例使用的工具。
时间以微秒为单位JuliaPython 优化后的代码Python 初始代码Julia / Python 优化后的代码NumpyNumbaCythonFibonacci 64 位8036不使用2.2XFib BigInt12,7171,2203,33010快速排序41935018,3001.2XMandelbrodt1961404,6201.4XXpisum34,78335,300804,0000.99Xrandmatmul95,975137,000137,0000.73parse int2446173,3300.4XXrandmatstat14,544117,000230,0000.12X
这个表格表明，在前 4 个示例中，优化的 Python 代码比 Julia 更快，后 3 个示例更慢。请注意，为了公平起见，对于 Fibonacci，我使用了递归代码。
我认为这些小型的基准测试没有提供哪种语言最快的明确答案。举例而言，randmatstat 示例处理 5×5 矩阵。使用 Numpy 数组处理它有点小题大做。应该使用更大的矩阵执行基准测试。
我相信，应该在更复杂的代码上对语言执行基准测试。 Python 与 Julia 比较–一个来自机器学习的示例 中提供了一个不错的示例。在该文章中，Julia 似乎优于 Cython。如果我有时间，我会使用 Numba 试一下。
无论如何，可以说，在这个小型基准测试上，使用正确的工具时，Python 的性能与 Julia 的性能不相上下。相反地，我们也可以说，Julia 的性能与编译后的 Python 不相上下。考虑到 Julia 不需要对代码进行任何注释或修改，所以这本身就很有趣。
我们暂停一会儿。我们已经看到在 Python 代码性能至关重要时，应该使用许多工具：
- 使用 line_profiler 执行剖析。
- 编写更好的 Python 代码来避免不必要的计算。
- 使用向量化的操作和通过 Numpy 来广播。
- 使用 Cython 或 Numba 编译。
使用这些工具来了解它们在哪些地方很有用。与此同时，请谨慎使用这些工具。分析您的代码，以便可以将精力放在值得优化的地方。重写代码来让它变得更快，有时会让它难以理解或通用性降低。因此，仅在得到的加速物有所值时这么做。Donald Knuth 曾经恰如其分地提出了这条建议：
“我们在 97% 的时间应该忘记较小的效率：不成熟的优化是万恶之源。”
但是请注意，Knuth 的引语并不意味着优化是不值得的，例如，请查看 停止错误地引用 Donald Knuth 的话！ 和 ‘不成熟的优化是恶魔’的谎言 。
Python 代码可以优化，而且应该在有意义的时间和位置进行优化。
我们最后给出一个讨论我所使用的工具和其他工具的有趣文章列表：
- 如何优化速度 。scipy 团队的一篇简短的优化指南。其中还讨论了内存剖析。
- Numba 与 Cython 对比：第二版. 理解 FFT 算法 和 优化现实中的 Python：NumPy、Numba 和 NUFFT 。来自 Jake Vanderplas 的三篇有趣的文章。在最后一篇中，他展示了如何结合使用 Python 与 Numba，得到仅比高度优化的 Fortran 代码慢 30% 的代码。
- pandas 文档中的 增强性能 。一篇讲述如何让 pandas 代码更快的实用指南。
- Cython 文档中的 通过静态类型实现更快的代码
- Python 不是 C：第二版 。
2015 年 12 月 16 日更新。Python 3.4 拥有一个能显著加速 Fibonacci() 函数的内置缓存。我更新了这篇文章来展示它的用途。
2015 年 12 月 17 日更新。在运行 Python 的相同机器上 运行 Julia 0.4.2 会导致时间增加。