电子书/Hello 算法

14 / 20

第 12 章分治

约 0.6 万字 · 0 阅读

摘要

难题被逐层拆解，每一次的拆解都使它变得更为简单。

分而治之揭示了一个重要的事实：从简单做起，一切都不再复杂。

分治算法

分治（divide and conquer），全称分而治之，是一种非常重要且常见的算法策略。分治通常基于递归实现，包括“分”和“治”两个步骤。

分（划分阶段）：递归地将原问题分解为两个或多个子问题，直至到达最小子问题时终止。
治（合并阶段）：从已知解的最小子问题开始，从底至顶地将子问题的解进行合并，从而构建出原问题的解。

如下图所示，“归并排序”是分治策略的典型应用之一。

分：递归地将原数组（原问题）划分为两个子数组（子问题），直到子数组只剩一个元素（最小子问题）。
治：从底至顶地将有序的子数组（子问题的解）进行合并，从而得到有序的原数组（原问题的解）。

归并排序的分治策略

如何判断分治问题

一个问题是否适合使用分治解决，通常可以参考以下几个判断依据。

问题可以分解：原问题可以分解成规模更小、类似的子问题，以及能够以相同方式递归地进行划分。
子问题是独立的：子问题之间没有重叠，互不依赖，可以独立解决。
子问题的解可以合并：原问题的解通过合并子问题的解得来。

显然，归并排序满足以上三个判断依据。

问题可以分解：递归地将数组（原问题）划分为两个子数组（子问题）。
子问题是独立的：每个子数组都可以独立地进行排序（子问题可以独立进行求解）。
子问题的解可以合并：两个有序子数组（子问题的解）可以合并为一个有序数组（原问题的解）。

通过分治提升效率

分治不仅可以有效地解决算法问题，往往还可以提升算法效率。在排序算法中，快速排序、归并排序、堆排序相较于选择、冒泡、插入排序更快，就是因为它们应用了分治策略。

那么，我们不禁发问：为什么分治可以提升算法效率，其底层逻辑是什么？换句话说，将大问题分解为多个子问题、解决子问题、将子问题的解合并为原问题的解，这几步的效率为什么比直接解决原问题的效率更高？这个问题可以从操作数量和并行计算两方面来讨论。

操作数量优化

以“冒泡排序”为例，其处理一个长度为 $n$ 的数组需要 $O(n^2)$ 时间。假设我们按照下图所示的方式，将数组从中点处分为两个子数组，则划分需要 $O(n)$ 时间，排序每个子数组需要 $O((n / 2)^2)$ 时间，合并两个子数组需要 $O(n)$ 时间，总体时间复杂度为：

$O(n + (\frac{n}{2})^2 \times 2 + n) = O(\frac{n^2}{2} + 2n)$

划分数组前后的冒泡排序

接下来，我们计算以下不等式，其左边和右边分别为划分前和划分后的操作总数：

$\begin{aligned} n^2 & > \frac{n^2}{2} + 2n \newline n^2 - \frac{n^2}{2} - 2n & > 0 \newline n(n - 4) & > 0 \end{aligned}$

这意味着当 $n > 4$ 时，划分后的操作数量更少，排序效率应该更高。请注意，划分后的时间复杂度仍然是平方阶 $O(n^2)$ ，只是复杂度中的常数项变小了。

进一步想，如果我们把子数组不断地再从中点处划分为两个子数组，直至子数组只剩一个元素时停止划分呢？这种思路实际上就是“归并排序”，时间复杂度为 $O(n \log n)$ 。

再思考，如果我们多设置几个划分点，将原数组平均划分为 $k$ 个子数组呢？这种情况与“桶排序”非常类似，它非常适合排序海量数据，理论上时间复杂度可以达到 $O(n + k)$ 。

并行计算优化

我们知道，分治生成的子问题是相互独立的，因此通常可以并行解决。也就是说，分治不仅可以降低算法的时间复杂度，还有利于操作系统的并行优化。

并行优化在多核或多处理器的环境中尤其有效，因为系统可以同时处理多个子问题，更加充分地利用计算资源，从而显著减少总体的运行时间。

比如在下图所示的“桶排序”中，我们将海量的数据平均分配到各个桶中，则可将所有桶的排序任务分散到各个计算单元，完成后再合并结果。

桶排序的并行计算

分治常见应用

一方面，分治可以用来解决许多经典算法问题。

寻找最近点对：该算法首先将点集分成两部分，然后分别找出两部分中的最近点对，最后找出跨越两部分的最近点对。
大整数乘法：例如 Karatsuba 算法，它将大整数乘法分解为几个较小的整数的乘法和加法。
矩阵乘法：例如 Strassen 算法，它将大矩阵乘法分解为多个小矩阵的乘法和加法。
汉诺塔问题：汉诺塔问题可以通过递归解决，这是典型的分治策略应用。
求解逆序对：在一个序列中，如果前面的数字大于后面的数字，那么这两个数字构成一个逆序对。求解逆序对问题可以利用分治的思想，借助归并排序进行求解。

另一方面，分治在算法和数据结构的设计中应用得非常广泛。

二分查找：二分查找是将有序数组从中点索引处分为两部分，然后根据目标值与中间元素值比较结果，决定排除哪一半区间，并在剩余区间执行相同的二分操作。
归并排序：本节开头已介绍，不再赘述。
快速排序：快速排序是选取一个基准值，然后把数组分为两个子数组，一个子数组的元素比基准值小，另一子数组的元素比基准值大，再对这两部分进行相同的划分操作，直至子数组只剩下一个元素。
桶排序：桶排序的基本思想是将数据分散到多个桶，然后对每个桶内的元素进行排序，最后将各个桶的元素依次取出，从而得到一个有序数组。
树：例如二叉搜索树、AVL 树、红黑树、B 树、B+ 树等，它们的查找、插入和删除等操作都可以视为分治策略的应用。
堆：堆是一种特殊的完全二叉树，其各种操作，如插入、删除和堆化，实际上都隐含了分治的思想。
哈希表：虽然哈希表并不直接应用分治，但某些哈希冲突解决方案间接应用了分治策略，例如，链式地址中的长链表会被转化为红黑树，以提升查询效率。

可以看出，分治是一种“润物细无声”的算法思想，隐含在各种算法与数据结构之中。

分治搜索策略

我们已经学过，搜索算法分为两大类。

暴力搜索：它通过遍历数据结构实现，时间复杂度为 $O(n)$ 。
自适应搜索：它利用特有的数据组织形式或先验信息，时间复杂度可达到 $O(\log n)$ 甚至 $O(1)$ 。

实际上，时间复杂度为 $O(\log n)$ 的搜索算法通常是基于分治策略实现的，例如二分查找和树。

二分查找的每一步都将问题（在数组中搜索目标元素）分解为一个小问题（在数组的一半中搜索目标元素），这个过程一直持续到数组为空或找到目标元素为止。
树是分治思想的代表，在二叉搜索树、AVL 树、堆等数据结构中，各种操作的时间复杂度皆为 $O(\log n)$ 。

二分查找的分治策略如下所示。

问题可以分解：二分查找递归地将原问题（在数组中进行查找）分解为子问题（在数组的一半中进行查找），这是通过比较中间元素和目标元素来实现的。
子问题是独立的：在二分查找中，每轮只处理一个子问题，它不受其他子问题的影响。
子问题的解无须合并：二分查找旨在查找一个特定元素，因此不需要将子问题的解进行合并。当子问题得到解决时，原问题也会同时得到解决。

分治能够提升搜索效率，本质上是因为暴力搜索每轮只能排除一个选项，而分治搜索每轮可以排除一半选项。

基于分治实现二分查找

在之前的章节中，二分查找是基于递推（迭代）实现的。现在我们基于分治（递归）来实现它。

提问

给定一个长度为 $n$ 的有序数组 nums ，其中所有元素都是唯一的，请查找元素 target 。

从分治角度，我们将搜索区间 $[i, j]$ 对应的子问题记为 $f(i, j)$ 。

以原问题 $f(0, n-1)$ 为起始点，通过以下步骤进行二分查找。

计算搜索区间 $[i, j]$ 的中点 $m$ ，根据它排除一半搜索区间。
递归求解规模减小一半的子问题，可能为 $f(i, m-1)$ 或 $f(m+1, j)$ 。
循环第 1. 步和第 2. 步，直至找到 target 或区间为空时返回。

下图展示了在数组中二分查找元素 $6$ 的分治过程。

二分查找的分治过程

在实现代码中，我们声明一个递归函数 dfs() 来求解问题 $f(i, j)$ ：

/* 二分查找 */
static int binarySearch(int[] nums, int target) {
    int n = nums.length;
    // 求解问题 f(0, n-1)
    return dfs(nums, target, 0, n - 1);
}

构建二叉树问题

提问

给定一棵二叉树的前序遍历 preorder 和中序遍历 inorder ，请从中构建二叉树，返回二叉树的根节点。假设二叉树中没有值重复的节点（如下图所示）。

构建二叉树的示例数据

判断是否为分治问题

原问题定义为从 preorder 和 inorder 构建二叉树，是一个典型的分治问题。

问题可以分解：从分治的角度切入，我们可以将原问题划分为两个子问题：构建左子树、构建右子树，加上一步操作：初始化根节点。而对于每棵子树（子问题），我们仍然可以复用以上划分方法，将其划分为更小的子树（子问题），直至达到最小子问题（空子树）时终止。
子问题是独立的：左子树和右子树是相互独立的，它们之间没有交集。在构建左子树时，我们只需关注中序遍历和前序遍历中与左子树对应的部分。右子树同理。
子问题的解可以合并：一旦得到了左子树和右子树（子问题的解），我们就可以将它们链接到根节点上，得到原问题的解。

如何划分子树

根据以上分析，这道题可以使用分治来求解，但如何通过前序遍历 preorder 和中序遍历 inorder 来划分左子树和右子树呢？

根据定义，preorder 和 inorder 都可以划分为三个部分。

前序遍历：[ 根节点 | 左子树 | 右子树 ] ，例如上图的树对应 [ 3 | 9 | 2 1 7 ] 。
中序遍历：[ 左子树 | 根节点 | 右子树 ] ，例如上图的树对应 [ 9 | 3 | 1 2 7 ] 。

以上图数据为例，我们可以通过下图所示的步骤得到划分结果。

前序遍历的首元素 3 是根节点的值。
查找根节点 3 在 inorder 中的索引，利用该索引可将 inorder 划分为 [ 9 | 3 | 1 2 7 ] 。
根据 inorder 的划分结果，易得左子树和右子树的节点数量分别为 1 和 3 ，从而可将 preorder 划分为 [ 3 | 9 | 2 1 7 ] 。

在前序遍历和中序遍历中划分子树

基于变量描述子树区间

根据以上划分方法，我们已经得到根节点、左子树、右子树在 preorder 和 inorder 中的索引区间。而为了描述这些索引区间，我们需要借助几个指针变量。

将当前树的根节点在 preorder 中的索引记为 $i$ 。
将当前树的根节点在 inorder 中的索引记为 $m$ 。
将当前树在 inorder 中的索引区间记为 $[l, r]$ 。

如下表所示，通过以上变量即可表示根节点在 preorder 中的索引，以及子树在 inorder 中的索引区间。

表根节点和子树在前序遍历和中序遍历中的索引

	根节点在 `preorder` 中的索引	子树在 `inorder` 中的索引区间
当前树	$i$	$[l, r]$
左子树	$i + 1$	$[l, m-1]$
右子树	$i + 1 + (m - l)$	$[m+1, r]$

请注意，右子树根节点索引中的 $(m-l)$ 的含义是“左子树的节点数量”，建议结合下图理解。

根节点和左右子树的索引区间表示

代码实现

为了提升查询 $m$ 的效率，我们借助一个哈希表 hmap 来存储数组 inorder 中元素到索引的映射：

/* 构建二叉树 */
static TreeNode buildTree(int[] preorder, int[] inorder) {
    // 初始化哈希表，存储 inorder 元素到索引的映射
    Map<Integer, Integer> inorderMap = new HashMap<>();
    for (int i = 0; i < inorder.length; i++) {
        inorderMap.put(inorder[i], i);
    }
    TreeNode root = dfs(preorder, inorderMap, 0, 0, inorder.length - 1);
    return root;
}

下图展示了构建二叉树的递归过程，各个节点是在向下“递”的过程中建立的，而各条边（引用）是在向上“归”的过程中建立的。

第 1 步

构建二叉树的递归过程

第 2 步

built_tree_step2

第 3 步

built_tree_step3

第 4 步

built_tree_step4

第 5 步

built_tree_step5

第 6 步

built_tree_step6

第 7 步

built_tree_step7

第 8 步

built_tree_step8

第 9 步

built_tree_step9

每个递归函数内的前序遍历 preorder 和中序遍历 inorder 的划分结果如下图所示。

每个递归函数中的划分结果

设树的节点数量为 $n$ ，初始化每一个节点（执行一个递归函数 dfs() ）使用 $O(1)$ 时间。因此总体时间复杂度为 $O(n)$ 。

哈希表存储 inorder 元素到索引的映射，空间复杂度为 $O(n)$ 。在最差情况下，即二叉树退化为链表时，递归深度达到 $n$ ，使用 $O(n)$ 的栈帧空间。因此总体空间复杂度为 $O(n)$ 。

汉诺塔问题

在归并排序和构建二叉树中，我们都是将原问题分解为两个规模为原问题一半的子问题。然而对于汉诺塔问题，我们采用不同的分解策略。

提问

给定三根柱子，记为 A、B 和 C 。起始状态下，柱子 A 上套着 $n$ 个圆盘，它们从上到下按照从小到大的顺序排列。我们的任务是要把这 $n$ 个圆盘移到柱子 C 上，并保持它们的原有顺序不变（如下图所示）。在移动圆盘的过程中，需要遵守以下规则。

圆盘只能从一根柱子顶部拿出，从另一根柱子顶部放入。

每次只能移动一个圆盘。

小圆盘必须时刻位于大圆盘之上。

汉诺塔问题示例

我们将规模为 $i$ 的汉诺塔问题记作 $f(i)$ 。例如 $f(3)$ 代表将 $3$ 个圆盘从 A 移动至 C 的汉诺塔问题。

考虑基本情况

如下图所示，对于问题 $f(1)$ ，即当只有一个圆盘时，我们将它直接从 A 移动至 C 即可。

第 1 步

规模为 1 的问题的解

第 2 步

hanota_f1_step2

如下图所示，对于问题 $f(2)$ ，即当有两个圆盘时，由于要时刻满足小圆盘在大圆盘之上，因此需要借助 B 来完成移动。

先将上面的小圆盘从 A 移至 B 。
再将大圆盘从 A 移至 C 。
最后将小圆盘从 B 移至 C 。

第 1 步

规模为 2 的问题的解

第 2 步

hanota_f2_step2

第 3 步

hanota_f2_step3

第 4 步

hanota_f2_step4

解决问题 $f(2)$ 的过程可总结为：将两个圆盘借助 B 从 A 移至 C 。其中，C 称为目标柱、B 称为缓冲柱。

子问题分解

对于问题 $f(3)$ ，即当有三个圆盘时，情况变得稍微复杂了一些。

因为已知 $f(1)$ 和 $f(2)$ 的解，所以我们可从分治角度思考，将 A 顶部的两个圆盘看作一个整体，执行下图所示的步骤。这样三个圆盘就被顺利地从 A 移至 C 了。

令 B 为目标柱、C 为缓冲柱，将两个圆盘从 A 移至 B 。
将 A 中剩余的一个圆盘从 A 直接移动至 C 。
令 C 为目标柱、A 为缓冲柱，将两个圆盘从 B 移至 C 。

第 1 步

规模为 3 的问题的解

第 2 步

hanota_f3_step2

第 3 步

hanota_f3_step3

第 4 步

hanota_f3_step4

从本质上看，我们将问题 $f(3)$ 划分为两个子问题 $f(2)$ 和一个子问题 $f(1)$ 。按顺序解决这三个子问题之后，原问题随之得到解决。这说明子问题是独立的，而且解可以合并。

至此，我们可总结出下图所示的解决汉诺塔问题的分治策略：将原问题 $f(n)$ 划分为两个子问题 $f(n-1)$ 和一个子问题 $f(1)$ ，并按照以下顺序解决这三个子问题。

将 $n-1$ 个圆盘借助 C 从 A 移至 B 。
将剩余 $1$ 个圆盘从 A 直接移至 C 。
将 $n-1$ 个圆盘借助 A 从 B 移至 C 。

对于这两个子问题 $f(n-1)$ ，可以通过相同的方式进行递归划分，直至达到最小子问题 $f(1)$ 。而 $f(1)$ 的解是已知的，只需一次移动操作即可。

解决汉诺塔问题的分治策略

代码实现

在代码中，我们声明一个递归函数 dfs(i, src, buf, tar) ，它的作用是将柱 src 顶部的 $i$ 个圆盘借助缓冲柱 buf 移动至目标柱 tar ：

/* 求解汉诺塔问题 */
static void solveHanota(List<Integer> A, List<Integer> B, List<Integer> C) {
    int n = A.size();
    // 将 A 顶部 n 个圆盘借助 B 移到 C
    dfs(n, A, B, C);
}

如下图所示，汉诺塔问题形成一棵高度为 $n$ 的递归树，每个节点代表一个子问题，对应一个开启的 dfs() 函数，因此时间复杂度为 $O(2^n)$ ，空间复杂度为 $O(n)$ 。

汉诺塔问题的递归树

引用

汉诺塔问题源自一个古老的传说。在古印度的一个寺庙里，僧侣们有三根高大的钻石柱子，以及 $64$ 个大小不一的金圆盘。僧侣们不断地移动圆盘，他们相信在最后一个圆盘被正确放置的那一刻，这个世界就会结束。

然而，即使僧侣们每秒钟移动一次，总共需要大约 $2^{64} \approx 1.84×10^{19}$ 秒，合约 $5850$ 亿年，远远超过了现在对宇宙年龄的估计。所以，倘若这个传说是真的，我们应该不需要担心世界末日的到来。

小结

重点回顾

分治是一种常见的算法设计策略，包括分（划分）和治（合并）两个阶段，通常基于递归实现。
判断是否是分治算法问题的依据包括：问题能否分解、子问题是否独立、子问题能否合并。
归并排序是分治策略的典型应用，其递归地将数组划分为等长的两个子数组，直到只剩一个元素时开始逐层合并，从而完成排序。
引入分治策略往往可以提升算法效率。一方面，分治策略减少了操作数量；另一方面，分治后有利于系统的并行优化。
分治既可以解决许多算法问题，也广泛应用于数据结构与算法设计中，处处可见其身影。
相较于暴力搜索，自适应搜索效率更高。时间复杂度为 $O(\log n)$ 的搜索算法通常是基于分治策略实现的。
二分查找是分治策略的另一个典型应用，它不包含将子问题的解进行合并的步骤。我们可以通过递归分治实现二分查找。
在构建二叉树的问题中，构建树（原问题）可以划分为构建左子树和右子树（子问题），这可以通过划分前序遍历和中序遍历的索引区间来实现。
在汉诺塔问题中，一个规模为 $n$ 的问题可以划分为两个规模为 $n-1$ 的子问题和一个规模为 $1$ 的子问题。按顺序解决这三个子问题后，原问题随之得到解决。

练习

知识巩固

哪些任务适合分治

一位同学想用“先分成两半，分别解决，再合并结果”的方法完成以下任务。
请分别判断它们是“适合分治”“可以分治，但不会减少总工作量”还是“两半不能独立解决”，并说明理由。

将一个无序数组排序；
求一个数组中的最大值；
按顺序执行一串 push(x)、pop() 栈操作，并输出每次 pop() 得到的元素。

参考答案

适合：对半分解、两半独立排序、 $O(n)$ 合并——这正是归并排序。

可以分治，但不会减少总工作量：左右两半仍需合计检查全部 $n$ 个元素，
和直接扫描一样都是 $O(n)$ 时间。

两半不能独立解决：后半段开始时的栈内容取决于前半段执行结果，
两半不能在互不知道结果时独立完成。

快速幂是怎样减少计算的

下面的递归函数用分治计算 $x^n$ ：

/* 快速幂 */
static int fastPow(int x, int n) {
    if (n == 0) {
        return 1;
    }
    int half = fastPow(x, n / 2);
    if (n % 2 == 0) {
        return half * half;
    }
    return half * half * x;
}

令 x = 3、n = 5，用这个函数计算：

递归调用时，参数 n 依次变成哪些值？
从最深层开始返回时，各层依次返回什么值？
为什么要先把递归结果保存为 half，而不是在乘法两边各调用一次相同的子问题？

参考答案

参数依次为 5 → 2 → 1 → 0，每次都把指数减半，直到到达终止条件。

n = 0 时返回 1；n = 1 时返回 $1×1×3=3$ ；
n = 2 时返回 $3×3=9$ ；n = 5 时返回 $9×9×3=243$ 。

如果在乘法两边各调用一次相同的子问题，两次递归会进行完全相同的计算。
先把结果保存为 half，每层就只递归一次，递归深度约为 $\log n$ ；
调用两次会造成大量重复计算。

从遍历序列拆分左右子树

一棵没有重复节点的二叉树，其前序遍历和中序遍历分别为：

前序遍历：[A, B, D, E, C]
中序遍历：[D, B, E, A, C]

只完成根节点这一层的拆分，不必继续递归，也不必画出整棵树：

根节点是什么？
左、右子树在中序遍历中分别对应哪一段？
左、右子树在前序遍历中分别对应哪一段？根节点有哪些直接孩子？

参考答案

前序遍历的第一个节点是根节点，因此根节点为 A。

A 把中序遍历分成两部分：左子树为 [D, B, E]，右子树为 [C]。

左子树有 3 个节点，因此根节点 A 后面的 3 个前序元素属于左子树，
即 [B, D, E]；剩余的 [C] 属于右子树。
所以根节点的左孩子是 B，右孩子是 C。

编程练习

快速幂

给定实数 x 和整数 n，请计算 $x^n$ ，且不能调用语言内置的幂函数。
要求使用递归分治：每次把指数缩小一半，并复用已经算出的子问题结果。
本题规定 $x^0=1$ ，包括 x = 0 时；当 n < 0 时保证 x != 0，答案可转化为 $(1/x)^{-n}$ 。

解题提示

n 等于 0 时答案是 1

算出 x 的 n // 2 次方后保存为 half，不要递归调用第二次

当 n < 0 时，先把 x 改为 1 / x，再把 n 改为 -n；使用 C++ 或 Java 时，可先把 n 转为 64 位整数，避免最小的 32 位整数取相反数时溢出

LeetCode{ .rounded-button .exercise-button target="_blank" rel="noopener noreferrer" } 题目解析{ .rounded-button .exercise-button target="_blank" rel="noopener noreferrer" }

说明： 链接中的题解使用迭代位运算，与本练习指定的递归分治方法不同；请根据本题的解题提示完成递归版本