破解 Kotlin 协程 番外篇(2) - 协程的几类常见的实现

所谓知己知彼,百战不殆。为了搞清楚 Kotlin 协程是怎么回事,我们也来看看其他语言的协程是怎么实现的。

前面一篇文章我们大概讨论了协程是怎么一回事,也举了一些例子,不过整体上覆盖的细节比较少。这篇文章我们按照协程的经典论文 “Revisiting Coroutines” 的思路展开,详细的讨论下协程究竟是怎样的存在。当然由于涉及语言较多,个人水平有限,如有不恰当之处,欢迎大家指正。

1. 协程的分类

协程的主流实现虽然细节上差异较大,但总体来讲仍然有章可循。

1.1 按调用栈分类

由于协程需要支持挂起、恢复,因此对于挂起点的状态保存就显得极其关键。类似地,线程会因为 CPU 调度权的切换而被中断,它的中断状态会保存在调用栈当中,因而协程的实现也按照是否开辟相应的调用栈存在以下两种类型:

  • 有栈协程 Stackful Coroutine:每一个协程都会有自己的调用栈,有点儿类似于线程的调用栈,这种情况下的协程实现其实很大程度上接近线程,主要不同体现在调度上。
  • 无栈协程 Stackless Coroutine:协程没有自己的调用栈,挂起点的状态通过状态机或者闭包等语法来实现。

有栈协程的优点就是可以在任意函数调用层级的任意位置进行挂起,并转移调度权,例如 Lua 的协程,这方面多数无栈协程就显得力不从心了,例如 Python 的 Generator;通常来讲,有栈协程因为总是会给协程开辟一块儿栈内存,因此内存开销也相对可观,而无栈协程在内存方面就比较有优势了。

当然也有反例。

Go 语言的 go routine 可以认为是有栈协程的一个实现,不过 Go 运行时在这里做了大量的优化,它的栈内存可以根据需要进行扩容和缩容,最小一般为内存页长 4KB,相比之下线程的栈空间通常是 MB 级别,因而它在内存方面的表现也相对轻量。

Kotlin 的协程是一种无栈协程的实现,它的控制流转依靠对协程体本身编译生成的状态机的状态流转来实现,变量保存也是通过闭包语法来实现的,不过 Kotlin 的协程可以在任意调用层次挂起,换句话说我们启动一个 Kotlin 协程,可以在其中任意嵌套 suspend 函数,而这又恰恰是有栈协程最重要的特性之一:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
suspend fun level_0() {
println("I'm in level 0!")
level_1() // ............ ①
}

suspend fun level_1() {
println("I'm in level 1!")
suspendNow() // ............ ②
}

suspend fun suspendNow()
= suspendCoroutine<Unit> {
...
}

示例中 ① 处并没有真正直接挂起,② 处的调用才会真正挂起,Kotlin 通过 suspend 函数嵌套调用的方式可以实现任意函数调用层次的挂起。

当然,想要在任意位置挂起,那就需要调用栈了,与开发者通过调用 API 显式地挂起协程相比,任意位置的挂起主要用于运行时对协程执行的干预,这种挂起方式对于开发者不可见,因而是一种隐式的挂起操作。Go 语言的 go routine 可以通过对 channel 的读写来实现挂起和恢复,除了这种显式地切换调度权之外,Go 运行时还会对长期占用调度权的 go routine 进行隐式挂起,并将调度权转移给其他 go routine,这实际上就是我们熟悉的线程的抢占式调度了。

1.2 按调度方式分类

调度过程中,根据协程转移调度权的目标又将协程分为对称协程非对称协程

  • 对称协程 Symmetric Coroutine:任何一个协程都是相互独立且平等的,调度权可以在任意协程之间转移。
  • 非对称协程 Asymmetric Coroutine:协程出让调度权的目标只能是它的调用者,即协程之间存在调用和被调用关系。

对称协程实际上已经非常接近线程的样子了,例如 Go 语言中的 go routine 可以通过读写不同的 channel 来实现控制权的自由转移。而非对称协程的调用关系实际上也更符合我们的思维方式,常见的语言对协程的实现大多是非对称实现,例如 Lua 的协程中当前协程调用 yield 总是会将调度权转移给 resume 它的协程;还有就是我们在前面提到的 async/awaitawait 时将调度权转移到异步调用中,异步调用返回结果或抛出异常时总是将调度权转移回 await 的位置。

从实现的角度来讲,非对称协程的实现更自然,也相对容易;不过,我们只要对非对称协程稍作修改,即可实现对称协程的能力。在非对称协程的基础上,我们只需要添加一个中立的第三方作为协程调度权的分发中心,所有的协程在挂起时都将控制权转移给分发中心,分发中心根据参数来决定将调度权转移给哪个协程,例如 Lua 的第三方库 coro,以及 Kotlin 协程框架中基于 Channel 的通信等。

2. 协程的实现举例

我们已经介绍了非常多的协程相关的理论知识,简单来说协程需要关注的就是程序自己处理挂起和恢复,只不过在分类的时候又根据解决挂起和恢复时具体实现细节的不同又区分了按照的有无和调度权转移的对称性的分类。不管怎样,协程的关注点就是程序自己处理挂起和恢复,以下我们给出一些实现,请大家留意它们是如何做到这一点的。

2.1 Python 的 Generator

Python 的 Generator 也是协程,是一个典型的无栈协程的实现,我们可以在任意 Python 函数中调用 yield 来实现当前函数调用的挂起,yield 的参数作为对下一次 next(num_generator)调用的返回值:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
import time

def numbers():
i = 0
while True:
yield(i) # ..................... ①
i += 1
time.sleep(1)

num_generator = numbers()

print(f"[0] {next(num_generator)}") # ... ②
print(f"[1] {next(num_generator)}") # ... ③

for i in num_generator: # ............... ④
print(f"[Loop] {i}")

所以运行这段程序时,首先会在 ① 处 yield,并将 0 传出,在 ② 处输出:

1
[0] 0

接着自 ③ 处调用 next,将调度权从主流程转移到 numbers 函数当中,从上一次挂起的位置 ① 处继续执行,i 的值修改为 1,1s 后,再次通过 yield(1) 挂起,③ 处输出:

1
[1] 1

后续就以同样的逻辑在 for 循环中一直输出 [Loop] n,直到程序被终止。

我们看到,之所以称 Python 的 Generator 为协程,就是因为它具备了通过 yield 来挂起当前 Generator 函数的执行,通过 next 来恢复参数对应的 Generator 执行来实现挂起、恢复的协程调度权控制转移的。

当然,如果在 numbers 函数中嵌套调用 yield,就无法对 numbers 的调用进行中断了:

1
2
3
4
5
6
7
8
9
def numbers():
i = 0
while True:
yield_here(i) # ................. ①
i += 1
time.sleep(1)

def yield_here(i):
yield(i)

这时候我们再调用 numbers 函数,就会陷入死循环而无法返回,因为这次 yield_here 的返回值才是 Generator。

说明 Python 的 Generator 属于非对称无栈协程的一种实现。从 Python 3.5 开始也支持 async/await,原理与 JavaScript 的实现类似,与 Generator 的不同之处在于我们可以通过这一组关键字实现在函数嵌套调用挂起。

2.2 Lua 标准库的协程实现

Lua 的协程实现可以认为是一个教科书式的案例了,它提供了几个 API 允许开发者灵活控制协程的执行:

  • coroutine.create:创建协程,参数为函数,作为协程的执行体,返回协程实例。
  • coroutine.yield:挂起协程,第一个参数为被挂起的协程实例,后面的参数则作为外部调用 resume 来继续当前协程时的返回值,而它的返回值则又是外部下一次 resume 调用时传入的参数。
  • coroutine.resume:继续协程,第一个参数为被继续的协程实例,后面的参数则作为协程内部 yield 时的返回值,返回值则为协程内部下一次 yield 时传出的参数;如果是第一次对该协程实例执行 resume,参数会作为协程函数的参数传入。

Lua 的协程也有几个状态,挂起(suspended)、运行(running)、结束(dead)。其中,调用 yield 之后的协程处于挂起态,获得执行权而正在运行的协程则是处于运行态,协程对应的函数运行结束后,则处于结束态。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
function producer() 
for i = 0, 3 do
print("send "..i)
coroutine.yield(i) -- ④
end
print("End Producer")
end

function consumer(value)
repeat
print("receive "..value)
value = coroutine.yield() -- ⑤
until(not value)
print("End Consumer")
end

producerCoroutine = coroutine.create(producer) -- ①
consumerCoroutine = coroutine.create(consumer) -- ②

repeat
status, product = coroutine.resume(producerCoroutine) -- ③
coroutine.resume(consumerCoroutine, product) -- ⑥
until(not status)
print("End Main")

这段代码在 ①、②两处创建协程,③处开始执行,producer 在 ④ 处 yield(0),意味着 ③ 的返回值 product 就是 0,我们把 0 作为参数又传给 consumer,第一次 resume 参数 0 会作为 consumer 的参数 value 传入,因此会打印出:

1
2
send 0
receive 0

接下来 consumer 通过 ⑤ 处的 yield 挂起,它的参数会作为 ⑥ 处的返回值,不过我们没有传任何参数。这时控制权又回到主流程,status 的值在对应的协程结束后会返回 false,这时候 producer 尚未结束,因此是 true,于是循环继续执行,后续流程类似,输出结果:

1
2
3
4
5
6
7
8
9
send 1
receive 1
send 2
receive 2
send 3
receive 3
End Producer
End Consumer
End Main

通过这个例子,希望大家能够对协程有一个更加具体的认识,我们看到对于协程来讲,它包括:

  • 协程的执行体,主要是指启动协程时对应的函数
  • 协程的控制实例,我们可以通过协程创建时返回的实例控制协程的调用流转
  • 协程的状态,在调用流程转移前后,协程的状态会发生相应的变化

说明 Lua 标准库的协程属于非对称有栈协程,不过第三方提供了基于标准库的对称协程的实现,有兴趣的话可以参考: coro。有趣的是,这也恰恰是对称协程的实现可以基于非对称协程来实现的很好的例证。

2.3 Go 语言中的 go routine

go routine 的调度没有 Lua 那么明显,没有类似 yieldresume 的函数。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
channel := make(chan int) // .......... ①
var readChannel <-chan int = channel
var writeChannel chan<- int = channel

// reader
go func() { // ........................ ②
fmt.Println("wait for read")
for i := range readChannel { // ... ③
fmt.Println("read", i)
}
fmt.Println("read end")
}() // ............................... ④


// writer
go func() {
for i := 0; i < 3; i++{
fmt.Println("write", i)
writeChannel <- i // .......... ⑤
time.Sleep(time.Second)
}
close(writeChannel)
}()

我们先来简单介绍下 go routine 的启动方式。在任意函数调用前面加关键字 go 即可启动一个 go routine,并在该 go routine 中调用这个函数,例如 ② 处实际上是创建了一个匿名函数,并在后面 ④ 处立即调用了该函数。我们把这两个 go routine 依次称为 “reader” 和 “writer”。

① 处创建了一个双向的 channel,可读可写,接着创建的 readChannel 声明为只读类型,writeChannel 声明为只写类型,这二者实际上是同一个 channel,并且由于这个 channel 没有缓冲区,因此写操作会一直挂起直到读操作执行,反过来也是如此。

在 reader 中,③ 处的 for 循环会对 readChannel 进行读操作,如果此时还没有对饮的写操作,就会挂起,直到有数据写入;在 writer 中,⑤ 处表示向 writeChannel 中写入 i,同样,如果写入时尚未有对应的读操作,就会挂起,直到有数据读取。整段程序的输出如下:

1
2
3
4
5
6
7
8
wait for read
write 0
read 0
write 1
read 1
write 2
read 2
read end

如果我们有多个 go routine 对 channel 进行读写,或者有多个 channel 供多个 go routine 读写,那么这时的读写操作实际上就是在 go routine 之间平等的转移调度权,因此可以认为 go routine 是对称的协程实现。

这个示例看上去对于 channel 的读写操作有点儿类似两个线程中的阻塞式 IO 操作,不过 go routine 相对操作系统的内核线程来说要轻量得都,切换的成本也很低,因此在读写过程中挂起的成本也远比我们熟悉的线程阻塞的调用切换成本。实际上这两个 go routine 在切换时,很大概率不会有线程的切换,为了让示例更加能说明问题,我们为输出添加了当前的线程 id,同时将每次向 writeChannel 写入数据之后的 Sleep 操作去掉:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
go func() {
fmt.Println(windows.GetCurrentThreadId(), "wait for read")
for i := range readChannel {
fmt.Println(windows.GetCurrentThreadId(), "read", i)
}
fmt.Println(windows.GetCurrentThreadId(), "read end")
}()
go func() {
for i := 0; i < 3; i++{
fmt.Println(windows.GetCurrentThreadId(), "write", i)
writeChannel <- i
}
close(writeChannel)
}()

修改后的运行结果可以看到程序在输出时所在的线程 id:

1
2
3
4
5
6
7
8
181808 write 0
183984 wait for read
181808 read 0
181808 write 1
181808 write 2
181808 read 1
181808 read 2
181808 read end

两个 go routine 除了开始运行时占用了两个线程,后续都在一个线程中转移调度权(不同场景的实际运行结果可能有细微差异,这取决于 Go 运行时的调度器)。

获取线程 id 本例在 windows 上调试,通过 sys 库的 windows 包下提供的 GetCurrentThreadId 函数来获取线程 id。Linux 系统可以通过 syscall.Gettid 来获取。

说明 我们虽然一直在用 go routine 做例子,并把它称作为对称有栈协程的一种实现,但考虑到 Go 运行时本身做了足够多超出其他语言的能力,例如栈优化,调度优化等,特别是的调度器还支持特定场景下的抢占式调度,某种意义上已经超越了协程概念的讨论范围,因此也有很多人认为 go routine 不能简单的认为就是协程。

3. 小结

本文整体上对协程的分类做了较为详细的探讨。不管怎么分类,协程的本质就是程序自己处理挂起和恢复。协程描述了多个程序之间如何通过相互出让运行调度权来完成执行,基于这一对基本的控制转移操作进而衍生出各种异步模型,并发模型例如 async/await,Channel 等。

相比之下,有朋友抱怨 Kotlin 的协程没有其他语言的 async/await 那么容易上手,也没有 go routine 那么容易使用,原因也很简单,Kotlin 的协程用一个最基本的 suspend 关键字来支持了最基本的挂起恢复逻辑,进而在上层封装,衍生出了以上提到的几乎所有的模型,让我们在 Kotlin 当中可以有机会使用 async/await、Channel,以及最新出的 Flow API,将来还会有更多(也许包括在 issue 中被提到想要重做的 Actor),它想做的事儿太多了,也确实在一步一步地做到。


Kotlin 现在正在迅速成为广大开发者的新宠,如果大家想要快速上手 Kotlin 或者想要全面深入地学习 Kotlin 的相关知识,可以关注我基于 Kotlin 1.3.50 全新制作的新课:

扫描二维码或者点击链接《Kotlin 入门到精通》即可进入课程啦!

升级说明:尽管这门课全新制作,内容相比之前也做了非常多的扩充,但考虑到照顾之前购买了 《Kotlin 入门到进阶》 的3000多位朋友,慕课网会在近期发放老课原价等值的定向代金券,可用于补差价升级到新课,由于现在新课限时优惠,因此只需要 77 元即可升级到新课。新课升级后新课老课可同时观看,相当于花一份钱购买两门课!


想要找到好 Offer、想要实现技术进阶的迷茫中的 Android 工程师们,推荐大家关注下我的新课《破解Android高级面试》,这门课涉及内容均非浅尝辄止,目前已经有700+同学在学习,你还在等什么(*≧∪≦):

扫描二维码或者点击链接《破解Android高级面试》即可进入课程啦!