每天开心一点

python异步IO之asyncio


asyncio是Python 3.4版本引入的标准库,直接内置了对异步IO的支持。

asyncio的编程模型就是一个消息循环。我们从asyncio模块中直接获取一个EventLoop的引用,然后把需要执行的协程扔到EventLoop中执行,就实现了异步IO。

用asyncio实现Hello world代码如下:

      import asyncio 
      @asyncio.coroutine 
      
      def 
      hello
      (): print(
      "Hello world!") 
      # 异步调用asyncio.sleep(1): r = 
      yield 
      from asyncio.sleep(
      1)
    print(
      "Hello again!") 
      # 获取EventLoop: loop = asyncio.get_event_loop() 
      # 执行coroutine loop.run_until_complete(hello())
loop.close()

@asyncio.coroutine把一个generator标记为coroutine类型,然后,我们就把这个coroutine扔到EventLoop中执行。

hello()会首先打印出Hello world!,然后,yield from语法可以让我们方便地调用另一个generator。由于asyncio.sleep()也是一个coroutine,所以线程不会等待asyncio.sleep(),而是直接中断并执行下一个消息循环。当asyncio.sleep()返回时,线程就可以从yield from拿到返回值(此处是None),然后接着执行下一行语句。

把asyncio.sleep(1)看成是一个耗时1秒的IO操作,在此期间,主线程并未等待,而是去执行EventLoop中其他可以执行的coroutine了,因此可以实现并发执行。

我们用Task封装两个coroutine试试:

      import threading 
      import asyncio 
      @asyncio.coroutine 
      
       def 
      hello
      (): print(
      'Hello world! (%s)' % threading.currentThread()) 
      yield 
      from asyncio.sleep(
      1)
    print(
      'Hello again! (%s)' % threading.currentThread())

loop = asyncio.get_event_loop()
tasks = [hello(), hello()]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

观察执行过程:

Hello world! (
      
      <
      _MainThread(MainThread, 
      started 
      140735195337472)>)
Hello world! (
      <
      _MainThread(MainThread, 
      started 
      140735195337472)>)
(暂停约1秒)
Hello again! (
      <
      _MainThread(MainThread, 
      started 
      140735195337472)>)
Hello again! (
      <
      _MainThread(MainThread, 
      started 
      140735195337472)>) 

由打印的当前线程名称可以看出,两个coroutine是由同一个线程并发执行的。

如果把asyncio.sleep()换成真正的IO操作,则多个coroutine就可以由一个线程并发执行。

我们用asyncio的异步网络连接来获取sina、sohu和163的网站首页:

      import asyncio 
      @asyncio.coroutine 
      
      def 
      wget
      (host): print(
      'wget %s...' % host)
    connect = asyncio.open_connection(host, 
      80)
    reader, writer = 
      yield 
      from connect
    header = 
      'GET / HTTP/1.0rnHost: %srnrn' % host
    writer.write(header.encode(
      'utf-8')) 
      yield 
      from writer.drain() 
      while 
      True:
        line = 
      yield 
      from reader.readline() 
      if line == 
      b'rn': 
      break print(
      '%s header > %s' % (host, line.decode(
      'utf-8').rstrip())) 
      # Ignore the body, close the socket writer.close()

loop = asyncio.get_event_loop()
tasks = [wget(host) 
      for host 
      in [
      'www.sina.com.cn', 
      'www.sohu.com', 
      'www.163.com']]
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

执行结果如下:

wget www.sohu.com...
wget www.sina.com.cn...
wget www.163.com...
(等待一段时间)
(打印出sohu的header)
www.sohu.com header > HTTP/1.1 200 OK
www.sohu.com header > Content-Type: text/html
...
(打印出sina的header)
www.sina.com.cn header > HTTP/1.1 200 OK
www.sina.com.cn header > Date: Wed, 20 May 2015 04:56:33 GMT
...
(打印出163的header)
www.163.com header > HTTP/1.0 302 Moved Temporarily
www.163.com header > Server: Cdn Cache Server V2.0
...

可见3个连接由一个线程通过coroutine并发完成。

小结

asyncio提供了完善的异步IO支持;

异步操作需要在coroutine中通过yield from完成;

多个coroutine可以封装成一组Task然后并发执行。

参考源码

async_hello.py

async_wget.py