频道栏目
首页 > 程序开发 > Web开发 > Python > 正文
一种简单的用户态Python多任务(线程)方案
2011-08-02 11:21:01           
收藏   我要投稿

 

Python界,我们常常使用多进程来实现并行加速。在各进程内部,再采用多线程方案进行io调度,但这通常有一些问题,我们这里以传统的CPython实现为准,该实现直接采用来操作系统原生线程实现多线程,这有一些问题,首先,操作系统线程并不是免费的,它有自己的栈、内核数据结构,并且(通常)是基本调度单元,这会带来一些并不算不重要的overhead,我们在这种场景下使用多线程的目的本质上就是进行io调度,那么大部分的抢占对我们是没有意义的;第二,Python实现中,每个线程执行一定条数的字节码后主动让出时间片,这种调度时机并不是我们想要的。对于特定的应用,这可以用IO多路复用来解决,IO多路复用就是一个IO调度器,但是,这种方式不能提供一种透明的抽象,进行IO的控制流必须显式得处理回调、事件等等,另外,我们能够同时进行的控制流(任务)受到了不必要的限制——它本质上应该受限于我们处理IO的能力。

 

4.1 对控制流的抽象

我们用一个"闭包中的callable对象"来表达控制流中的某一状态,我们可以得到这个对象,就得到了当前控制流,通过对该对象的调用恢复执行控制流。大体上是这样:

 

def task(arg):

    def task_child(a):

        return some_func(arg, a)

    return task_child

 

对于一般的控制流的抽象,我们应该了解continuation,参考:

 

https://en.wikipedia.org/wiki/Continuation

 

4.2 设计

4.2.1task

我们把满足下属条件的Python对象叫做task:

 

可以以某种确定的方式被调用,有0到多个入参

对该task的调用,应该返回

Complete,结果

Failed

一个list,该list由形如(head,tail1,tail2…)的元素组成,我们把这种元素叫做task元祖

我们把满足下述条件的tuple叫做task元祖: 形如:(head, tail1, tail2…)

 

head为一个task,且接受该tuple长度减1个参数

tail1、tail2应该是:

一个Python对象

一个task元祖

IO task

 

一个拥有触发条件的task叫做IO task.IO task只在满足触发条件的情况下才会被调度。

 

4.3  实现

调度器维护一个task元组的队列,根据特定的调度策略选择task执行,执行的结果将被投入该队列。IO task在满足触发条件的时候被调度,一种典型的IO task:

 

def recvsegment(s, length):

    rcv = s.recv(10000000)

    if len(rcv) == length:

        return rcv

    return lambda:rcv + recvsegment(s, length-len(rcv))

 

 

我们在每次调度的时候,会检查与一个IO task联系的标识符(文件描述符)是否准备好,如果准备好,就执行该IO task.对于task元组中参数被求值完毕(所有的tail都为一个值)的情况,我们会以这些参数为入参,执行head。在这种设计下,任何IO操作应该和主控制流分离,以(head, io1,io2…)的方式进行。

 

事实上,task的执行载体可以是原生线程,这样,就实现了M:N的并发模型,对于特殊的情况(IO完成却没有机会被调度倒的task),还可以动态增减线程进行处理。

 

在特定的假设下,这套多任务方案有一定的意义。这个假设就是:1.IO占据了控制流的大部分时间。2.任何一种非IO操作都可以很快完成。因此,在特殊的时机交出控制权,而不是抢占调度,是可以接受的。事实上,现实世界有很多系统满足这样的要求。

点击复制链接 与好友分享!回本站首页
上一篇:Python常用知识点汇总
下一篇:Python入門語法和類型
相关文章
图文推荐
文章
推荐
点击排行

关于我们 | 联系我们 | 广告服务 | 投资合作 | 版权申明 | 在线帮助 | 网站地图 | 作品发布 | Vip技术培训 | 举报中心

版权所有: 红黑联盟--致力于做实用的IT技术学习网站