位置: 编程技术 - 正文
Python 多进程并发操作中进程池Pool的实例(python多进程并发http请求)
编辑：rootadmin推荐整理分享Python 多进程并发操作中进程池Pool的实例(python多进程并发http请求)，希望有所帮助，仅作参考，欢迎阅读内容。
文章相关热门搜索词:python 多进程并发,python多进程并行同一父类下的多个子类,python 多进程并发,python 多进程并发,python 多进程并发执行,python多进程并发代码,python多进程并行,Python 多进程并发 内存不足,内容如对您有帮助，希望把文章链接给更多的朋友！
在利用Python进行系统管理的时候，特别是同时操作多个文件目录，或者远程控制多台主机，并行操作可以节约大量的时间。当被操作对象数目不大时，可以直接利用multiprocessing中的Process动态成生多个进程，几个还好，但如果是上百个，上千个目标，手动的去限制进程数量却又太过繁琐，这时候进程池Pool发挥作用的时候就到了。
Pool可以提供指定数量的进程，供用户调用，当有新的请求提交到pool中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到规定最大值，那么该请求就会等待，直到池中有进程结束，才会创建新的进程来它。这里有一个简单的例子：
先创建容量为3的进程池，然后将f(i)依次传递给它，运行脚本后利用ps aux | grep pool.py查看进程情况，会发现最多只会有三个进程执行。pool.apply_async()用来向进程池提交目标请求，pool.join()是用来等待进程池中的worker进程执行完毕，防止主进程在worker进程结束前结束。但必pool.join()必须使用在pool.close()或者pool.terminate()之后。其中close()跟terminate()的区别在于close()会等待池中的worker进程执行结束再关闭pool,而terminate()则是直接关闭。result.successful()表示整个调用执行的状态，如果还有worker没有执行完，则会抛出AssertionError异常。
利用multiprocessing下的Pool可以很方便的同时自动处理几百或者上千个并行操作，脚本的复杂性也大大降低。
——————————————————————————————————
Python多进程并发(multiprocessing)
由于Python设计的限制(我说的是咱们常用的CPython)。最多只能用满1个CPU核心。
Python提供了非常好用的多进程包multiprocessing，你只需要定义一个函数，Python会替你完成其他所有事情。借助这个包，可以轻松完成从单进程到并发执行的转换。
1、新建单一进程
如果我们新建少量进程，可以如下：
2、使用进程池
是的，你没有看错，不是线程池。它可以让你跑满多核CPU，而且使用方法非常简单。
注意要用apply_async，如果落下async，就变成阻塞版本了。
processes=4是最多并发进程数量。
3、使用Pool，并需要关注结果
更多的时候，我们不仅需要多进程执行，还需要关注每个进程的执行结果，如下：
..更新
根据网友评论中的反馈，在Windows下运行有可能崩溃(开启了一大堆新窗口、进程)，可以通过如下调用来解决：
简易worker multiprocessing.Pool
多任务模型设计是一个比较复杂的逻辑，但是python对于多任务的处理却有种种方便的类库，不需要过多的纠结进程/线程间的操作细节。比如multiprocessing.Pool就是其中之一。
官方给的范例也很简单。
并未做太多的详细解释。正好我手头有一段代码，需要请求几百个url，解析html页面获取一些信息，单线程for循环效率极低，因此看到了这个模块，想用这个实现多任务分析，参考代码如下：
确实比以前单线程for循环url_list列表，一个个请求analyse_url要快得多，但是带来的问题就是一旦pool.map没执行完就ctrl-c中断程序，程序就会异常，永远无法退出，参考stackoverflow的这个帖子，修改为以下代码:
至此问题完美解决。
以上这篇Python 多进程并发操作中进程池Pool的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持积木网。
Python安装Numpy和matplotlib的方法(推荐) Python安装Numpy和matplotlib的方法(推荐)注意：下载的库名中cp代表python2.7,其它同理。在shell中输入importpip;print(pip.peptags.get_supported())可以获取到pip支持的
python3.0 模拟用户登录,三次错误锁定的实例 python3.0模拟用户登录,三次错误锁定的实例实例如下所示：#-*-coding:utf-8-*-#需求模拟用户登录，超过三次错误锁定不允许登陆count=0#realnamepasswdReal_Username="t
利用Python-iGraph如何绘制贴吧/微博的好友关系图详解 前言最近工作中遇到了一些需求，想通过图形化的方式显示社交网络特定用户的好友关系，上网找了一下这方面的图形库有networkx、graphviz等，找了好久
上一篇：python 3.0 模拟用户登录功能并实现三次错误锁定(python编程模拟)
下一篇：Python安装Numpy和matplotlib的方法(推荐)(python安装numpy和matplotlib)
