位置: IT常识 - 正文
推荐整理分享python进程池的使用注意(进程 python),希望有所帮助,仅作参考,欢迎阅读内容。
文章相关热门搜索词:python3 进程池,python 进程池 队列,python 进程池 队列,进程 python,python3 进程池,python进程池的作用,python进程池和线程池,python进程池的作用,内容如对您有帮助,希望把文章链接给更多的朋友!
1、使用注意
(1)使用池时,如果未指定进程数,则默认为CPU核心数。
(2)核心数量对应于计算机的逻辑处理器数量(任务管理器-性能),而不是核心数量(我的计算机有2个核心和4个逻辑处理器,因此这里默认使用4个进程)
(3)进程数可以是几十万,并不意味着开放进程的数量是4。只要使用池(10),就可以同时打开10个进程进行爬网。
(4)但是需要注意的是,无论多线程还是多进程,打开过多都会导致切换耗时,降低效率,所以创建过多的多线程和进程是谨慎的。
2、实例
importrequestsfrombs4importBeautifulSoupfrommultiprocessingimportPool,current_processdefget_title(i):print('start',current_process().name)title_list=[]url='https://movie.douban.com/top250?start={}&filter='.format(i*25)r=requests.get(url)soup=BeautifulSoup(r.content,'html.parser')lis=soup.find('ol',class_='grid_view').find_all('li')forliinlis:title=li.find('span',class_="title").text#returntitletitle_list.append(title)print(title)return(title_list)if__name__=='__main__':pool=Pool()foriinrange(10):pool.apply_async(get_title,(i,))pool.close()pool.join()print('finish')以上就是python进程池的使用注意,希望能对大家有所帮助。更多Python学习指路:Python基础教程
上一篇:dedecms中调用文章属性的名称(调用自定义属性名称)(dedecms转其他cms)
下一篇:python中ndarray创建的两种方法(python创建ndarray)
友情链接: 武汉网站建设