python进程池的使用注意

1、使用注意

（1）使用池时，如果未指定进程数，则默认为CPU核心数。

（2）核心数量对应于计算机的逻辑处理器数量(任务管理器-性能)，而不是核心数量(我的计算机有2个核心和4个逻辑处理器，因此这里默认使用4个进程)

（3）进程数可以是几十万，并不意味着开放进程的数量是4。只要使用池(10)，就可以同时打开10个进程进行爬网。

（4）但是需要注意的是，无论多线程还是多进程，打开过多都会导致切换耗时，降低效率，所以创建过多的多线程和进程是谨慎的。

2、实例

import requests
from bs4 import BeautifulSoup
from multiprocessing import Pool, current_process
def get_title(i):    
print('start', current_process().name)    
title_list = []    
url = 'https://movie.douban.com/top250?start={}&filter='.format(i*25)    
r = requests.get(url)    
soup = BeautifulSoup(r.content, 'html.parser')    
lis = soup.find('ol', class_='grid_view').find_all('li')    
for li in lis:        
title = li.find('span', class_="title").text        
# return title        
title_list.append(title)        
print(title)    
return(title_list)if __name__ == '__main__':    
pool = Pool()    
for i in range(10):        
pool.apply_async(get_title, (i, ))    
pool.close()    
pool.join()    
print('finish')

以上就是python进程池的使用注意，希望能对大家有所帮助。更多Python学习指路:python基础教程

本文教程操作环境：windows7系统、Python 3.9.1，DELL G3电脑。