python多线程并发实例及其优化

2019-11-25 12:37:20

字体：大中小

来源：转载

供稿：网友

单线程执行

python的内置模块提供了两个内置模块：thread和threading，thread是源生模块，threading是扩展模块，在thread的基础上进行了封装及改进。所以只需要使用threading这个模块就能完成并发的测试

实例

创建并启动一个单线程

import threadingdef myTestFunc():print("我是一个函数")t = threading.Thread(target=myTestFunc) # 创建一个线程t.start() # 启动线程

执行结果

C:/Python36/python.exe D:/MyThreading/myThread.py我是一个线程函数Process finished with exit code 0

其实单线程的执行结果和单独执行某一个或者某一组函数结果是一样的，区别只在于用线程的方式执行函数，而线程是可以同时执行多个的，函数是不可以同时执行的。

多线程执行

上面介绍了单线程如何使用，多线程只需要通过循环创建多个线程，并循环启动线程执行就可以了

实例

import threadingfrom datetime import datetimedef thread_func(): # 线程函数  print('我是一个线程函数', datetime.now())def many_thread():  threads = []  for _ in range(10): # 循环创建10个线程    t = threading.Thread(target=thread_func)    threads.append(t)  for t in threads: # 循环启动10个线程    t.start()if __name__ == '__main__':  many_thread()

执行结果

C:/Python36/python.exe D:/MyThreading/manythread.py我是一个线程函数 2019-06-23 16:54:58.205146我是一个线程函数 2019-06-23 16:54:58.205146我是一个线程函数 2019-06-23 16:54:58.206159我是一个线程函数 2019-06-23 16:54:58.206159我是一个线程函数 2019-06-23 16:54:58.206159我是一个线程函数 2019-06-23 16:54:58.207139我是一个线程函数 2019-06-23 16:54:58.207139我是一个线程函数 2019-06-23 16:54:58.207139我是一个线程函数 2019-06-23 16:54:58.208150我是一个线程函数 2019-06-23 16:54:58.208150Process finished with exit code 0

通过循环创建10个线程，并且执行了10次线程函数，但需要注意的是python的并发并非绝对意义上的同时处理，因为启动线程是通过循环启动的，还是有先后顺序的，通过执行结果的时间可以看出还是有细微的差异，但可以忽略不记。当然如果线程过多就会扩大这种差异。我们启动500个线程看下程序执行时间

实例

import threadingfrom datetime import datetimedef thread_func(): # 线程函数print('我是一个线程函数', datetime.now())def many_thread():threads = []for _ in range(500): # 循环创建500个线程t = threading.Thread(target=thread_func)threads.append(t)for t in threads: # 循环启动500个线程t.start()if __name__ == '__main__':start = datetime.today().now()many_thread()duration = datetime.today().now() - startprint(duration)

执行结果

0:00:00.111657Process finished with exit code 0

500个线程共执行了大约0.11秒

那么针对这种问题我们该如何优化呢？我们可以创建25个线程，每个线程执行20次线程函数，这样在启动下一个线程的时候，上一个线程已经在循环执行了，这样就大大减少了并发的时间差异

优化

import threadingfrom datetime import datetimedef thread_func(): # 线程函数print('我是一个线程函数', datetime.now())def execute_func():for _ in range(20):thread_func()def many_thread():start = datetime.now()threads = []for _ in range(25): # 循环创建500个线程t = threading.Thread(target=execute_func)threads.append(t)for t in threads: # 循环启动500个线程t.start()duration = datetime.now() - startprint(duration)if __name__ == '__main__':many_thread()

输出结果(仅看程序执行间隔)

0:00:00.014959Process finished with exit code 0

后面的优化执行500次并发一共花了0.014秒。比未优化前的500个并发快了几倍，如果线程函数的执行时间比较长的话，那么这个差异会更加显著，所以大量的并发测试建议使用后者，后者比较接近同时“并发”

守护线程

多线程还有一个重要概念就是守护线程。那么在这之前我们需要知道主线程和子线程的区别，之前创建的线程其实都是main()线程的子线程，即先启动主线程main()，然后执行线程函数子线程。

那么什么是守护线程？即当主线程执行完毕之后，所有的子线程也被关闭(无论子线程是否执行完成)。默认不设置的情况下是没有守护线程的，主线程执行完毕后，会等待子线程全部执行完毕，才会关闭结束程序。

但是这样会有一个弊端，当子线程死循环了或者一直处于等待之中，则程序将不会被关闭，被被无限挂起，我们把上述的线程函数改成循环10次, 并睡眠2秒，这样效果会更明显

import threadingfrom datetime import datetimeimport timedef thread_func(): # 线程函数　　 time.sleep(2)i = 0while(i < 11):print(datetime.now())i += 1def many_thread():threads = []for _ in range(10): # 循环创建500个线程t = threading.Thread(target=thread_func)threads.append(t)for t in threads: # 循环启动500个线程t.start()if __name__ == '__main__':many_thread()print("thread end")

执行结果

C:/Python36/python.exe D:/MyThreading/manythread.pythread end2019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4686122019-06-23 19:08:00.4695592019-06-23 19:08:00.4695592019-06-23 19:08:00.4695592019-06-23 19:08:00.4695592019-06-23 19:08:00.4695592019-06-23 19:08:00.4695592019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4705562019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4715542019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4725572019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4735482019-06-23 19:08:00.4745452019-06-23 19:08:00.4745452019-06-23 19:08:00.4745452019-06-23 19:08:00.4745452019-06-23 19:08:00.4745452019-06-23 19:08:00.4745452019-06-23 19:08:00.4745452019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4755522019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4765482019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.4775462019-06-23 19:08:00.477546Process finished with exit code 0

根据上述结果可以看到主线程打印了“thread end”之后（主线程结束），子线程还在继续执行，并未随着主线程的结束而结束

下面我们通过 setDaemon方法给子线程添加守护线程，我们把循环改为死循环，再来看看输出结果(注意守护线程要加在start之前)

import threadingfrom datetime import datetimedef thread_func(): # 线程函数i = 0while(1):print(datetime.now())i += 1def many_thread():threads = []for _ in range(10): # 循环创建500个线程t = threading.Thread(target=thread_func)threads.append(t)t.setDaemon(True) # 给每个子线程添加守护线程for t in threads: # 循环启动500个线程t.start()if __name__ == '__main__':many_thread()print("thread end")

输出结果

2019-06-23 19:12:35.5645392019-06-23 19:12:35.5645392019-06-23 19:12:35.5645392019-06-23 19:12:35.5645392019-06-23 19:12:35.5645392019-06-23 19:12:35.5645392019-06-23 19:12:35.5655292019-06-23 19:12:35.5655292019-06-23 19:12:35.565529thread endProcess finished with exit code 0

通过结果我们可以发现，主线程关闭之后子线程也会随着关闭，并没有无限的循环下去，这就像程序执行到一半强制关闭执行一样，看似暴力却很有用，如果子线程发送一个请求未收到请求结果，那不可能永远等下去，这时候就需要强制关闭。所以守护线程解决了主线程和子线程关闭的问题。

阻塞线程

上面说了守护线程的作用，那么有没有别的方法来解决上述问题呢？其实是有的，那就是阻塞线程，这种方式更加合理，使用join()方法阻塞线程，让主线程等待子线程执行完成之后再往下执行，再关闭所有子线程，而不是只要主线程结束，不管子线程是否执行完成都终止子线程执行。下面我们给子线程添加上join()（主要join要加到start之后）

import threadingfrom datetime import datetimeimport timedef thread_func(): # 线程函数time.sleep(1)i = 0while(i < 11):print(datetime.now())i += 1def many_thread():threads = []for _ in range(10): # 循环创建500个线程t = threading.Thread(target=thread_func)threads.append(t)t.setDaemon(True) # 给每个子线程添加守护线程for t in threads: # 循环启动500个线程t.start()for t in threads:t.join() # 阻塞线程if __name__ == '__main__':many_thread()print("thread end")

执行结果

程序会一直执行，但是不会打印“thread end”语句，因为子线程并未结束，那么主线程就会一直等待。

疑问：有人会觉得这和什么都不设置是一样的，其实会有一点区别的，从守护线程和线程阻塞的定义就可以看出来，如果什么都没设置，那么主线程会先执行完毕打印后面的“thread end”，而等待子线程执行完毕。两个都设置了，那么主线程会等待子线程执行结束再继续执行。

而对于死循环或者一直等待的情况，我们可以给join设置超时等待，我们设置join的参数为2，那么子线程会告诉主线程让其等待2秒，如果2秒内子线程执行结束主线程就继续往下执行，如果2秒内子线程未结束，主线程也会继续往下执行，执行完成后关闭子线程

输出结果

import threadingfrom datetime import datetimeimport timedef thread_func(): # 线程函数time.sleep(1)i = 0while(1):print(datetime.now())i += 1def many_thread():threads = []for _ in range(10): # 循环创建500个线程t = threading.Thread(target=thread_func)threads.append(t)t.setDaemon(True) # 给每个子线程添加守护线程for t in threads: # 循环启动500个线程t.start()for t in threads:t.join(2) # 设置子线程超时2秒if __name__ == '__main__':many_thread()print("thread end")

你运行程序后会发现，运行了大概2秒的时候，程序会数据“thread end” 然后结束程序执行，这就是阻塞线程的意义，控制子线程和主线程的执行顺序

总结

最好呢，再次说一下守护线程和阻塞线程的定义