一文带您了解Python中的并发:异步(Asyncio)和多线程(Thread)

liftword5个月前 (12-27)技术文章53


Python以其简单性和多样性而闻名,是一种适用于广泛应用领域的编程语言。在处理多个任务并发时,Python提供了两种主要方法:Asyncio 用于异步编程,Multithreading 用于管理多个线程。我们将探索这些并发机制,了解它们的差异,并发现何时使用每种方法以实现最佳性能。

并发性是一个概念,指多个任务或进程可以独立进行,而无需等待彼此。在编程领域中,它使程序能够同时处理多个任务,从而提高效率和响应性。

多线程(Multithreading)

多线程是一种并发模型,其中一个进程被分成多个执行线程。每个线程代表了同一个进程内部的独立控制流。Python的threading模块方便了线程的创建和管理。

import threading
import time
from  icecream import ic


def print_numbers():
    for i in range(5):
      time.sleep(0.5)
      ic(f"Number: {i}")
      time.sleep(0.5)
        


def print_letters():
    for letter in 'ABCDE':
        ic(f"Letter: {letter}")
        time.sleep(1)


# Create two threads
thread_numbers = threading.Thread(target=print_numbers)
thread_letters = threading.Thread(target=print_letters)


# Start the threads
thread_numbers.start()
thread_letters.start()


# Wait for both threads to finish
thread_numbers.join()
thread_letters.join()

在这个示例中,print_numbersprint_letters 可以在不同的线程中并发运行,从而提高了整体的执行速度。

异步(Asyncio)

Asyncio引入自Python 3.4版本,是一种利用协程实现并发的异步编程框架。与多线程不同,asyncio利用单线程事件循环来管理异步任务。

import nest_asyncio
nest_asyncio.apply()


import asyncio


async def mock_api_request(i):
    print(f"API request started {i}")
    await asyncio.sleep(1)  # this could be an API call, or some other IO bound task
    print(f"API request completed {i}")


async def run():
    tasks = []
    for i in range(10):
        tasks.append(asyncio.create_task(mock_api_request(i)))
    await asyncio.wait(tasks)


asyncio.run(run())

print_numbersprint_letters 是安排在单个线程中并发运行的协程。await asyncio.sleep(1) 模拟了异步操作。

多线程(Multithreading)和异步(Asyncio)的比较:

  1. 并发模型:
    i) 多线程:利用多个执行线程。
    ii) 异步(Asyncio):利用协程实现异步编程。
  2. 性能:
    i) 多线程:可以在多核系统上实现并行性,但由于Python的全局解释器锁(GIL)的存在,可能会面临挑战,限制线程的真正并行执行。
    ii) 异步(Asyncio):可以高效地执行异步I/O操作,适用于I/O密集型任务。不适合CPU密集型任务。
  3. GIL影响:
    i) 多线程:GIL可能影响线程的并行执行,限制了多线程对CPU密集型任务的好处。
    ii) 异步(Asyncio):不受GIL相关问题影响,适用于I/O密集型任务和协作式多任务处理。
  4. 编程模型:
    i) 多线程:采用传统的多线程模型,使用线程和锁。
    ii) 异步(Asyncio):依赖于协程和事件循环的异步编程模型。
  5. 使用场景:
    i) 多线程:适用于并行化CPU密集型任务和需要真正并行性的任务。
    ii) 异步(Asyncio):理想用于同时处理大量I/O密集型任务,如网络操作或文件I/O。

选择合适的方法/经验:

选择合适的方法,主要参考以下情况:

  • 理解您的用例:评估您的应用程序是更多I/O密集型还是CPU密集型。选择与您任务性质相符的并发模型。
  • 考虑GIL影响:注意全局解释器锁及其对多线程性能的影响。如果GIL对您的用例是一个限制因素,考虑使用Asyncio处理I/O密集型任务。
  • 进行分析和测量:分析您的应用程序在两种并发模型下的性能。测量上下文切换、GIL等因素的影响。
  • 并发组合:在某些情况下,多线程和Asyncio的组合可能适用于应用程序的不同部分。
  • 库兼容性:确保您使用的库和框架与您选择的并发模型兼容。

使用多线程(Multithreading)时:

  • 您有可以从并行性中受益的CPU密集型任务。
  • 您的应用程序可以有效地利用多个核心。
  • GIL相关约束对您的用例不是重要问题时。

使用异步(Asyncio)时:

  • 处理I/O密集型任务,如网络操作或文件I/O。
  • 异步编程提供了更可扩展和高效的解决方案。
  • 多线程中的GIL相关限制是一个问题时。


Python中的并发性为开发人员提供了处理多个任务的强大工具。了解多线程和Asyncio的细微差别对于根据您应用程序的性质做出明智的决策至关重要。无论您选择多线程的并行性还是Asyncio的效率,Python的多样性确保您可以同时处理各种各样的任务,并为您的应用程序提供最佳性能。

相关文章

人生苦短,我要在VSCode里面用Python

轻沉 发自 浅度寺 量子位 出品 | 公众号 QbitAI在程序员圈子里,Visual Studio Code(以下简称VSCode)可以说是目前最火的代码编辑器之一了。它是微软出品的一款可扩展的轻量...

轻松教会你Python的文件操作 python文件操作的三个步骤

1、前言Python中有几个内置模块和方法来处理文件。这些方法被分割到例如os, os.path , shutil 和 pathlib 等等几个模块中。文章将列举Python中对文件最常用的操作和方法...

Micropython 玩转硬件系列1:环境搭建

1.引言最近几年Python语言非常火,听说小学生都开始学Python了,让我这个中年人感到一丝丝压力。为了以后最起码能辅导辅导孩子,咱也得学学啊。学Python干什么用呢?我这本身是做嵌入式的,听说...

pip在Python中的9个必须知道的用法

如今,构建商业软件需要使用许多现有的框架、包或模块。因此,一种优雅的编程语言应该有一个易于使用的包管理工具。Java有Maven, Ruby有RubyGems, JavaScript有npm,…,那么...

Python爬虫进阶教程(二):线程、协程

简介线程线程也叫轻量级进程,它是一个基本的CPU执行单元,也是程序执行过程中的最小单元,由线程ID、程序计数器、寄存器集合和堆栈共同组成。线程的引入减小了程序并发执行时的开销,提高了操作系统的并发性能...

Python协程 & 异步编程(asyncio) 入门介绍

近期的编码工作过程中遇到了async和await装饰的函数,查询资料后了解到这种函数是基于协程的异步函数。这类编程方式称为异步编程,常用在IO较频繁的系统中,如:Tornado web框架、文件下载、...